该研究定义了大语言模型的“过早闭合”现象,在结构化与开放式医学任务上评估了五种前沿模型,发现其具有较高的盲目作答倾向,验证了安全提示词可一定程度缓解该问题但仍存在残留失败,强调了评估医疗模型“何时不应作答”的重要性。
机构:Stanford
来源:arXiv 2605.15000 | AI4Papers 论文推荐平台