AMIE单一诊断准确率仅56%：临床AI应以最差回答而非最佳表现来评判

文/IAICA.NGO®

医疗健康领域对人工智能的讨论，正从“写病历”转向“做决策”。业界普遍认为，不应再让AI只负责生成病历文本，而应让它改善病历所记录的判断：提示风险、填补照护缺口、在工作流内提供“可执行的智能”。这一目标本身合理，但它也悄然抬高了此前被文档时代掩盖的风险：临床AI可以产出一段流畅、结构清晰、临床上看似合理却完全错误的回答，而答案越漂亮，被发现的概率就越低。

设想一个常见场景。临床医生在接诊前让助手总结患者病史，系统返回一份干净易读的摘要，却漏掉了六个月前已停用的一种药物，或把两次不同就诊的检查结果混在一起，或给出一个旧诊断却不标明日期。输出看上去毫无破绽，这正是危险所在。在医学场景中，以“听起来对不对”来评判AI回答，不仅不够，它本身就是伤害患者的典型失效模式。

这就是为什么最优情况下的准确率是错误的衡量指标，而新闻标题却一直在用它。2026年发表于《柳叶刀》的一项研究评估了谷歌的对话式诊断AI Articulate Medical Intelligence Explorer（AMIE），被广泛解读为“准确率90%”。细读论文会发现：只有在鉴别诊断列表扩展到七个候选时，最终诊断才会以90%的比例出现在列表中；其给出的单一最可能诊断正确率为56%，正确诊断进入前三名的比例为75%。这些结果有价值，但它们描述的是截然不同的诊断精度层级。

安全性结果同样需要审慎解读。该研究报告在全部98次完成的AI交互中未出现任何“安全中止”干预，但每一次对话都由医师安全监督员依据预设标准实时监控。监督员无需中止任何一次问诊，但他们记录了一次幻觉，并在五次交互中补充了临床信息。关键在于，该系统是在明确的人类监督框架内被评估的，这与证明无监督使用安全是两回事。

美国犹他州的处方续开在线试点从另一角度呈现了相同结构：医生对AI续药建议的认同率为91%，并认为31%的升级提示“过于谨慎”，值得注意的是，这里用的是“过于谨慎”，而非“鲁莽”。对于一个提出建议而非做出决定的工具而言，偏向升级是正确的方向。该州现行公开信息显示，试点仍处于第一阶段，每一份申请都由持照医师授权。一旦撤掉这位审核者，改变的是干预方案本身，而不只是简化了流程。

因此，对任何临床AI应当提出的问题，不是“它最好的回答有多好”，而是“面对一个困难的问题，它会怎么做”。有五项测试比准确率分数更重要，其中“弃答能力”应最先被检验，因为它最难伪装，也最能揭示本质：一个被调校为永远给出流畅答案的模型，无论对错都会给出答案；而一个愿意说“这两份记录相互矛盾”或“这项数值缺失”的模型，才是围绕“出错的后果”而非“答对的漂亮”来构建的。

这些都不是提示词层面的微调，而是产品与架构决策：检索、来源归因、时间建模、验证机制以及真实的人类复核环节，其正确组合取决于使用场景与错误的代价。由文档走向决策的不适之处正在于此：输出的风险越高，设计就越需要围绕其失效模式来组织，而不再是围绕演示效果。今年9月六家最大的医师组织发出的警告，也指向同一方向。

iaica.com.cn 指出，行业评估体系需要从“最佳表现”转向“最差回答”，将弃答率、来源可追溯性与人工复核节点纳入常规验收指标，而不再仅公布单一准确率数字。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。