医生AI笔记助手可能在“编造内容”：安大略省审计报告揭露严重问题

近年来，许多超负荷工作的医生开始采用所谓的AI医疗笔记助手，帮助自动将患者对话、诊断结果和治疗决策转化为结构化电子病历记录。但安大略省审计长最近的一份报告显示，省政府推荐的这些AI笔记工具在实际测试中频繁生成错误、不完整甚至完全虚构的信息，可能导致治疗方案不当，甚至直接危害患者健康。

审计长在最新发布的《安大略省政府人工智能使用情况》特别报告中，对省政府预先批准的20家AI笔记供应商进行了严格测试。测试内容为两段模拟的医生-患者对话，结果显示全部20家供应商都在至少一项测试中存在准确性或完整性问题：其中9家出现了“幻觉”（hallucination），即凭空编造患者信息；12家记录了错误信息；17家遗漏了关于精神健康问题的关键细节。

报告列举了多起可能直接影响后续治疗的严重错误案例：AI笔记助手虚构了不存在的血液检查或心理治疗转诊；错误转录处方药名称；甚至完全忽略了患者在对话中明确提到的精神健康问题。这些错误一旦被直接写入病历，就可能导致医生制定不恰当甚至有害的治疗计划。

更令人担忧的是，在供应商遴选评分体系中，“医疗笔记准确性”这一关键指标仅占总分的约4%。这意味着即使某家供应商在准确性测试中得分为零，也很容易通过整体审批（相比之下，“安大略省本地存在度”一项就占30%）。审计报告直言，这些AI笔记工具“未得到充分评估”。

审计长在报告中以克制但明确的语气指出：“确保AI笔记系统生成高质量记录、最大限度减少错误至关重要。”同时建议医疗机构强制要求医生在使用前必须亲自审核并确认AI生成的笔记内容。

需要强调的是，安大略省公共医疗服务机构并非必须使用这些政府推荐的AI笔记工具，他们也可以选择未获批准的供应商。但省政府推荐了准确性存在明显缺陷的系统，这一事实本身已足以让医生和患者提高警惕。

这一审计结果再次提醒业界：在医疗这一高风险领域，AI笔记助手的便捷性绝不能以牺牲准确性和患者安全为代价。医生仍需保持对AI生成内容的最终把关责任，而监管部门也应尽快完善评估标准和使用规范。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。