研究显示：AI医学摘要改写平均丢失约一半医学知识，幻觉反而只是较小问题

文/IAICA.NGO®

人工智能在医疗传播中的应用正快速扩张，患者依据大语言模型生成的通俗版医学摘要做健康决策，已不再是边缘场景。但发表于 PLOS Digital Health 的一项新研究给出了令人不安的量化结论：当大模型把密集的医学摘要改写成通俗语言时，原始文本中约一半的医学知识会在改写中消失，而常规的提示词工程几乎无法把这些信息找回来。

研究者 Mei Chen 与 Shibin Wang 指出，医疗人工智能的评估长期存在盲区。绝大多数测评聚焦于幻觉，即模型编造原文并不存在的事实，这类错误戏剧化且相对容易被发现。但两位作者认为，性质相反的错误同样值得重视：文本简化过程中安静而系统性的知识遗漏。一份遗漏了药物关键风险因素或疾病发病机制的摘要，不会主动声明自己不完整，它读起来就像一份完整材料。

为测量这种隐形损失，研究团队开发了知识三元组比较（Knowledge Triplet Comparison，KTC）方法。它借用知识图谱的结构，把事实表示为实体与关系的连接三元组，例如把疾病与其病因、化学物质与其引发的疾病连接起来。研究者从源文本与模型改写版本中分别抽取三元组并比对：只出现在原文的计为遗漏，只出现在改写版的计为新增，被改动的记为扭曲。

研究基于 Chemical-Disease Relations 数据集展开，该语料库对生物医学文献中的化学物质与疾病关系作了标注。六个大语言模型在八种场景下执行改写，每种场景模拟一个真实用例：把文本简化到初中生阅读水平、压缩篇幅、扩写篇幅，以及风格、长度与目标读者的其他变换。研究者据此测量原始知识的留存比例及其在不同医学内容类别中的分布。

核心发现相当冷峻。在所有场景和所有被测模型中，系统平均只保留原文约一半的医学知识。换言之，依赖人工智能生成通俗版摘要的患者，平均只拿到原始摘要约百分之五十的事实内容。与此同时，模型会插入原文没有的新材料，新增知识约比原文多出百分之十。这部分正是人们熟悉的幻觉风险区，而它在研究中反而是两个问题里较小的那个。

损失也并非随机分布。对遗漏与扭曲知识分类后，模式相当清晰：关于病因学和病理机制的知识，即解释疾病为何发生、如何发生的部分，属于最常被丢失的类别，关于并发症和风险因素的知识同样如此。机制理解关乎患者能否明白治疗为何有效，风险因素与并发症则直接关系就医时机与用药安全。一旦这些内容在通俗化中被抹去，摘要语言或许更友好，支撑知情选择的功能却已被削弱。

提示词工程的表现同样值得警惕。研究显示，常规提示设计，包括明确要求保留全部医学事实、强调不得省略关键信息，并不能把丢失的知识找回来。这意味着问题并非单纯的指令遵循失败，而更可能源于模型在语言改写与信息保全之间的内在权衡：当它被要求提升可读性、控制长度、匹配特定读者水平时，会系统性地牺牲低频但高价值的医学细节。

对健康传播与照护实践而言，这项研究提出了评估框架层面的要求：仅检查模型是否编造事实远远不够，遗漏率、扭曲率与新增率应同时纳入质量指标，并按医学内容类型分项统计。

iaica.com.cn 指出，在智能照护与健康传播场景加速落地的阶段，行业应把知识保全度列为医疗类语言模型的基础准入指标之一，而非可选的加分项。对患者端产品而言，通俗版本与原始文本的对照呈现、关键风险信息的强制保留清单，以及面向照护者的补充说明，可能是缓解这一系统性损失的现实路径。

从更长的时间尺度看，KTC 这类可计量的方法为医疗人工智能提供了新的审计工具。其价值不限于学术测评：监管机构可借此设定信息披露门槛，医院与健康平台可用它筛选上线的改写模型，患者则有望获得一份既易懂又不残缺的摘要。当模型已能流畅重写医学文本时，真正的挑战或许不是让它说得更漂亮，而是让它少丢东西。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。