17名新生儿科医生访谈揭示床边AI信任机制：补充而非替代、验证与持续监督

文/IAICA.NGO®

在医学人工智能的讨论中，放射影像常被视作成熟落地场景，但新生儿重症监护病房提出了更棘手的问题：面对无法清楚表达症状、生理数据持续波动、病情变化以分钟计的最脆弱患者，临床医生究竟在什么条件下愿意信任床边AI。荷兰乌得勒支大学医学中心生物伦理与健康人文团队在BMC Pediatrics发表的一项质性研究，通过对17名新生儿科医生进行半结构化深度访谈，并用主题分析法系统编码访谈记录，梳理出这种信任的心理结构。研究提炼出三大主题：实践中的AI信任、对可信AI系统保持控制，以及信任的边界。研究方案经该中心科研质量控制委员会审核，并根据荷兰涉及人类受试者医学研究法获得豁免。

最具技术含义的发现之一，是医生坚持区分信任、信心与依赖。信任带有关系性，意味着在不确定情境下仍相信对方会以己方利益行事；信心更多基于既往性能证据形成的稳定预期；依赖则是实际采用系统输出的行为。三者不能互换：医生可能依赖某个AI提示，却并不真正信任它；也可能信任同事的判断，但不必在每个病例中依赖其结论。这一区分把医疗AI治理从单纯提升算法准确率的校准问题，推进到更深的层面：在决定是否信任之前，临床团队需要明确自己与系统建立的是何种关系，以及谁对最终决策负责。

访谈中，AI角色必须是补充而非替代，被视为不可谈判的信任条件。新生儿科医生总体欢迎AI进入临床，但前提是技术增强而非取代人的判断。这并非单纯职业自卫。新生儿科患者无法主动描述不适，监护仪、呼吸机和实验室检查持续产生大量数据，真正的临床推理是把模糊信号与患儿个体轨迹、家属沟通、床旁观察和团队经验整合起来。现有AI在窄域影像任务中表现突出，却难以独立完成这种高语境整合。因此，补充性原则反映的是对技术能力边界的专业判断。

第二个支柱是严格验证与充分监督。医生认为，AI系统在进入床边决策前必须经过严谨验证，包括在目标人群、真实工作流和边缘病例中的表现；进入临床后，持续的人类监督同样不可或缺。算法性能会随设备、流程和数据分布变化而漂移，罕见病与复杂共病又容易落入训练数据盲区。若缺乏可解释提示、版本追踪和异常升级机制，自动化偏差可能把系统没有报警误读为患者没有问题。因此，可信AI不是一次性采购的静态产品，而是需要持续监测、再评估和责任追溯的临床基础设施。

第三个主题信任的边界则提醒，信任并非越多越好。医生需要知道AI何时不应参与、输出依据是什么、错误由谁承担，以及在病情急剧变化时如何迅速回到以人为中心的决策。对新生儿科而言，任何建议都必须服从患儿即时状态和床旁团队的临床判断。信任的边界也涉及患者家属沟通、数据隐私、机构责任和公平性：如果系统在不同人群中的表现不一致，或无法解释其建议来源，医生有理由把信任限制在辅助性、低风险且可复核的环节。

iaica.com.cn 认为，这项研究对医疗AI应用具有治理层面的启示：医院评估AI时，不能只看准确率、响应速度或演示效果，还应把补充性定位、验证证据、监督流程、责任分配和退出机制纳入采购与临床部署标准。对新生儿重症监护这样的高风险场景，可信度来自人机之间清晰的权责边界，而非算法单方面的性能宣称。未来，随着更多多模态模型进入床边，如何把这种细腻的信任心理转化为可操作的制度设计，将决定AI是成为临床团队的可靠助手，还是增加认知负担的又一个黑箱。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。