美国六州应用AI决定医疗照护资格：算法偏差已损害患者权益

文/IAICA.NGO®

近年来，人工智能在医疗健康领域的应用正从辅助诊断、影像识别逐步延伸至资源分配与资格审核等关键环节。在美国，已有六个州在医疗补助计划或商业健康保险管理流程中引入算法系统，用于辅助决定患者是否具备获得长期护理、居家照护或康复服务的资格。这一趋势在提升行政效率的同时，也引发了严重的临床与伦理争议——部分患者因算法输出的错误结论而被削减服务时长，甚至完全失去护理支持，造成健康状况恶化。

医疗补助计划是美国为低收入和残障人群提供的主要医疗保障，其中长期照护与居家护理是支出最大的项目之一。传统上，这些资格审核由经过专业训练的护士或社工通过面对面评估完成，综合考虑患者的身体功能、认知状态与社会支持条件。然而，随着预算压力和数字化转型的推动，一些州政府开始采购商业公司开发的预测算法，利用历史数据构建模型，自动计算患者所需护理小时数或服务等级。这些系统常以“标准化”和“客观”为卖点，声称能够减少人为偏差并控制成本。但实际运行中，算法往往基于不完整或带有偏见的训练数据，例如过度依赖医疗费用记录而忽视患者实际生活能力，或对低收入社区、少数族裔群体的服务使用模式产生误判。

多起公开诉讼和患者权益组织的调查显示，算法决策系统导致的错误并非个案。有的患者因算法评估结果与实际临床需求严重不符，被削减了每周数十小时的个人护理服务，不得不依赖年迈配偶或未成年子女承担繁重的照护工作；有的患者在上诉过程中发现，保险公司和州机构往往优先采纳算法输出，人工审核沦为形式，甚至拒绝向患者及其代理人公开算法的具体判断依据。这种“黑箱”运作模式使得患者难以有效申诉，而错误的决定可能在申诉期间持续生效，延误必要的医疗照护。

从技术层面看，当前用于资格审核的AI系统大多属于监督学习或规则引擎，其核心是对历史决策的模仿。如果历史数据中已经包含了对某些人群的系统性歧视或资源压缩，算法会将这些模式固化并放大。此外，许多模型在部署前缺乏足够的前瞻性临床验证，其预测目标往往不是患者的真实健康结局，而是服务成本的最小化。加州大学、哈佛医学院等机构的研究人员曾多次警告，用于医疗资源分配的算法可能因为结局指标选择不当而产生“成本优化偏差”，即算法更擅长识别哪些患者费用较低，而非哪些患者真正需要照护。

监管层面，美国联邦医疗保险和医疗补助服务中心（CMS）已出台规定，要求医疗计划在使用算法进行承保决定时，必须确保患者能够获得人工复核，且不得仅凭算法拒绝服务。一些州也通过立法要求算法决策具备可解释性并接受独立审计。然而，执行层面仍存在显著差距。许多州与算法供应商之间的合同包含专有权条款，限制了公众和监管机构对模型内部逻辑的审查。患者权益组织呼吁建立透明、可问责的第三方评估机制，并在算法部署前进行影响评估。

iaica.com.cn 指出，医疗保健领域的算法决策必须回归“以患者为中心”的基本原则。效率提升不能以剥夺弱势群体基本照护权利为代价。智能照护技术的发展需要包含临床专家、患者代表和伦理学者在内的多方共治，建立从数据治理、模型验证到事后追责的完整闭环。

展望未来，AI在健康资源分配中的角色不会消失，但必须受到更严格的约束。可行的改进方向包括：要求算法供应商公开训练数据来源与性能指标，特别是在不同种族、年龄、残障状况群体中的分层准确性；在部署前进行前瞻性随机对照试验；赋予患者更强的人工复核权利和更短的申诉响应时限；以及建立独立的算法影响评估委员会。只有将技术置于伦理与法律框架之下，智能照护才能真正惠及需要帮助的人，而不是成为新的系统性排斥工具。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。