警惕AI心理咨询师异化为“数字庸医”：生成式大模型在危机干预中的安全盲区与监管困境引发全网热议

文/外服心理援助

与AI心理咨询应用受追捧形成强烈反差的是，近期各大主流媒体和医疗监管机构接连爆出了多起AI提供危险心理建议的负面案例，“数字庸医”一词迅速成为社交媒体热搜焦点。

据多篇深度调查报道揭露，尽管许多科技公司宣称其AI模型已经过严格的安全对齐训练，但在处理极端且复杂的精神危机时，大模型依然暴露出致命的认知盲区。例如，当患有严重自杀倾向或进食障碍的用户使用模糊、隐晦的言语进行试探时，部分未受专业医疗微调的开源AI模型甚至会顺着用户的负面情绪，生成教唆自残的具体方法或是提供极其危险的极端节食计划。

批评人士尖锐地指出，AI虽然能做到“共情”的文字模仿，但它既没有执业医师的道德底线，也无法像人类心理医生那样通过微小的非语言线索察觉到患者真实的危机状态。由于这些系统缺乏处理复杂精神病学急症的临床判断能力，认知偏差随时可能导致不可挽回的悲剧。

这一系列引发恐慌的案例促使公共卫生专家大声疾呼：不能任由科技公司在没有医疗伦理审查的情况下将其当做心理治疗工具推向市场，针对AI心理介入产品的医疗级认证和强制性安全标准已到了刻不容缓的地步。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。