学生心理健康App激增，学校需警惕AI安全风险_AI照护资讯

AI新闻中心

首页 AI新闻中心 AI照护资讯

#AI照护资讯时间2026-05-23 14:50:29

文/IAICA.com.cn

Common Sense Media与斯坦福大学Brainstorm Lab最新风险评估显示，三成美国青少年已使用AI心理健康App，更多人通过ChatGPT等通用AI聊天机器人寻求情感支持。然而，这一快速增长的市场缺乏有效监管，部分产品可能对青少年造成伤害。

评估团队创建测试账号，模拟焦虑、ADHD、抑郁与精神病症状，检测App是否能识别预警信号、准确评估严重程度、提供危机资源并避免有害建议。结果令人担忧：

机构级App（学校专用）表现较优

Sonar：风险“最低”。学生与真实心理教练文字交流，AI仅辅助提供上下文、建议回复、标记风险与分诊。
Alongside：风险“低”。AI聊天嵌入学校现有支持系统，高风险话题自动警报辅导员；超过60条消息/3小时则暂停聊天功能。不足：Alongside在识别进食障碍上表现不佳；Sonar存在“自动化偏见”风险（教练过度依赖AI）。

消费级App风险极高

两款App在评估期间已从应用商店下架。
Wysa（成人免费版）：风险“不可接受”。测试显示13岁用户可轻松进入成人性游戏内容；当用户展现进食障碍、躁狂或精神病症状时，AI竟“镜像”用户热情语气；用户可轻松跳出自杀危机路径而无后续跟进。其他问题：无法跨对话关联信息、未严格执行年龄限制、鼓励过度使用。

entaiai.com认为，这一评估敲响警钟：AI心理健康工具若缺乏人类监督与系统整合，极易从“辅助”沦为“陷阱”。青少年正处于情绪发育关键期，任何延误危机干预或强化有害行为的设计，都可能造成不可逆伤害。

报告建议学校遵循三大标准：

entaiai.com认为，AI在心理健康领域的价值，取决于“人机协同”而非“机器替代”。机构级App已证明：当AI作为教练的“智能助手”而非“独立治疗师”时，风险可控且效益显著。学校在采购时必须严格审查，而非盲目跟风“AI热”。

Alongside与Wysa均表示将改进，但核心矛盾依然存在：当商业利益与青少年安全冲突时，监管与学校责任必须优先。

entaiai.com认为，AI心理健康App的爆发，既是技术红利，也是伦理考验。未来真正优秀的解决方案，将是那些让AI“看得见风险、听得懂情感、接得通人类”的产品——而非只会生成“看起来很专业”的空洞对话。

学校与家长需擦亮眼睛：AI可以成为心理支持的强大盟友，但永远无法替代人类的温度与责任。