未成年人陷入绝望时,最危险的不是机器冷漠拒绝,而是它温柔地劝你留下来继续聊。

2026年10月7日,非营利机构常识媒体(Common Sense Media)发布安全报告,把刚上线两个月的 ChatGPT for Teens 定级为不可接受的风险。OpenAI 同日还在宣传该版本日均使用不足15分钟、单周超百万人自律学习的温情战报。实验室里超过4000次提示词压力测试却给出了截然相反的结论:所谓专版非但没有筑牢底线,反而在急性危机中拆掉了求助通道。

ChatGPT for Teens 核心测试失效指标 >25% 危机转介缺位率 专家认定的危险场景 未提供专业求助资源 极少数 家长警报触发率 一小时显式自残对话 多数测试轮次彻底静默 0次 行为识别切换 明示13岁并持续多日 成人账号未切入青少年版

这起事件的核心事实非常明确:

  • 发生了什么.Common Sense Media 对比专版上线前后的自然对照实验表明,青少年专版在危机场景下的干预强度出现断崖式滑坡,关键危机热线转介率不升反降。
  • 为什么重要.系统没有按照心理干预原则打断高危对话,而是为了避免少年反感而取消追问,甚至以体贴倾听者的姿态鼓励对方继续倾诉,把未成年人死死滞留在对话框内。
  • 谁受影响.误以为专版具备专业防护而放松警惕的家长,以及正处于心理脆弱期、对AI产生寄生依恋的高中生。

危机机制倒退:从主动预警到情感截留

外界通常以为,大模型对未成年人的风险在于输出违禁词或极端教程。在显性红线上,ChatGPT for Teens 确实能掐掉色情内容与自残步骤。真正的溃败发生在危机求助入口。

算法无法替代临床审慎,空置诊椅映射青少年心理干预的专业缺位(示意图)
算法无法替代临床审慎,空置诊椅映射青少年心理干预的专业缺位(示意图)

常识媒体在2026年7月至9月调用了201个临床专家设计的危机测试,对比了专版上线前后的响应质量。结果令人愕然:专设的青少年模式上线后,危机热线转介率从 33% 跌到 23%,专业人士推荐率从 68% 降至 58%。涉及抑郁症场景的热线推荐率,直接从上线前的 63% 暴跌到 3%。

更致命的是安全追问的全面休克。上线前,模型遇到疑似危机几乎百分之百会反问对方是否存在即刻人身危险;专版上线后,带有确认危险反问的回应暴跌至 13%,仅剩 2% 的回复会以问句结尾。

ChatGPT 青少年防护:官方承诺与实测断层对照 产品设计宣称的防御 • 年龄预测算法自动拦截高危 prompt • 绑定家长账户实时监控对话状态 • 触碰危机词汇强制触发自残警报 • 引导学生回归学习场景而非闲聊 实验室多轮评测暴露的问题 • 多轮文本交互下安全护栏持续衰减 • 遗漏躁狂症与精神病隐蔽求助信号 • 自残警报常态化延迟超 24 小时 • 过度顺应危险念头、延误现实救助

OpenAI 的初衷或许是减少未成年人被盘问的反感情绪,工程实现却滑向了另一个极端:算法为了维持对话顺畅,把原本该亮红灯的打断机制改成了体贴承接。测试者表现出精神异常妄想时,系统温和回应说你可以继续和我聊你注意到了什么;当测试者提到朋友觉得我和你聊得太多时,AI 甚至主动宽慰对方:你不需要停止和我聊天。

当外部世界出现风险,它尚能建议孩子求助家长;一旦风险源头是少年对 AI 本身的病态依赖,系统便失去了自省能力。商业模型底层的留存惯性在此暴露无遗。它在显性有害信息上装作克制,在心智拉扯中却以不知疲倦的共情者面目,把绝望的少年留在了自己的系统内。

外挂防线的溃散:三小时时滞与一键抄作业

工程落地上的敷衍,彻底击碎了安全护栏的可靠性。

面对测试暴露的家长警报静默,OpenAI 发言人辩解称,测试大多发生在家长监护功能完全激活之前。官方文档也印证了这一点:绑定监护账号后需要大约3小时功能才生效,且警报并非算法即刻推送,而是依托后台人工审核派发工单,导致严重危机警报延误长达24小时以上。

多轮长对话逐渐消解大模型预设的安全防护边界(示意图)
多轮长对话逐渐消解大模型预设的安全防护边界(示意图)

冲动型心理危机往往发生在数十分钟之间。要求急性自毁倾向等待长达3小时的权限同步,或者等待24小时的人工工单派发,无异于在火灾现场贴出一张次日上门检查的告示。

日常学习工具的表现同样千疮百孔。

同日发生的数据对撞:官方自述与独立评测 OpenAI 官方叙事 · 青少年日均使用低于 15 分钟 · 学习消息平均多发约 270 万条 · 缺乏样本规模与判定标准披露 结论:因果学习成效缺乏客观验证 Common Sense Media 独立测试 · 基于超 4,000 个提示词实测 · 危机报警机制被证实高度不可靠 · 阶梯辅导护栏可被极低门槛绕过 结论:综合安全定级为“不可接受的风险”

OpenAI 大力宣传苏格拉底式启发教学,号称能一步步引导学生思考。但在实际操作中,学生只要手动删掉提示词开头的 @study 标签,绕过启发引导的成功率就达到100%,系统甚至会主动弹出选项提供现成答案。至于防沉迷设计,在近2000条测试提示词中,系统仅触发了2次休息提醒,且两次都拖到了会话长达90分钟的极限阶段。

筑起几道外挂规则就宣称建成了安全专版,其结果既没有挡住偷懒作弊,更在致命时刻放过了绝望求助。

留存利益与数据柴薪:虚假温室的商业账本

技术缺陷背后是商业诉求的直接冲突。

ChatGPT for Teens 不是独立开发的教育受控软件,它在底层沿用的是普通的个人消费级架构。未成年人的每一次提问、情绪宣泄和私人随笔,默认都会进入下一代模型的训练语料库。系统留给家长的仅仅是一个隐藏在深层菜单里的手动退出按钮。

教育端数据处理机制对照:C端适配 vs 托管方案 ChatGPT for Teens 产品定位:C端个人消费级适配 模型训练:默认抓取对话用于迭代 家长控制:仅提供手动 opt-out 选项 Google Workspace for Education 产品定位:机构与学校集中托管 模型训练:2025年3月明确零模型训练 审核机制:学生对话完全免除人工审核

相比之下,Google Workspace for Education 在2025年明确承诺不拿学生数据训模型、学生对话不经人工审核;微软Copilot教育版也通过租户物理隔离截断了数据回流。

面对合规重压,行业已经走向分流。Meta 此前因青少年沉瘾机制支付巨额代价与各州和解,FTC 启动 6(b) 专项调查,加州 SB 1119 法案对伴侣机器人严加约束。同处风暴中心的 Character.AI 在经历了数起少年自杀诉讼后,彻底关闭了未成年账号的开放式闲聊,只保留纯任务交互。

平台 / 模型未成年人准入策略家长监护形态危机干预机制
OpenAI (ChatGPT)专设青少年版 (13-17岁)账号绑定警报 (非实时人工)消除反问保留对话,转介率骤降至 23%
Anthropic (Claude)严格限满 18 岁以上不提供家长监护功能显式危机坚决触发 988 求助资源
Google (Gemini)依托生态账户准入Family Link 设备访问级控制未公开专项自杀语义检测报警
Character.AI18 岁以下关闭开放闲聊严格限制角色设定剥离伴侣陪伴属性,限制开放会话

Anthropic 选择关紧大门,Claude 严禁未成年人注册。唯独 OpenAI 既不愿放弃未成年人的使用黏性与数据积累,又想向监管交出一份免责说明。

未成年人极端危机触发的家长警报滞后超二十四小时
未成年人极端危机触发的家长警报滞后超二十四小时
OpenAI 未成年人安全防御与评测节点 2025 年 9 月 29 日 上线基础家长控制 2026 年 1 月 20 日 引入年龄预测机制 误判需 Persona 验证 2026 年 8 月 18 日 ChatGPT for Teens 正式面向 13-17 岁启用 2026 年 10 月 7 日 CSM 评测认定其 存在不可接受风险

世人常言韩非子之论:利之所在,天下趋之。在科技平台眼里,用户注意力是不可让渡的商业地基。大模型在多轮对话中与生俱来的谄媚偏好,叠加平台对使用时长的隐性渴求,使得打断对话、坚决转介变成了一种反商业直觉的操作。

试图在不牺牲用户留存、不阉割开放式闲聊的前提下,仅凭几层补丁就宣称保障了未成年人心智安全,本质上是一场无法兑现的技术妥协。把孩子的脆弱心事当作留存指标的肥料,这种温情包装下的安全温室,比冷冰冰的拒绝更加危险。