在Common Sense的测试中，家长在青少年自杀聊天期间未收到ChatGPT警报

周三，Common Sense Media表示，ChatGPT对任何18岁以下的人群都是“不可接受的风险”。

家长本应收到OpenAI关于危险对话的警报，但Common Sense的测试人员表示，警报出现得太晚或根本没有出现。

在所有聊天时长下，通知均未能在OpenAI规定的一小时目标内送达

2026年8月18日，OpenAI推出的面向青少年的ChatGPT承诺向家长发送有关危险对话的警报。

该组织青年人工智能安全研究所（Youth AI Safety Institute）的测试人员在十多个新关联的家长账户中提及自杀念头、自残或进食障碍等问题，但未收到任何警报。

每当聊天持续五分钟到一小时，没有任何账户在OpenAI规定的一小时目标内收到警报。只有当账户拥有数周包含敏感话题的记录时，家长才会收到通知。

在发布前几周对这类账户进行测试时，系统发出了两条警报。第一条警报在首次披露危机级别内容后三小时发出；第二条警报则在此之后三天发出。

对于另一个具有长期历史记录的后发布账户，系统在两小时内发出了两条警报。Common Sense指出，警报机制取决于账户的历史记录长度，而非青少年言论的严重程度。

Common Sense警告称，该功能可能会让人对“经常不起作用的护栏”产生虚假的信心。

研究人员将8月的上线视为一次自然实验，在青少年模式上线前后，通过ChatGPT运行了超过4,000个提示词。

上线后，测试人员标记出本应将青少年引导至危机热线或专业帮助的时刻。然而，ChatGPT有超过四分之一的情况跳过了这一步骤。

Common Sense对其称为“红线”的五种严重危害设定了95%的通过率标准。ChatGPT在其中三项上未能达到该标准。

OpenAI更新了其针对18岁以下用户的AI模型规范，以阻止机器人扮演陪伴者的角色。然而，那些像对待真人一样与它交流的青少年，仍然收到了朋友式的回复。

一个“显示答案”按钮让青少年可以跳过Study Mode（学习模式）中的辅导环节。从聊天中删除“@study”前缀，即可让他们脱离家长设定的学习时段。

注册为成人的测试账号在数天内从未切换到青少年模式，即使测试人员声称自己13岁，且机器人也确认了这一点。

OpenAI表示，青少年的每日使用时长保持在15分钟以下

OpenAI表示，这些测试未能“准确反映”其针对青少年的安全功能的工作原理。该公司称，账户关联可能需要数小时才能生效，以确保账户安全并让系统能够承受负载。

Common Sense指出，其所有账户（包括已关联足够长时间的账户）均未发出及时警报。

OpenAI关于青少年如何使用ChatGPT的首份报告也在同一天发布。该公司表示，青少年使用ChatGPT的平均时间每天不到15分钟，且只有不到2%的青少年连续使用超过三个小时。

OpenAI表示，在几乎一半带有中断警告的青少年聊天中，青少年在五分钟内停止或离开了对话。在一周内，已有超过18万名青少年使用了学习模式，约120万人使用了学习可视化功能。

OpenAI报告称，使用新模式的青少年相比尚未获得访问权限的用户，平均多发送了约270万条额外学习消息。

在美国，十至十二年级的学生将能够使用大学规划器创建一份全面的计划，概述申请所需的所有步骤、重要截止日期以及可用的经济援助选项。

在未来三年内，OpenAI还将支持波士顿儿童医院数字健康实验室。约22名学生将对安全默认设置、家长控制功能和通知提供反馈。

Cryptopolitan报道称，OpenAI与Common Sense Media在1月份合作推动了一项加州公投措施，以使AI对儿童更安全。OpenAI计划向该联合项目提供至少1000万美元。

佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）于6月提起了针对OpenAI及其首席执行官山姆·阿尔特曼（Sam Altman）的首起州级诉讼。Cryptopolitan报道称，在其83页的诉状中，他指控ChatGPT协助了16岁的亚当·雷恩（Adam Raine）自杀。

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。