ChatGPT新增紧急联系人功能,此前已有33人死亡
OpenAI于周三推出了“可信联系人”功能。该功能允许成年ChatGPT用户选择一位联系人,以便在公司系统检测到有关严重自残的对话时收到警报。.
这是OpenAI于2025年9月推出的家长控制功能的扩展,该功能允许家长监控青少年的账户。根据OpenAI的公告,现在任何18岁及以上的用户都可以选择加入。.
OpenAI 的警报功能是如何运作的?
用户首先需要在 ChatGPT 设置中添加一位成年人作为其信任联系人。这位潜在的“信任联系人”会收到一封邀请邮件,邮件中会解释设置流程,并给予一周时间考虑是否接受。如果对方拒绝,用户可以选择其他人。.
当自动监控系统检测到潜在的自残对话时, ChatGPT 会告知用户可能会通知其联系人,并提供用户主动联系联系人的建议。
然后,一组人工审核员会查看对话内容。如果他们确认情况严重,就会通过电子邮件、短信或应用内通知向用户的联系人发送简短提醒。.
警报中不会包含用户说了什么,只会显示大致原因,并提供一个链接,指导用户如何应对棘手的问题。OpenAI 表示, 人工审核会在一小时内完成。
用户可以随时更换或移除已选择的联系人。联系人也可以随时取消订阅。.
医生们参与构建了 OpenAI 的可信联系人功能。
OpenAI表示,他们与全球医师网络(由60个国家的260多名执业医师组成)及其健康与人工智能专家委员会合作开展了这项研究。美国心理学会也参与其中。.
“心理科学一贯表明,社会联系是一种强大的保护因素,尤其是在情绪低落时期,”美国心理学会首席执行官亚瑟·埃文斯博士在公告中表示。.
“帮助人们提前dent值得信赖的人,同时尊重他们的选择和自主权,可以让他们在最需要的时候更容易获得现实世界的支持。”
佐治亚理工学院教授兼理事会成员蒙蒙·德·乔杜里博士称其为“迈向人类赋权的一步,尤其是在脆弱时刻”。
OpenAI面临来自人工智能自杀诉讼的压力。
这并非偶然。OpenAI 正面临大量诉讼,原告家庭的亲属在长时间使用 ChatGPT 聊天机器人后自杀身亡。在一些案例中,家属 声称 聊天机器人怂恿用户疏远亲人,或加剧有害的思维循环。
LLMDeathCount网站 trac人工智能聊天机器人相关死亡事件的 Cryptopolitan此前报道其中24例与ChatGPT有关,其余则与谷歌的Gemini、Meta和其他平台有关。
OpenAI 的新功能是可选的,用户可以运行多个 ChatGPT 账号。任何不启用“受信任联系人”功能或只是登录其他账号的用户都会绕过该功能。家长控制也存在同样的问题。.
Trusted Contact 也并不会取代危机热线。OpenAI 表示,ChatGPT 仍然会显示当地的危机热线号码,并在对话达到紧急危机级别时引导用户拨打紧急服务电话。.
OpenAI 的“可信联系人”功能将人工智能用户与现实世界的支持联系起来。该公司表示,将继续与临床医生、研究人员和政策制定者合作,探讨人工智能在用户可能遇到危机时应如何做出响应。.
你的钱在银行手里,你却只能拿到残羹剩饭。观看我们的免费视频,了解如何 成为自己的银行












