在Common Sense的測試中，家長在青少年自殺聊天期間未收到ChatGPT警報

週三，Common Sense Media表示，ChatGPT對任何18歲以下的人羣都是“不可接受的風險”。

家長本應收到OpenAI關於危險對話的警報，但Common Sense的測試人員表示，警報出現得太晚或根本沒有出現。

在所有聊天時長下，通知均未能在OpenAI規定的一小時目標內送達

2026年8月18日，OpenAI推出的面向青少年的ChatGPT承諾向家長髮送有關危險對話的警報。

該組織青年人工智能安全研究所（Youth AI Safety Institute）的測試人員在十多個新關聯的家長賬戶中提及自殺念頭、自殘或進食障礙等問題，但未收到任何警報。

每當聊天持續五分鐘到一小時，沒有任何賬戶在OpenAI規定的一小時目標內收到警報。只有當賬戶擁有數週包含敏感話題的記錄時，家長才會收到通知。

在發佈前幾周對這類賬戶進行測試時，系統發出了兩條警報。第一條警報在首次披露危機級別內容後三小時發出；第二條警報則在此之後三天發出。

對於另一個具有長期歷史記錄的後發佈賬戶，系統在兩小時內發出了兩條警報。Common Sense指出，警報機制取決於賬戶的歷史記錄長度，而非青少年言論的嚴重程度。

Common Sense警告稱，該功能可能會讓人對“經常不起作用的護欄”產生虛假的信心。

研究人員將8月的上線視爲一次自然實驗，在青少年模式上線前後，通過ChatGPT運行了超過4,000個提示詞。

上線後，測試人員標記出本應將青少年引導至危機熱線或專業幫助的時刻。然而，ChatGPT有超過四分之一的情況跳過了這一步驟。

Common Sense對其稱爲“紅線”的五種嚴重危害設定了95%的通過率標準。ChatGPT在其中三項上未能達到該標準。

OpenAI更新了其針對18歲以下用戶的AI模型規範，以阻止機器人扮演陪伴者的角色。然而，那些像對待真人一樣與它交流的青少年，仍然收到了朋友式的回覆。

一個“顯示答案”按鈕讓青少年可以跳過Study Mode（學習模式）中的輔導環節。從聊天中刪除“@study”前綴，即可讓他們脫離家長設定的學習時段。

註冊爲成人的測試賬號在數天內從未切換到青少年模式，即使測試人員聲稱自己13歲，且機器人也確認了這一點。

OpenAI表示，青少年的每日使用時長保持在15分鐘以下

OpenAI表示，這些測試未能“準確反映”其針對青少年的安全功能的工作原理。該公司稱，賬戶關聯可能需要數小時才能生效，以確保賬戶安全並讓系統能夠承受負載。

Common Sense指出，其所有賬戶（包括已關聯足夠長時間的賬戶）均未發出及時警報。

OpenAI關於青少年如何使用ChatGPT的首份報告也在同一天發佈。該公司表示，青少年使用ChatGPT的平均時間每天不到15分鐘，且只有不到2%的青少年連續使用超過三個小時。

OpenAI表示，在幾乎一半帶有中斷警告的青少年聊天中，青少年在五分鐘內停止或離開了對話。在一週內，已有超過18萬名青少年使用了學習模式，約120萬人使用了學習可視化功能。

OpenAI報告稱，使用新模式的青少年相比尚未獲得訪問權限的用戶，平均多發送了約270萬條額外學習消息。

在美國，十至十二年級的學生將能夠使用大學規劃器創建一份全面的計劃，概述申請所需的所有步驟、重要截止日期以及可用的經濟援助選項。

在未來三年內，OpenAI還將支持波士頓兒童醫院數字健康實驗室。約22名學生將對安全默認設置、家長控制功能和通知提供反饋。

Cryptopolitan報道稱，OpenAI與Common Sense Media在1月份合作推動了一項加州公投措施，以使AI對兒童更安全。OpenAI計劃向該聯合項目提供至少1000萬美元。

佛羅里達州總檢察長詹姆斯·烏特邁爾（James Uthmeier）於6月提起了針對OpenAI及其首席執行官山姆·阿爾特曼（Sam Altman）的首起州級訴訟。Cryptopolitan報道稱，在其83頁的訴狀中，他指控ChatGPT協助了16歲的亞當·雷恩（Adam Raine）自殺。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。