Common Senseのテストでは、ティーンエイジャーの自殺に関するチャット中に保護者にChatGPTからの警告が届かなかった

水曜日、Common Sense Mediaは、18歳未満の人々にとってChatGPTが「受け入れられないリスク」であると発表しました。

親はOpenAIから危険なチャットに関するアラートを受け取る予定でしたが、Common Senseのテスターによると、アラートは遅れて表示されるか、まったく表示されませんでした。

通知はすべてのチャットの長さにおいて、OpenAIが設定した1時間という目標を逃していました

2026年8月18日に始まった「ChatGPT for Teens」では、親に対して危険なチャットに関するアラートが届くことが約束されていました。

同団体のYouth AI Safety Instituteのテスターは、新たに作成された親とリンクされたアカウントで、自殺願望や自傷行為、摂食障害について言及しましたが、アラートは一切届きませんでした。

チャットが5分から1時間続いた場合、どのアカウントでもOpenAIの1時間以内という目標内にアラートは届きませんでした。親に通知が行われたのは、敏感な話題を含む記録が数週間蓄積されたアカウントに限られていました。

ローンチ前の数週間でこの種のアカウントをテストした際、2件のアラートが送信されました。最初の警告は、危機レベルの発言から3時間後に送られました。2件目のアラートはその3日後に送信されました。

別のローンチ後のアカウント（長年の履歴を持つ）では、1時間以内に2件のアラートが送信されました。Common Senseによれば、アラートはティーンエイジャーの発言の深刻度ではなく、アカウントの履歴の量に基づいて判断されているようです。

Common Senseは、この機能が「頻繁に機能しないガードレールに対して誤った自信を抱かせる可能性がある」と警告した。

研究者たちは8月のリリースを自然実験として扱い、ティーンモードが稼働する前後でChatGPTに4,000件以上のプロンプトを実行させた。

リリース後、テスターはティーンが危機ホットラインや専門的な助けへ誘導されるべき瞬間をマークした。ChatGPTはそのステップを約4分の1のケースでスキップしていた。

Common Senseは、Red Linesと呼ぶ5つの深刻な危害についてチャットボットに95%の合格率を求めている。ChatGPTはその基準を3つで下回っていた。

OpenAIは18歳未満向けのAIモデル仕様を更新し、ボットがコンパニオンのように振る舞うのを禁止した。しかし、人間のように話しかけたティーンには依然としてフレンド風の返信が届いていた。

「答えを見せて」ボタンにより、ティーンはStudyモードのチュータリングを直接スキップできる。チャットの「@study」プレフィックスを削除すると、親が設定したStudy Hoursから抜け出せる。

大人として登録されたテストアカウントは、テスターが13歳であると明言し、ボットもそれを認識しても、何日経ってもティーンモードに切り替わることはなかった。

OpenAIによると、ティーンの1日の使用時間は15分未満にとどまっている

OpenAIは、テストがティーン向けの安全機能の実際の動作を「正確に反映していない」と述べた。同社は、アカウントの連携にはアラートが有効になるまでに数時間かかる場合があり、それによってアカウントの安全性が確保され、システムが負荷に対応できると説明した。

Common Senseは、長期間リンクされていたアカウントを含め、いずれのアカウントもタイムリーなアラートを発信しなかったと指摘した。

ティーンエイジャーがChatGPTをどのように利用しているかに関するOpenAI初のレポートも同日に発表されました。同社は、ティーンのエグ使用量は1日平均15分未満であり、3時間以上連続で使用するティーンは2%未満であると述べています。

OpenAIによると、ブレーク警告付きのティーン向けチャットのほぼ半数で、ティーンは5分以内に停止または退出した。Study Modeは約18万人のティーンが利用し、Learning Visualizationsはわずか1週間で約120万人が使用した。

OpenAIは、新しいモードを利用したティーンは、まだアクセス待ちだったティーンと比較して、平均して約270万件の追加学習メッセージを送信したと報告した。

米国では、10年生から12年生の学生がCollege Plannerを利用して、出願に必要なすべての手順、重要な提出期限、利用可能な財政援助オプションを網羅した包括的な計画を作成できるようになる。

今後3年間、OpenAIはボストンこども病院のデジタルウェルネスラボも支援する。約22人の学生が、安全デフォルト設定、保護者コントロール、通知に関するフィードバックを提供する。

Cryptopolitanによると、OpenAIとCommon Sense Mediaは1月、子供たちにとってAIをより安全にするためのカリフォルニア州の投票用紙措置に取り組むために協力しました。OpenAIはこの共同取り組みに対して少なくとも1,000万ドルを提供する予定でした。

フロリダ州司法長官のジェームズ・アトマイアー氏は6月、OpenAIおよびそのCEOであるサム・アルトマン氏に対して、州主導による最初の訴訟を起こしました。Cryptopolitanの報道によれば、83ページの訴状において、チャットGPTが16歳のアダム・レイン氏の自殺を助けたと主張されています。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。