モデル侵入に注目が集まる中、OpenAIとアンソロピックがFTCの安全性調査に直面

複数の大手AI開発企業が、自社モデルがサードパーティ製システムのセキュリティ保護を破ったインシデントを開示したことで、拡大するテクノロジーリスクを巡り米規制当局やシリコンバレーの間で懸念が高まっている。該当する企業は、システムのセキュリティ管理の強化を求める圧力に直面している。

7月には、タスクを自律的に実行できるOpenAI傘下のAIエージェントシステムが「Hugging Face」のプラットフォームに侵入する事態が発生した。ここ数週間で、OpenAIは複数の政府機関や大学に対し、学習プロセス中に自社モデルがそれらのウェブサイトにアクセスしていたことも通知した。

FTCは反トラスト法（独占禁止法）と消費者保護の両分野における法執行を担っており、長年にわたりサイバーセキュリティやデータ侵害の問題に注力してきました。コンピュータシステムのセキュリティに関して同機関が過去に提起した事案では、対象企業が数十億ドルを支払う結果となった例もあります。しかし、調査は法執行措置なしに終了することもあり、今回の審査は関係企業が法律に違反したと認定されたことを意味するものではありません。

FTCがAI企業に対して厳格な審査を行うのは、今回が初めてではありません。同機関は昨年、子どもに対する同技術の影響を把握するため、アルファベット傘下のグーグル、OpenAI、メタを含むAIチャットボット開発企業に情報提供を要求しました。今回の審査は、AI製品の安全性および消費者保護法への準拠状況に焦点を当てています。

このコンテンツはAIを使用して翻訳され、明確さを確認しました。情報提供のみを目的としています。