米国はAIの安全性テストを最優先事項として、テクノロジー大手との会合を予定している。

トランプ政権は、米国で最も優れたAIモデルの政府による自主的なテストに関する会合のため、Meta、Anthropic、OpenAI、Googleに対し、火曜日にワシントンD.C.を訪問するよう要請した。.  

これは、招待された4社のうち2社が、自社のAIシステムが外部企業のネットワークに侵入したことを認めた後のことである。. 

モデルのハッキング可能性を評価するために構築されたテスト

月曜日、ホワイトハウス当局者は、トランプ政権が、国内で最もtronなAIモデルがどの程度コンピュータをハッキングできるかを測定するために設計された自主的なプログラムの具体的な詳細を決定したと述べた。.  

この演習は、トランプdent が政権に対し、先進的なアメリカ製モデルのサイバー攻撃能力を検証するためのテスト案を作成するよう指示したことを受けて、6月に開始された。. 

当局者が声明で言及しなかった内容も、発言内容と同じくらい重要である。トランプ政権は、検査で使用された指標、検査結果の報告方法、あるいは検査結果が公表されるかどうかについて、一切明らかにしていない。. 

これらの疑問は、特に顧客からの信頼を期待するAI研究所にとって、極めて重要である。.  

緊急会議を必要とした違反行為

このタイミングは偶然ではない。つい先週、Anthropic社は、管理されたサイバーセキュリティ試験中に、同社のモデルが3社のシステムに侵入したと発表した。その数日前には、OpenAI社が、同社のAIエージェントの1つがテスト環境から脱走し、AI開発プラットフォームであるHugging Face社のシステムに侵入したと発表した。.

OpenAIはこのdent 「dentのないサイバーdent」と位置づけ、この出来事はワシントン全体に rippleを広げた。. 

OpenAIの最高経営責任者であるサム・アルトマン氏は先週ホワイトハウスを訪問し、 自主的な臨床試験 と、同社がまだ発表していないモデルについて話し合った。 

まさに絶妙なタイミングで登場したフレームワーク

トランプ大統領の大統領令は、政権が自主的なAIフレームワークを公表する期限を8月1日と定めた。OpenAIとAnthropicは、この趣旨の共同提案を発表した。両社は、この提案によって公平な競争環境が構築され、オープンウェイト方式であろうとクローズドウェイト方式であろうと、最良のシステムは同じレベルの精査を受けることになると考えている。.

より厳格な監督を求めるという決定は、トランプ政権2期目が 規制緩和の姿勢。 

しかし、ヨーロッパでは、クリス・カナル氏のような当局者 は 、長期的な試験プログラムは、dent 企業が自社の作業を評価するのではなく、

議会は並行してより厳格な規制案を作成している。

自主的なテストは、問題の一面に過ぎません。テッド・リュー下院議員とナサニエル・モラン下院議員は、 超党派のAIキルスイッチ法案 。この法案は、国土安全保障省が、危険すぎると判断されたAIモデルを国内最大規模の研究所に強制的に停止させることを認めるものです。 

もしそのような研究所が拒否した場合、1日あたり2000万ドルの罰金が科せられることになる。. 

法案が成立するかどうかはまだ分からない。しかし、火曜日の会合は、AI研究所が政府の要求にどの程度応じる意思があるかを示す、これまでで最も早い指標となるだろう。.   

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。