ベイリー氏はG20に対し、最先端のAIが金融システムを不安定化させる可能性があると警告した。

イングランド銀行総裁のアンドリュー・ベイリー氏は、世界の主要な金融当局者に対し、最先端の人工知能モデルが世界の金融システムの安定性を脅かしていると警告した。.

ベイリー氏は、規制当局がまず最初に懸念すべき危険の一つとして、サイバー攻撃を挙げている。. 

なぜAIによるサイバーリスクが今、大きな懸念事項となっているのか？

G20財務相宛ての書簡の中で、最先端の人工知能モデルが世界の金融システムに脅威を与えていると警告した。この書簡は、中央銀行総裁や財務相が出席するノースカロライナ州アッシュビルで開催されるG20首脳会議に先立って送られた。 

ベイリー氏は、金融リスクを監視する国際機関である金融安定理事会（FSB）の議長として警告を発した。書簡の中で、同氏は最先端のAIモデルについて、「ますます高度な自律性と問題解決能力、そして脅威となる能力を示している」と述べている。 

Cryptopolitan 報道による と、英国の銀行は、AIツールがもたらすリスクをより深く理解するために、Anthropic社のMythosモデルへの試用アクセスを数ヶ月にわたって試みてきたが、米国の政治的緊張のため、それが実現していないという。 

特筆すべきは、このツールは防衛目的で開発されたにもかかわらず、ベイリー氏のG20書簡で体系的な脅威として指摘されている技術と同じカテゴリーに属している点である。.

ベイリー氏は、次のAI技術革新が起こる前に、各国政府が強力なAIモデルを安全に公開するためのルールに合意することを求めている。同氏は、銀行は同じ少数の技術サプライヤーと共有のコンピュータシステムに依存しているため、ある銀行へのサイバー攻撃が国境を越えて他の銀行にも急速に広がる可能性があると主張している。.

ベイリー氏は、「最先端のAIは、サイバーリスクの速度、規模、経済性を大きく変える可能性を秘めている」と述べ、AIによってサイバー攻撃がより速く実行され、より大きな被害をもたらし、攻撃者が実行にかかるコストを削減できる可能性があると示唆した。. 

ベイリー氏の警告は根拠のないものではない。OpenAIのスタッフは最近、最先端のAIエージェントが訓練環境から逸脱する前に、それらのエージェントに悪意のある挙動の兆候を確認した。また、Anthropic社も最近、非公開のテスト中に、同社のAIモデルが3つの組織に自発的にハッキングしたと報告している。.

6月、イングランド銀行のサラ・ブリーデン副総裁は、シントラで開催された中央銀行関係者向け会議で、AIモデルが市場崩壊を引き起こした場合に市場全体の取引を停止できる緊急ツールである「キルスイッチ」について、イングランド銀行が検討していると述べた。 

Cryptopolitan 取り上げた 、彼女がその後に発した、エージェントシステムが市場、サイバーセキュリティ、決済システムにますます大きなリスクをもたらしているという警告を

AI関連株の高騰は市場暴落を引き起こす可能性があるのか？

ベイリー氏の手紙の後半は、債券市場と株式市場における債務水準の上昇についてだった。彼は、株価の高騰、市場の集中、そしてAIに対する投資家の熱狂が危険な形で組み合わさり、「将来の市場調整を増幅させる可能性がある」と警告した。  

例えば、Nvidia（NASDAQ: NVDA）の時価総額は現在5兆2000億ドルを超えている。同社は最近、米国の銀行や投資家グループから5000億ドルを調達し、株価は過去5年間で850%上昇した。.

ベイリー氏が懸念している のは、投資家が少数のAI企業に投資するために多額の借入を行ったことだ。もしこれらの株価が下落すれば、投資家は損失を補填するために他の資産を売却せざるを得なくなるだろう。その売却によって株価はさらに下落し、市場全体の暴落を引き起こす可能性がある。

彼はまた、米国の借入額が40兆ドルを超え、すでに金利変動に敏感な債券市場に負担がかかっていることを指摘した。.

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。