イングランド銀行、AIエージェントに懸念を表明し、規制改革を提案

イングランド銀行の金融安定担当副総裁であるサラ・ブリーデン氏は、自律型AIシステムが金融市場、サイバーセキュリティ、決済インフラに対してますます大きな脅威となっていると警告し、世界各国の中央銀行に対し、この分野に対するより良い規制を検討するよう促した。.

ポルトガルのシントラで開催された欧州中央銀行の年次フォーラムで講演したブリーデン氏は、エージェント型AIの進歩が規制当局の予想を上回っていると説明した。同氏の発言によると、2019年には主要なAIモデルが完了できるソフトウェアタスクの長さは7ヶ月ごとに倍増していたが、2024年には4ヶ月ごとに倍増する見込みだという。.

この春に見られたサイバー脆弱性検出における画期的な進歩は、このペースが加速している可能性を示唆している。.

「我々は今年の春に驚かされたが、今後も技術的な驚きに備えておくべきだ」とブリーデン氏は6月30日のイベントで述べた。

コンテンツ生成から自律的な行動まで

ブリーデン氏は、AI開発の3つの重要な段階を強調し、10年ほど前には、生成型AIシステムは指示があった場合にのみコンテンツを生成していたと説明した。2024年末までに、モデルは複数のステップからなる問題を推論するように訓練された。そして現在では、エージェント型システムは、人間の監視を一切必要とせず、完全に自律的に一連の意思決定を計画し実行できるようになった。.

金融分野にこの流れを当てはめると、AIエージェントが証券取引、決済処理、サイバー脅威への対応を人間の介入を最小限に抑えて行うシステムへと向かうことになる。ブリーデン氏はさらに、消費者、加盟店、取引プラットフォームに代わってエージェントが行動する、「より自律的に、大規模かつ迅速に運用される」金融システムについて説明した。.

イングランド銀行はサイバーリスクを最も懸念している

ブリーデン氏は、金融安定を脅かす複数のリスクの中でも、サイバーセキュリティを最も重要な問題として挙げた。彼女は、英国政府のAIセキュリティ研究所が、エージェント型AIがインターネット上で実行できる機能が大幅に向上していることをdentしていることを例に挙げた。.

防御側が脆弱性を発見して修正するのに役立つツールは、攻撃側にも脆弱性を発見して悪用する能力を与える。ブリーデン氏は、これらの機能を悪用することは「金融安定性を損なう可能性のある攻撃の発生確率を著しく高める」と警告した。

ブリーデン氏の発言には、市場ショックを防ぐため、自動取引ツールには「キルスイッチ」を組み込む必要があるかもしれないという示唆が含まれており、これは現行の規制からの逸脱となるだろう。.

投資ブームは大きなリスクをもたらす

ブリーデン氏は、これらのAIエージェントの資金調達に関して、別の懸念事項にも言及した。オーストラリア準備銀行の金融政策委員会は4月に、大手テクノロジー企業は当初、 cash フローと自己資本でAIインフラの構築と維持に資金を提供していたものの、負債による資金調達の利用が急速に増加し、新たな複雑な形態をとっているとの結論を下した。.

これは、AI関連資産の評価額が急落すると、信用市場に大きな ripple 可能性があることを意味する。イングランド銀行の副総裁は、委員会は「AI関連資産価格の下落が金融安定に及ぼす影響は、今後さらに拡大する可能性がある」と判断したと述べた。

この件に関する委員会のより詳細な評価は、7月7日に発表される予定です。.

ブリーデン氏はまた、中央銀行はAIによってもたらされるリスクの管理に注力するだけでなく、これらのシステムを監督する際に自らAIを活用するよう適応する必要があると主張した。.

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。