調査によると、世界中の政府機関でAIによる洪水被害が84件発生していることが判明した。

11の管轄区域にわたる84件の「人為的洪水」事例を記録した研究は、この急増を安価なAI生成テキストと関連付けている。.

急増の87％は一つの能力に trac

ChatGPTの導入後、英国の住宅オンブズマンへの苦情件数は2倍以上に増加し、2022年の2,600件から2025年には7,000件強に達した。.

銀行や貸金業者に対する苦情を扱う米国消費者金融保護局（CFPB）には、同じ期間に5倍もの苦情が寄せられた。.

ブラジルの司法機関とドイツ連邦議会への請願も同様の形で増加した。.

クリス・シュミッツ氏が、Cooperative AI Foundationのルイス・ハモンド氏、GovAIのアラン・チャン氏と共同執筆したこの論文は、来月10月12日から14日に開催されるAAAI（米国人工知能学会）のAI、倫理、社会に関する会議で発表される予定だ。

また、個人による申請件数も急速に増加しており、研究者たちはこの点を最も懸念している。.

量的フラッディング（リクエスト数の増加）と質的フラッディング（単一のリクエストが長くなり複雑化する現象）は、互いに排他的ではありません。84件の事例のうち、50件は量的フラッディング、76件は質的フラッディング、42件は両方を示しています。.

ドイツの社会裁判所に提出されたある書類は、4000ページを超えていた。.

通常、提出件数には上限が設けられており、提出ラッシュを防ぐようになっている。しかし、一人が巨大な文書を一度に提出した場合、この上限設定は役に立たない。.

同じ能力が、サンプルにおける急増の87%を説明している。言語モデルは、安価かつ大規模にテキストを生成できる。.

今のところ、自ら代理店のウェブサイトにアクセスするエージェントはいない。.

84件のうち14件で手数料またはIPブロックが課せられた。

研究者たちは12か国にわたる2,288の政府サービスから調査を開始したが、3つのテストに同時に合格した84のサービスのみを残した。.

訴訟を起こすには、AIが申請コストを削減したというもっともらしい方法、実際に需要が変化したという証拠、そしてAIが原因であるとする当局者または信頼できる第三者からの明確な声明が必要だった。.

司法・法務サービスが19件で最多となり、次いで規制関連の苦情が10件、福祉・社会保障が9件となった。84件のうち58件では、政府関係者がAIを直接非難していた。.

13の要素からなるマトリックスに基づき、研究者らは、短期的に最も深刻なリスクは、請求が成功した場合に利益が得られるサービス、そして複雑な事務手続きが長年にわたり需要を抑制してきたサービス（確定申告、少額訴訟、不動産評価額の異議申し立てなど）にあることを明らかにした。ただし、本論文はその限界についても慎重な姿勢を示している。.

84件の事例は、因果関係やサービス全般への影響を証明するものではありません。これは存在の証明であって、測定ではありません。.

政府は、手数料、料金制限、対面での手続き義務付けなどによって需要を抑制することができる。あるいは、人員増強、独自のAIの導入、受付方法の再設計などによって供給能力を増強することもできる。.

84件のうち14件では、当局が摩擦を生む手段に訴え、手数料を復活させたり、IPアドレス範囲を遮断したりした。オーストラリアでは、情報公開請求に対する手数料を復活させる案が検討されている。.

しかし、この論文が警告しているのは、こうした対策は貧困層やデジタルリテラシーの低い応募者に不均衡な影響を与え、AIが開いていたはずの扉を閉ざしてしまうという点だ。.

イングランド銀行は、自律型人工知能システムが金融安定性を脅かす可能性があると警告しており、初期の消費者向けエージェントは既に実環境で誤作動を起こしている。

仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。