研究發現全球政府機構出現84起人工智能引發的洪水攻擊事件

一項研究記錄了 11 個司法管轄區內 84 起“代理氾濫”事件，並將這種激增與廉價的 AI 生成文本聯繫起來。.

87% 的激增 trac源於一項能力

ChatGPT 上線後，英國住房申訴專員收到的投訴數量增加了一倍多，從 2022 年的 2600 起增加到 2025 年的 7000 多起。.

負責處理銀行和貸款機構投訴的美國消費者金融保護局 (CFPB) 在同一時間段收到的投訴數量是之前的五倍。.

向巴西司法機構和德國議會提交的請願書也以類似的方式不斷增加。.

該 論文由 Chris Schmitz 與 Cooperative AI Foundation 的 Lewis Hammond 和 GovAI 的 Alan Chan 共同撰寫，將於下個月在 AAAI 人工智能、倫理與社會大會（10 月 12 日至 14 日）上發表。

此外，個人申報的數量也在快速增長，這也是研究人員最強調的一點。.

數量上的泛濫（請求數量增加）和質量上的泛濫（單個請求變得更長更復雜）並非互斥。在84個案例中，50個案例表現爲數量上的泛濫，76個案例表現爲質量上的泛濫，42個案例同時表現爲數量和質量上的泛濫。.

提交給德國社會法院的一份文件竟然超過 4000 頁。.

通常情況下，爲了防止提交過多文件，每日提交數量是有限制的。但如果一個人提交一份篇幅巨大的文件，這種限制就無濟於事了。.

同樣的能力可以解釋樣本中 87% 的文本激增現象。語言模型能夠以低成本大規模生成文本。.

目前還沒有經紀人會主動訪問經紀公司網站。.

84起案件中有14起導致罰款或IP封禁。

研究人員最初選取了十二個國家的 2288 個政府服務機構，但最終只保留了 84 個同時通過三項測試的機構。.

一個案例需要有合理的理由證明人工智能降低了申請成本，有證據表明需求確實發生了變化，並且有官方或可信的第三方明確聲明人工智能是造成這種變化的原因。.

司法和法律服務部門以 19 起案件位居榜首，其次是監管投訴部門（10 起）和福利和社會保障部門（9 起）。在 84 起案件中，有 58 起是政府官員直接指責人工智能。.

基於包含13個因素的矩陣，研究人員確定，近期風險最大的服務領域是那些索賠成功後才能獲得收益，且繁瑣的文書工作長期以來抑制了需求的服務，例如報稅、小額索賠和房產估值上訴。該論文對其侷限性持謹慎態度。.

84個案例並不能證明因果關係，也不能證明服務總體上受到影響。它只能證明存在這種現象，而不是衡量這種現象的指標。.

政府可以通過收費、限價或要求親自辦理來抑制需求。或者，也可以通過增加員工、開發人工智能或重新設計接待流程來提高接待能力。.

在84起案例中，有14起案件中，相關機構採取了對抗措施，例如恢復收費或屏蔽IP地址段。澳大利亞曾提出恢復對信息自由申請收取費用。.

但該報告警告說，問題在於這些補救措施對較貧困和數字素養較低的申請者造成了不成比例的影響，關閉了人工智能正在打開的同一扇門。.

英國央行警告稱，自主人工智能系統可能對金融穩定構成威脅，早期消費者代理已經在實際應用中出現過問題。

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。