Die Bank von England ist besorgt über KI-Agenten und schlägt eine Regulierungsreform vor

Sarah Breeden, die stellvertretende Gouverneurin der Bank von England für Finanzstabilität, warnte davor, dass autonome KI-Systeme eine wachsende Bedrohung für die Finanzmärkte, die Cybersicherheit und die Zahlungsinfrastruktur darstellen, und forderte die Zentralbanken weltweit auf, bessere Regulierungen für den Sektor zu prüfen.

Auf dem Jahresforum der Europäischen Zentralbank in Sintra, Portugal, erklärte Breeden, dass sich agentenbasierte KI schneller entwickle als von den Regulierungsbehörden erwartet. Ihren Ausführungen zufolge verdoppelte sich 2019 die Dauer der Softwareaufgaben, die führende KI-Modelle bewältigen konnten, alle sieben Monate. Bis 2024 soll diese Verdopplung jedoch alle vier Monate erfolgen.

Die in diesem Frühjahr erzielten Durchbrüche bei der Erkennung von Cybersicherheitslücken lassen vermuten, dass sich dieses Tempo beschleunigt haben könnte.

„Wir wurden in diesem Frühjahr überrascht, und wir sollten auf weitere technologische Überraschungen vorbereitet sein“, sagte bei der Veranstaltung am 30. Juni.

Von der Inhaltserstellung bis zum autonomen Handeln

Breeden hob drei wichtige Phasen der KI-Entwicklung hervor und erklärte, dass generative KI-Systeme zu Beginn des Jahrzehnts Inhalte nur auf Aufforderung erzeugten. Ende 2024 waren Modelle so trainiert, dass sie mehrstufige Probleme lösen konnten. Agentische Systeme können nun Entscheidungssequenzen völlig selbstständig planen und ausführen, ohne jegliche menschliche Aufsicht.

Im Finanzsektor deutet diese Entwicklung auf ein System hin, in dem KI-Agenten mit minimalem menschlichen Eingriff Wertpapiere handeln, Zahlungen abwickeln und auf Cyberbedrohungen reagieren können. Breeden beschrieb anschließend ein Finanzsystem, das „autonomer, in großem Umfang und mit hoher Geschwindigkeit“ agiert, wobei Agenten im Auftrag von Verbrauchern, Händlern und Handelsplattformen handeln.

Die Bank von England ist am meisten über Cyberrisiken besorgt

Unter den verschiedenen Risiken für die Finanzstabilität hob Breeden die Cybersicherheit als das kritischste Problem hervor. Sie verwies auf das AI Security Institute der britischen Regierung, das eine enorme Verbesserung der Fähigkeiten von KI im Internetdenthat.

Die gleichen Werkzeuge, die Verteidigern helfen, Schwachstellen zu finden und zu beheben, ermöglichen es Angreifern auch, diese zu entdecken und auszunutzen. Breeden warnte davor, dass der missbräuchliche Einsatz dieser Funktionen „die Wahrscheinlichkeit von Angriffen, die die Finanzstabilität gefährden könnten, erheblich erhöht“

Breedens Ausführungen beinhalteten den Vorschlag, dass autonome Handelstools möglicherweise eingebaute „Not-Aus-Schalter“ benötigen, um Marktschocks zu verhindern, was eine Abweichung von den derzeit geltenden Vorschriften darstellen würde.

Der Investitionsboom birgt enorme Risiken

Breeden erwähnte eine weitere Sorge hinsichtlich der Finanzierung dieser KI-Systeme. Der Finanzpolitische Ausschuss der Bank kam im April zu dem Schluss, dass große Technologieunternehmen zwar anfänglich die Entwicklung und Wartung der KI-Infrastruktur aus cash und Eigenkapital finanziert hatten, die Nutzung von Fremdkapitalfinanzierung jedoch rapide zunehme und neue, komplexe Formen annehme.

Dies bedeutet, dass ein plötzlicher Wertverfall von KI-bezogenen Vermögenswerten nun massive ripple auf die Kreditmärkte haben könnte. Der stellvertretende Gouverneur der Bank von England erklärte, der Ausschuss sei zu dem Schluss gekommen, dass „die Folgen eines Preisverfalls bei KI-bezogenen Vermögenswerten für die Finanzstabilität durchaus zunehmen könnten“

Eine detailliertere Bewertung dieses Themas durch den Ausschuss wird am 7. Juli erwartet.

Breeden argumentierte außerdem, dass Zentralbanken sich anpassen müssten, um KI selbst bei der Überwachung dieser Systeme einzusetzen, und sich nicht nur auf die Bewältigung der durch KI entstehenden Risiken konzentrieren dürften.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.