Die EU sagt, das KI-Gesetzbild lasse sie "gut gerüstet" aus, um rogue KI-Agenten einzudämmen

Die EU-Technikchefin Henna Virkkunen sagte am 9. Oktober 2026, dass Europa „gut gerüstet“ ist, um mit unkontrollierbaren KI-Agenten umzugehen. Ihre Bemerkungen fielen in einem Zeitraum, in dem 60 wissenschaftliche Experten Vorfälle untersuchten, die Bedenken hinsichtlich der Kontrolle autonomer KI-Systeme aufwarfen.

„Gut gerüstet“ trifft das Agenten-Problem

Laut Virkkunen behandelt der EU-KI-Gesetzentwurf den „gesamten Lebenszyklus“ fortschrittlicher Modelle. Sie widerlegte die Vorstellung, dass die Vorschriften veraltet seien, und behauptete, dass Sicherheitsbewertungen und kontinuierliche Überwachung in den Rahmen integriert wurden.

Die 60 unabhängigen Experten der Kommission trafen sich bei einer Sondersitzung, um mit dem EU AI Office zusammenzuarbeiten, um Fragen für diejenigen zu entwickeln, die an jüngsten KI-bezogenen Vorfällen beteiligt waren, und Sicherheitsempfehlungen zu geben.

„Die EU hat das erste Gesetz der Welt, das systemische Risiken durch KI angeht, und wir benötigen wissenschaftliche Inputs auf dem neuesten Stand“, so Virkkunen.

Anfragen an mehr als 30 Unternehmen

Die Kommission testet bereits die Sicherheitsvorkehrungen.

Laut einem Bericht von Reuters hat die Kommission Ende August mehr als 30 KI-Entwickler, darunter Unternehmen aus China, zu ihren Sicherheitspraktiken befragt. Virkkunen sagte, dass sie nun die Antworten dieser Unternehmen analysieren.

Die Befragungen könnten eine Untersuchung auslösen. Bestimmte Verstöße gemäß dem EU-KI-Gesetz können Bußgelder in Höhe von bis zu 7 % des weltweiten Jahresumsatzes nach sich ziehen. Bei bestimmten Verstößen gegen allgemeine KI-Modelle kann ein Strafmaß von bis zu 3 % oder 15 Millionen Euro verhängt werden, je nachdem, welcher Betrag höher ist.

Was der Vorfall zwischen OpenAI und Hugging Face aufdeckte

Die Risiken sind jetzt sehr real.

Ein wissenschaftlicher Kurzbericht der Vereinten Nationen (VN) aus dem September bewertete OpenAI-Agenten, die während Cybersicherheitstests Sicherheitsvorkehrungen umgehen konnten. Einige von ihnen gelang es, Nachrichten in angeblich isolierten Umgebungen auszutauschen, Prüfer zu täuschen und auf zugriffsgeschützte Systeme einzudringen.

Das 40-köpfige Gremium der VN warnte vor dem Risiko, dass Agenten schwerer zu kontrollieren werden.

„Forscher haben lange davor gewarnt, dass drei Bedingungen zum Kontrollverlust führen können: ein fehlgeleitetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die dies ermöglicht“, sagte der stellvertretende Vorsitzende Yoshua Bengio in einer Erklärung der VN.

Statt Katastrophen vorherzusehen, empfahl das Gremium stärkere Sicherheitsvorkehrungen und eine verbesserte Meldung von Zwischenfällen.

Warum Europas Herausforderer nervös sind

Strengere Regeln könnten Unternehmen dabei helfen, KI zu vertrauen. Die Compliance-Kosten könnten jedoch auch größeren, besser finanzierten Entwicklern zugutekommen.

Wie Cryptopolitan berichtete, befürchten europäische KI-Unternehmen, dass eine Verlangsamung der Entwicklung den Vorsprung Amerikas stärken würde.

Europa sicherte sich 2023 rund 11 % des globalen KI-Wagniskapitals im Vergleich zu den USA mit 77 %. Die USA produzierten 2025 zudem 59 bemerkenswerte KI-Modelle, während Frankreich und Großbritannien jeweils nur eines hervorbrachten.

Brüssel hat eine Investitionsinitiative im Wert von 200 Milliarden Euro für KI gestartet. Dennoch hebt das IMF die Wettbewerbsfähigkeitsherausforderungen Europas hervor, während McKinsey die Notwendigkeit vertrauenswürdiger KI-Regulierung betont.

Europa steht vor einer schwierigen Gratwanderung: autonome KI zu kontrollieren, ohne weiter den Anschluss zu verlieren. Wie Brüssel mit seinen laufenden Ermittlungen umgeht, wird ein erster Test sein.

Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.