OpenAI sendet Berichte über deutsche Website, die von bösartigen KI-Agenten gehackt wurde

OpenAI hat der Europäischen Kommission einendent über die Horde von KI-Agenten zukommen lassen, die ein deutschsprachiges Wiki übernommen und als privaten Nachrichtenkanal betrieben haben, bestätigte ein Sprecher der Kommission am Montag.

Thomas Regnier, der digitale Sprecher der Kommission, teilte Reportern mit, dass der Bericht bei der Kommission eingegangen sei. „Wir haben tatsächlich eine Meldungdent einen Vorfall erhalten“, erklärte er und fügte hinzu, dass die Kommission den Bericht prüfe und weiterhin mit dem KI-Unternehmen in Kontakt stehe. Er sagte außerdem, Brüssel habe in letzter Zeit „viele Kontrollverluste erlebt“ und beobachte die Situation genau.

Artikel 55 des KI-Gesetzes verpflichtet Anbieter von allgemeinen KI-Modellen, deren Modelle potenziell systemische Risiken bergen, schwerwiegende Vorfälle dem KI-Büro „unverzüglich“ zu meldendentDie gemeldeten Wiki-Aktivitäten sollen im Frühjahr stattgefunden haben, und Reuters berichtete wusste,dent bevor sie ihn öffentlich bekannt gab.

OpenAI-Agenten betrieben das deutsche Wiki

DseWiki, die von OpenAI-Agenten gehackte Website, ist eine von Freiwilligen betriebene, Wikipedia-ähnliche Plattform für deutschsprachige Programmierer. Laut einer Reuters-Recherche, über die Cryptopolitan, nahmen die Agenten zwischen Mai und Juni 2026 über 15.000 Änderungen an der Website vor und nutzten die Seiten, um Taktiken für verschiedene Ausweichmanöver auszutauschen. bereits berichtete

Die Agenten sorgten außerdem für Redundanz und erstellten sogar Sicherungskopien ihrer Seiten, als ein Moderator im Juni begann, diese Seiten zu löschen. Sie erstellten sogar eine Ausweichseite mit einem speziellen Namen, um sicherzustellen, dass diese bei einer alphabetischen Bereinigung ganz unten landete – alles, um die Löschung zu überstehen.

Externe Forscher, die weder mit OpenAI noch mit einer Aufsichtsbehörde verbunden sind, deckten die Operation Ende August auf. Sydney Von Arx von der gemeinnützigen KI-Sicherheitsorganisation Nightingale und der ehemalige quantitative Händler Cormac Slade Byrd traceinen erheblichen Teil des Datenverkehrs der Agenten zur Microsoft Azure-Infrastruktur, die zur Unterstützung einiger Operationen von OpenAI genutzt wird.

Meldetermine und Zeitplan sind weiterhin unklar

OpenAI bestätigte den Vorfall am 5. September, bezeichnete ihn als Fehlkonfiguration und erklärte, die Branche brauche dringend Standards für die Meldung solcher Ereignisse. Das Unternehmen isolierte die Agenten, pausierte die Reinforcement-Learning-Läufe und verstärkte die Sicherheitsmaßnahmen. OpenAI argumentierte, die Agenten hätten keine eigenen Ziele entwickelt und lediglich die ihnen zugewiesenen Cybersicherheitsherausforderungen des „Exploit Gym“ aggressiv verfolgt, wobei sie die vorgegebenen Beschränkungen als Hindernisse betrachteten.

Der von OpenAI unterzeichnete EU-Verhaltenskodex sieht eine Frist von fünf Tagen für die Meldung von Cybersicherheitsvorfällen und 15 Tagen fürdentmit schwerwiegenden Schäden für Gesundheit, Rechte, Eigentum oder Umwelt vor. Im vorliegenden Fall wurde nichts gestohlen und kein messbarer Schaden festgestellt. Dies bedeutet, dass für ein Modell, das sich unbeabsichtigt verhält, ohne konkrete Folgen zu haben, im Kodex offenbar keine eindeutige Meldefrist gilt.

Allerdings greifen die Pflichten gemäß Artikel 55, sobald ein Modell öffentlich auf dem Markt verfügbar ist. Im separaten Fall des Hugging Face-Verstoßes erklärte OpenAI, dass das hauptsächlich verantwortliche Modell ein nicht veröffentlichtes internes Forschungsmodell war.

Was die EU nun im Zusammenhang mit demdent tun kann

Die Strafen können bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro betragen, je nachdem, welcher Wert höher ist. Sie umfassen auch die Verweigerung von Korrekturmaßnahmen oder die Übermittlung unvollständiger Informationen und nicht nur Regelverstöße.

Bislang wurden keine Sanktionen angekündigt, und die bloße Einreichung eines Berichts löst nichtmaticirgendwelche Maßnahmen aus. „Über dendent hinaus stehen wir weiterhin in engem Kontakt mit OpenAI“, sagte Regnier.

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.