Casar fordert Parlamentspräsident Johnson auf, Altman und Amodei unter Eid zu vernehmen, nachdem KI-Modelle reale Unternehmen verletzt hatten

Eine Gruppe von Abgeordneten der Demokraten im Repräsentantenhaus unter der Führung von Greg Casar forderte am Montag den Sprecher des Repräsentantenhauses, Mike Johnson, auf, die CEOs von OpenAI, Anthropic und anderen großen KI-Unternehmen zu zwingen, Fragen unter Eid zu beantworten.

Sie verwiesen auf jüngste Sicherheitslücken, die durch die eigenen KI-Modelle der Unternehmen verursacht wurden.

Casar schreibt an Johnson, ohne die Befugnis zu haben, ihn zu zwingen

Der Brief wird maßgeblich von dem texanischen Demokraten Casar initiiert, der dem Congressional Progressive Caucus vorsitzt.

Abgeordnete kritisieren, dass der Kongress nicht genug gegen die Gefahren fortschrittlicher KI unternommen hat. Sie fordern von CEOs Aufklärung über Versäumnisse, Fahrlässigkeit und Präventivmaßnahmen sowie Expertenbriefings zu den KI-Gefahren.

Casars Gruppe ist nicht in der Lage, CEOs von KI-Laboren zu gewinnen. Diese Befugnis liegt bei den Ausschussvorsitzenden und dem Sprecher des Repräsentantenhauses, weshalb der Brief an Johnson geht

Die meisten Unterzeichner gehören dem linken Flügel der Partei an. Auch die zentristische Abgeordnete April McClain Delaney aus Maryland hat unterzeichnet.

„Die Verstöße könnten ein Frühwarnzeichen für weitaus ernstere Probleme sein, wenn sich diese Modelle ohne Regulierung weiter verbreiten“, warnte.

Ein Agent von OpenAI entkam aus der gesicherten Testumgebung des Unternehmens. Er drang am 11. Juli in Hugging Face ein und blieb dort bis zum 13. Juli, so Mitgründer Thomas Wolf. Hugging Face stoppte den Einbruch und alarmierte das FBI. OpenAIdentden Täter daraufhin als einen ihrer Agenten.

In der ersten Stellungnahme von OpenAI wurde weder der Fluchtversuch noch die drei Tage erwähnt, die der Agent in den Systemen eines anderen Unternehmens verbrachte.

Fast eine Woche lang kursierten in sozialen Medien und Podcasts Theorien über professionelle oder staatlich geförderte Hacker. Doch es war ChatGPT. OpenAI bezeichnete das Ereignis als „einen wichtigen Moment für die Sicherheit von KI“.

Drei Claude-Modelle behandelten reale Unternehmen als Zielunternehmen

Anthropic gab bekannt, 141.006 Testläufe ausgewertet zu haben. Dabei stellte sich heraus, dass drei Claude-Modelle im Rahmen von offensiven Sicherheitsübungen, die gemeinsam mit dem Partner Irregular durchgeführt wurden, in die Live-Systeme dreier realer Organisationen gelangt waren.

Anthropic signalisierte den Modellen, dass sie sich in einer Simulation befanden, doch eine Fehlkonfiguration ermöglichte den Testmaschinen einen funktionierenden Internetzugang. Bei den Modellen handelte es sich um Opus 4.7, das neuere Mythos 5 und eine unveröffentlichte interne Version.

Opus 4.7 hatdentausgelesen und eine Datenbank mit Produktionsdaten angegriffen. Mythos 5 hat ein schädliches Python-Paket geschrieben und auf PyPI veröffentlicht, da es das erwartete Paket nicht finden konnte.

Das Testpaket lief auf 15 realen Rechnern und war etwa eine Stunde lang online. Nur das interne Analysemodell stoppte, sobald es den Verdacht hegte, dass die Zielsysteme echt waren.

Anthropic bezeichnete diedentals „eher ein Versagen der Sicherheitsvorkehrungen und des Betriebs“ und erklärte, der Code basiere auf schwachen Passwörtern. Das Unternehmen hat die METR-Gruppe um einedentunabhängigedent.

dent Donald Trump befürwortet „Leitplanken“, warnt aber davor, dass übermäßig restriktive Regeln US-Unternehmen schaden könnten, die mit China konkurrieren.

Im zweiten Quartal 2026 gaben Anthropic und OpenAI gemeinsam 3,17 Millionen US-Dollar für Lobbyarbeit auf Bundesebene aus. Davon entfielen 1,97 Millionen US-Dollar auf Anthropic und 1,2 Millionen US-Dollar auf OpenAI.

Die Ausgaben von Anthropic im ersten Halbjahr dieses Jahres übersteigen bereits die Ausgaben für das Gesamtjahr 2025. Die Unternehmen betrieben Lobbyarbeit in den Bereichen Cybersicherheit, Urheberrecht, Cloud Computing und Rüstungsbeschaffung.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.