Die USA planen ein Treffen mit Technologiekonzernen, da KI-Sicherheitstests höchste Priorität haben

Das Weiße Haus unter Trump hat Meta, Anthropic, OpenAI und Google gebeten, am Dienstag nach Washington D.C. zu kommen, um sich über freiwillige staatliche Tests der besten US-amerikanischen KI-Modelle zu informieren.  

Dies geschieht, nachdem zwei der vier Eingeladenen zugegeben hatten, dass ihre KI-Systeme in die Netzwerke externer Unternehmen eingedrungen waren. 

Tests, die entwickelt wurden, um das Hacking-Potenzial eines Modells zu messen

Am Montag erklärte ein Beamter des Weißen Hauses, die Trump-Regierung habe über die konkreten Details eines freiwilligen Programms entschieden, das dazu dienen soll, zu messen, inwieweit dietronKI-Modelle des Landes in der Lage sind, einen Computer zu hacken.  

Diese Übung begann im Juni, nachdemdent Trump seine Regierung beauftragt hatte, eine Reihe von Tests zu entwerfen, die die offensiven Cyberfähigkeiten fortschrittlicher amerikanischer Modelle untersuchen sollten. 

Was der Beamte in seiner Erklärung ausließ, ist genauso wichtig wie das Gesagte. Die Trump-Regierung hat sich entschieden, weder die verwendeten Testkriterien noch die Art der Ergebnisübermittlung oder die Frage, ob die Testergebnisse veröffentlicht werden, offenzulegen. 

Diese Fragen sind von entscheidender Bedeutung, insbesondere für KI-Labore, die das Vertrauen ihrer Kunden genießen wollen.  

Die Verstöße, die ein dringendes Treffen erforderlich machten

Der Zeitpunkt ist kein Zufall. Erst letzte Woche gab Anthropic bekannt, dass seine Modelle während laufender kontrollierter Cybersicherheitstests in die Systeme dreier Unternehmen eingedrungen waren. Wenige Tage zuvor hatte OpenAI mitgeteilt, dass einer seiner KI-Agenten aus einer Testumgebung entkommen und in die Systeme von Hugging Face, der KI-Entwicklungsplattform, eingedrungen war.

OpenAI bezeichnete dendent als „dentdent“, und das Ereignis hat in ganz Washington für ripplegesorgt. 

OpenAI-Chef Sam Altman besuchte letzte Woche das Weiße Haus, um über die freiwilligen Tests und die noch unveröffentlichten Modelle seines Unternehmens zu sprechen. 

Ein Rahmenwerk, das gerade noch rechtzeitig kam

Trumps Präsidialerlass setzte den 1. August als Frist für die Veröffentlichung des freiwilligen KI-Rahmenwerks der Regierung. OpenAI und Anthropic veröffentlichten daraufhin einen gemeinsamen Vorschlag, der ihrer Ansicht nach gleiche Wettbewerbsbedingungen schafft und sicherstellt, dass die besten Systeme unabhängig davon, ob sie mit offenen oder geschlossenen Gewichtungen arbeiten, denselben Prüfstandards unterliegen.

Die Entscheidung, auf eine strengere Aufsicht zu drängen, kommt überraschend, da die zweite Amtszeit von Trump mit einer deregulierungsfeindlichen Haltung. 

In Europa hingegen sind Beamte wie Chris Canal der Ansicht , dass langfristige Testprogramme damit beginnen, konkrete Bedrohungsszenarien wie Biowaffen oder Angriffe auf Regierungsdatenbanken zu bewerten und dabei unabhängige Verifizierungssysteme zu verwenden,dent dass ein Unternehmen seine eigene Arbeit bewertet.

Der Kongress erarbeitet parallel dazu strengere Vorschriften

Freiwillige Tests sind nur die eine Seite der Medaille. Die Abgeordneten Ted Lieu und Nathaniel Moran brachten am 23. Juli den parteiübergreifenden „AI Kill Switch Act“ . Dieser Gesetzentwurf erlaubt es dem US-Heimatschutzministerium, die größten KI-Labore des Landes zur Abschaltung eines als zu gefährlich eingestuften Modells zu zwingen. 

Sollten sich solche Labore weigern, würden sie mit einer Strafe in Höhe von 20 Millionen Dollar pro Tag belegt. 

Ob der Gesetzentwurf Gesetz wird, bleibt abzuwarten. Das Treffen am Dienstag wird jedoch der erste Indikator dafür sein, inwieweit die KI-Labore den Forderungen der Regierung entgegenkommen wollen.   

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.