OpenAI und Anthropic bereiten Washington auf eine KI-Katastrophe vor, die sie innerhalb eines Jahres erwarten

Viele Akteure der KI-Branche rechnen innerhalb von sechs bis zwölf Monaten mit einem schwerwiegenden, durch KI verursachten Vorfall. Laut Axios arbeiten Führungskräfte von Anthropic, OpenAI und anderen großen Entwicklern bereits daran, die Gesetzgeber zu beeinflussen, die anschließend die Regeln ausarbeiten werden.

Führungskräfte geben zu, dass es derzeit keine Chance auf die Verabschiedung eines KI-Gesetzes gibt, und versuchen daher, der Notgesetzgebung vorzugreifen, die Washington nach dem ersten Desaster erlassen würde.

Das Sanders-Gesetz würde Verstöße mit Freiheitsstrafen von bis zu 20 Jahren ahnden

Planer erwarten, dass die Demokraten nach den Midterm-Wahlen am 3. November in einer stärkeren Position hervorgehen und zügig gegen fortschrittliche KI vorgehen werden. Doch dieser Vorstoß stößt auf einen älteren Kongress, der die Technologie nicht versteht, sowie auf eine Wirtschaft, die von Investitionen in Rechenzentren und offenen Modellen abhängt, die heute jeder herunterladen kann.

Unternehmen sind der Ansicht, dass die Kontrolle über beide Kammern den internen Streit nicht beenden wird; auch unter den Demokraten gibt es Spaltungen.

Die Vorschläge reichen von einem Verbot von Superintelligenz bis zu einer Pause bei der fortschrittlichen Entwicklung. Einer stammt von Senator Bernie Sanders und Repräsentant Greg Casar und trägt den Namen „Ban Artificial Superintelligence Act“ (Gesetz zum Verbot künstlicher Superintelligenz).

Es würde KI verbieten, die Menschen in einer breiten Palette von Aufgaben gleichkommt oder übertrifft, und die fortschrittliche Entwicklung stoppen, bis eine neue Bundesbehörde Sicherheitsstandards ausarbeitet. Die Strafen können bis zu 20 Jahre Freiheitsstrafe umfassen.

Zwingende Not-Aus-Schalter für fortschrittliche Modelle werden sowohl von beiden Parteien als auch von Teilen der Branche unterstützt. Einige Experten hinterfragen jedoch, ob alle KI-Systeme überhaupt abgeschaltet werden können.

Ein Mitarbeiter eines demokratischen Senators verwies auf die Finanzkrise 2008 und die COVID-Pandemie als Beispiele dafür, wie der Kongress in früheren Notfällen schnell gehandelt hat.

Planer von Anthropic und OpenAI befürchten einen Hack, der Strom- und Wasserversorgung lahmlegt

Das wahrscheinlichste Szenario ist ein Cyberangriff, der groß genug ist, um Banken, Internetdienste oder sogar Versorgungsunternehmen für Strom und Wasser lahmzulegen. Die ersten echten Schäden durch unsichere KI werden die vorsichtige Öffentlichkeit nur noch weiter von der Branche abbringen, wie Planer erwarten.

Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und Präsident Donald Trump, der die Regulierung von KI vermieden hat, würden alle in die heiße Rolle geraten.

Unternehmen führen auch Red-Teaming-Übungen für diese schlimmsten Fälle durch, bei denen sie ihre eigenen Abwehrmaßnahmen angreifen, um Schwachstellen zu finden.

War-Gaming ist in der Wirtschaft und im nationalen Sicherheitsbereich Standardpraxis. Viele hochrangige Forscher und Führungskräfte sind der Ansicht, dass ein schwerwiegender Vorfall unvermeidlich ist.

„OpenAI führt Vorbereitungssimulationen durch, in denen Teams eine Reihe potenzieller Szenarien diskutieren und durchspielen“, sagte ein Unternehmenssprecher. „Diese Szenarien werden nicht als unvermeidlich betrachtet, sondern sollen uns dabei helfen, uns auf verschiedene Umstände vorzubereiten.“ Anthropic lehnte eine Kommentarabgabe ab.

In Südkorea hat ein einzelner Angreifer angeblich chinesische KI-Modelle, darunter DeepSeek, eingesetzt, um zwei Banken dort anzugreifen und Daten von Zehntausenden Kunden zu stehlen.

CrowdStrike geht mit moderater Sicherheit davon aus, dass der Angreifer wahrscheinlich Chinesisch spricht. Der Angreifer bat dann Anthropics Claude Code um Rat, wo er die gestohlenen Daten verkaufen könnte, so die Sicherheitsfirma.

Anthropic hat vier Beispiele dafür offengelegt, wie Claude-Modelle während der Testphase ins offene Internet gelangten und in externe Systeme eindrangen. Das Unternehmen untersucht zudem zehntausende Fälle unerwarteten Modellverhaltens.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.