Der CEO von Google DeepMind fordert die USA auf, die Regulierung voranzutreiben, da die Bedrohung durch AGI immer näher rückt

Demis Hassabis, Mitgründer und CEO von Google DeepMind, fordert die US-Regierung auf, eine neue Aufsichtsbehörde einzurichten, die die leistungsstärksten KI-Modelle der Welt überprüfen soll. Diese Behörde soll auch befugt sein, die Branche zu bremsen, falls die Gefahr zunimmt.

Er führte dies ausführlich in seinem Manifest aus, das am 14. Juli veröffentlicht wurde, und erklärte, er wolle, dass die Institution noch vor Jahresende funktionsfähig sei.

Hassabis zählt zu den führenden Köpfen im Bereich der künstlichen Intelligenz. Er erhielt 2024 den Nobelpreis für Chemie für seine Forschung zur Proteinfaltung und leitet das Labor hinter Gemini.

In einem Interviewsein müssematic, von den Laboren selbst finanziert, mit technischen Experten besetzt und der US-Regierung gegenüber rechenschaftspflichtig sein müsse.

Was wird die US-amerikanische KI-Aufsichtsbehörde unternehmen?

Hassabis orientiert sich bei der Gestaltung der Einrichtung an FINRA, der privaten, von der Industrie finanzierten Aufsichtsbehörde, die unter der Aufsicht der Securities and Exchange Commission die Wall-Street-Broker überwacht.

Nach seinem Plan würden die Spitzenforschungslabore ihre Modelle zunächst freiwillig bis zu 30 Tage vor der Veröffentlichung übergeben, damit die Behörde sie auf gefährliche Cyber-, biologische und „Täuschungs“-Fähigkeiten testen könnte.

Er erklärte, sobald sich diese Tests als zuverlässig erwiesen, könnten formale Regeln „schnell folgen“, was bedeutet, dass ein Modell diese Tests bestehen müsste, bevor es auf dem US-Markt eingesetzt werden könnte.

Die Standards würden für jedes Grenzlandsystem gelten, und Hassabis fügte hinzu, dass dies „unabhängig vom Ursprungsland oder davon, ob es sich um ein offenes oder geschlossenes System handelt“, wobei die Benchmarks mit dem technologischen Fortschritt aktualisiert würden.

Er wünscht sich außerdem einen mehrheitlich unabhängigendent, der mit Turing-Preisträgern und anderen anerkanntendentsowie Vertretern aus Industrie, Regierung und Open-Source-Entwicklern besetzt ist. Er erklärte, das Label „Frontier“ werde zu einem Statussymbol und fügte hinzu: „Ich denke, das ist ein sehr wertvolles Prestigeobjekt.“

Warum fordert Hassabis jetzt eine KI-Überwachungsbehörde?

Hassabis bezeichnet die heutigen KI-gestützten Cyberangriffe als „Warnschüsse“. Seiner Ansicht nach könnten innerhalb von 18 Monaten schwerwiegendere biologische und nukleare Risiken in Open-Source-Modellen verborgen sein, die keine Regierung mehr kontrollieren kann. Er fügte hinzu, dass die Bedrohung nicht auf offene Systeme beschränkt sei und dass auch die zukünftigen proprietären Modelle der Labore dieselben Gefahren bergen würden.

Er sagte, er wolle die Kontrollbehörde innerhalb weniger Monate einsatzbereit haben und habe die vergangenen Wochen damit verbracht, die Trump-Regierung, Leiter konkurrierender Labore und europäische Beamte zu informieren, bevor er an die Öffentlichkeit ging. „Die Signale, die ich vernommen habe, sind sehr positiv“, sagte er über die Gespräche im Weißen Haus.

Die Regierung hatte bis zum letzten Monat eine zurückhaltende Haltung bevorzugt, als sie die Mythos- und Fable-Modelle von Anthropic einer Exportkontrollverordnungund deren Verfügbarkeit einschränkte. Die Verordnung wurde später aufgehoben, und Anthropic veröffentlichte die Modelle unter strengeren Auflagen.

OpenAI hingegen stimmte zu, GPT-5.6 zunächst nur von der Regierung geprüften Partnern zugänglich , bevor es letzte Woche nach Tests mit dem Handelsministerium öffentlich freigegeben wurde. Dieser Schritt wurde als Versuch gewertet, das gleiche Ergebnis wie bei Anthropic zu vermeiden.

Hassabis sagt, derdent sei „ein kleiner Weckruf“

Ein seltener Punkt der Übereinstimmung

Anthropic-CEO Dario Amodei ist ebenfalls der Ansicht, dass es eine Behörde geben sollte, die die Macht hat, unsichere KI-Modelle einzudämmen, und fordert verbindliche Regeln und eine Behörde nach dem Vorbild der FAA.

Amodeis Position stimmt mit der von Hassabis überein; letztere bevorzugt jedoch die schlankere, branchengeführte FINRA-Struktur.

Hassabis' Überzeugung, dass die Herausforderungen rasant zunehmen, ist bemerkenswert. Er sagte, AGI, ein System, das die gesamte Bandbreite menschlicher kognitiver Fähigkeiten abbildet, sei „wahrscheinlich nur noch wenige Jahre entfernt“, und bei einer Veranstaltung in Stanford nannte er das Jahr 2030 als voraussichtlichen Zeitpunkt, „plus/minus ein Jahr“. In seinem Manifest schrieb er, Forscher hätten „einen Weg gefunden, Sand zum Denken zu bringen“, und bezeichnete dies als „wunderbar“

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.