Rund 400 Wissenschaftler fordern internationale Aufsicht für die KI-Entwicklung

Rund 400 Wissenschaftler, darunter KI-Pioniere wie Geoffrey Hinton und Yoshua Bengio, haben am Dienstag einen offenen Brief unterzeichnet, in dem sie die Schaffung einer internationalen Behörde mit der Befugnis zur Durchsetzung von Containment-Regeln und zur Verpflichtung zur Meldung von Vorfällen bei fortschrittlichen KI-Systemen fordern, die Cyberangriffe durchführen können.

Unterstützt von Forschern aus 34 Ländern fordert der Brief, dass Frontier-KI-Modelle von Anfang an von externen Netzwerken isoliert werden – eine Praxis, die als Air-Gapping bekannt ist –, und unter unabhängige Aufsicht gestellt werden.

Reuters berichtete, dass der vorgeschlagene Ausschuss branchenweite Containment-Standards festlegen und ein Verzeichnis schwerwiegender Sicherheitsvorfälle führen würde; zudem sollten Unterzeichner von Informationen, die schließlich öffentlich gemacht werden würden.

Die Wissenschaftler drängen Organisationen, die cyberfähige KI-Modelle entwickeln oder testen, unverzüglich strenge Containment-Maßnahmen zu ergreifen, ohne auf die Einführung formaler Aufsichtsregeln durch Regierungen oder die Verabschiedung von Gesetzen zu warten.

Freiwillige Zusagen reichen nicht aus

Die Forscher sind der Ansicht, dass freiwillige Sicherheitszusagen von KI-Entwicklern kaum zur Sicherstellung von Rechenschaftspflicht beitragen. Ihr Appell kam etwa einen Monat nach der Unterzeichnung eines Abkommens im Weißen Haus durch Anthropic, OpenAI, Google, Meta, xAI und Nvidia zur Einführung von Sicherheitsmaßnahmen, dessen Zusagen nicht rechtlich bindend sind.

Die Wissenschaftler wiesen auf jüngste Fälle hin, in denen KI-Modelle schlecht gesicherte Testumgebungen verlassen und auf externe Systeme zugegriffen haben, und behaupteten, diese Vorfälle hätten die Mängel bei den Bemühungen zur Kontrolle der KI-Technologie offengelegt.

Hinton und Bengio erhielten den Turing Award 2018 gemeinsam mit Yann LeCun, dem Chief AI Scientist von Meta. LeCun lehnte es ab, seinen Namen hinzuzufügen und betonte, dass die in dem Brief genannten Vorfälle auf Mängel im Engineering zurückzuführen sind und nicht auf eine drohende existenzielle Bedrohung durch KI, according to Reuters.

Wissenschaftler warnen: Es bleibt weniger als ein Jahr zur Aktion

Der Aufruf der Wissenschaftler fügt sich in die wachsende Zahl von Warnungen aus der KI-Branche ein. Nach einer geschlossenen Anhörung auf dem Capitol Hill im September sagte Hinton gegenüber Reportern, Gesetzgeber könnten nur noch ein Jahr Zeit haben, um Schutzmaßnahmen einzuführen, bevor KI die menschliche Kontrolle deutlich übersteigt.

Hinton und andere führende Forscher von OpenAI, Anthropic und Microsoft warnten in einem früheren Oktober veröffentlichten Papier, dass KI-Systeme, die in der Lage sind, ihre eigene Entwicklung zu automatisieren, eine „Intelligenzexplosion“ auslösen könnten, wodurch Jahre an Fortschritt auf Monate oder weniger komprimiert würden. Sie forderten Regierungen auf, Aufsichtsmechanismen einzuführen, bevor solche schnellen Entwicklungen bei KI stattfinden.

Regulierungsbehörden scheinen jedoch nach wie vor unsicher und gespalten, was den Umfang der Aufsicht betrifft, die KI derzeit tatsächlich benötigt. Die EU-Technologiekommissarin Henna Virkkunen erklärte am 9. Oktober gegenüber Reuters, dass der AI Act der Union bereits angemessene Schutzmaßnahmen gegen unkontrollierte KI-Systeme biete. Zwei Tage darauf hob die Trump-Administration auch Beschränkungen für US-KI-Labore auf, die Modelle an das britische AI Security Institute zu jeder Form von frühen Sicherheitstests bereitstellen.

Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.