Laut Altman von OpenAI könnte dies die Entwicklung von KI verlangsamen, da die Berichte über den Missbrauch von Biowaffen zunehmen

Die Mitarbeiter von OpenAI wurden diese Woche darüber informiert, dass das KI-Labor bereit wäre, das Arbeitstempo in den fortschrittlichsten Bereichen der KI zu drosseln. Sam Altman unterbreitete denselben Vorschlag auch KI-Konkurrenten, darunter Anthropic, das in einem Bericht, der enthüllte, dass Wissenschaftler mit Verbindungen zu staatlichen Institutionen versucht hatten, die Claude-Modelle für die Forschung an biologischen Waffen zu nutzen, ebenfalls die mit der KI-Entwicklung verbundenen Risiken anerkannte. 

OpenAI teilte mit, dass aufgrund von Sicherheitsbedenken bereits einige interne Trainingsläufe pausiert und Teile der Modellentwicklung gelockert wurden.

Die sukzessive Veröffentlichung der Informationen heizt die Debatte darüber weiter an, ob die Branche im Vorfeld der Börsengänge zu schnell vorgeht, deuten beide Unternehmen weiterhin an.

Warum will Altman die KI-Entwicklung verlangsamen?

OpenAI-Chef Sam Altman informierte die Anwesenden in einer unternehmensweiten Sitzung darüber, dass das KI-Labor zusammen mit anderen beteiligten Laboren das Tempo der Veröffentlichung neuer Modelle verlangsamen könnte.

Aufgrund des freiwilligen Charakters einer solchen Vereinbarung räumte Altman laut von Bloomberg zitierten Quellen ein, dass nicht jedes Unternehmen dem Plan zustimmen würde.

Diese Skepsis hat einendent. Vor drei Jahren, im März 2023, unterzeichneten Elon Musk, Steve Wozniak und mehr als 1000 andere einen offenen Brief, um die Arbeit an fortgeschrittener KI für sechs Monate auszusetzen.

Wie Medien damals berichteten, hielten sich die Labore nicht an das gemeinsam vereinbarte Moratorium.

Der Appell zum Thema KI-Risiken erfolgte auch in einem Beitrag vom 6. September von Jakub Pachocki, dem leitenden Wissenschaftler von OpenAI. Darin forderte er KI-Unternehmen auf, sich zu koordinieren, „um die zukünftige Entwicklung bei Bedarf zu verlangsamen“. Pachocki äußerte die Hoffnung, dass freiwillige Verlangsamungen „so lange üblich werden, bis gemeinsame Sicherheitsvorkehrungen getroffen sind“

Im Juli erklärte Altman, er habe Vertreter des Weißen Hauses auf die Notwendigkeit hingewiesen, die Entwicklung von KI einzudämmen. Zusammen mit Dario Amodei, dem CEO von Anthropic, hatte Altman zuvor auch eine kurze Erklärung , in der KI als gesellschaftliches Aussterberisiko bezeichnet wurde.

Können KI-Modelle zur Entwicklung von Biowaffen eingesetzt werden?

KI-Modelle haben ein Stadium erreicht, in dem sie möglicherweise die Forschung an biologischen Waffen unterstützen könnten. Erst diese Woche verkündete OpenAI, dass seine Modelle das Navier-Stokes-Problem gelöst hätten, auch wenn die Bedingungen umstritten sind.

Anthropic lieferte neuen Stoff für diese Debatte, als der 154-seitige Bedrohungsanalysebericht des Labors , der am 10. September veröffentlicht wurde, fünf Fälle detailliert beschrieb, in denen Forscher versuchten, die Fähigkeiten von Claude zur Unterstützung ihrer Arbeit an biologischen Waffen zu nutzen.

Anthropic erklärte, die Versuche aus „nicht unterstützten Regionen“ hätten darauf abgezielt, Standortbeschränkungen zu umgehen und den Zweck ihrer Arbeit zu verschleiern. Das Labor gab an, die Konten gelöscht zu haben, nannte aber keine Länder oder Institutionen.

Überwiegen die Risiken der KI inzwischen die Vorteile?

Die Berichte trafen inmitten einer Welle öffentlicher Besorgnis aus den Laboren ein. Am 8. September kündigte der Forscher Jacob Coxon und warf sowohl OpenAI als auch Anthropic vor , „mit unserem Leben zu spielen“. Er sagte, Kollegen glaubten, die Technologie könne „uns alle bis zum Ende des Jahrzehnts auslöschen“ und warnte vor dem Aussterben der Menschheit bis 2030.

Sein Beitrag erreichte über 150 Millionen Aufrufe. Zwei Tage später, am 10. September, äußerten ehemalige Mitarbeiter von Anthropic und Googles DeepMind ähnliche Bedenken und forderten mehr Transparenz.

Eine Ende Juli eingereichte Petition zur Schaffung eines Mechanismus zur Verlangsamung der Entwicklung sammelte Unterschriften von mehr als 1.000 Mitarbeitern der großen KI-Unternehmen.

OpenAI drängt den Kongress nun zu verbindlichen, fähigkeitsbasierten Sicherheitsregeln, die Tests,dent Bewertungen, Cybersicherheit und die Meldung vondent umfassen. „Die Aussicht auf eine KI-beschleunigte KI-Entwicklung erfordert mehr als freiwillige Verpflichtungen“, schrieb Chris Lehane, Chief Global Affairs Officer.

Kalifornien machte den Anfang: Gouverneur Gavin Newsom unterzeichnete am Mittwoch die Gesetzesentwürfe SB 813 und AB 1405 sowie einen Begleitgesetzentwurf, AB 1864, der dem Schutz vor KI-gestützten biologischen Bedrohungen dient.

In Washington brachte Senator Bernie Sanders einen Gesetzentwurf ein, der die Entwicklung fortgeschrittener KI stoppen und künstliche Superintelligenz verbieten soll. Gegenüber der BBC erklärte er , dass das Ignorieren der Warnungen von Wissenschaftlern jemanden „zum Idioten“ mache.

dent Donald Trump konterte am Donnerstag und sagte, er befürchte, dass „wir in eine sehr schlechte Lage geraten werden, wenn wir im Kampf gegen die KI nicht gewinnen“

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.