Sam Altman befürwortet Kontrolle des Entwicklungstempos von Frontier-KI, OpenAI führt unabhängige Sicherheitsbewertungen ein

Altman erklärte, dass die Steuerung des Entwicklungstempos keineswegs bedeute, die Forschung und Entwicklung einzustellen. Während Sicherheitsargumente und eine kontinuierliche Überwachung die Kosten erhöhen und den Trainingsfortschritt stellenweise verlangsamen können, werden die Modellentwicklung und der technologische Fortschritt weitergehen.

Bisher konzentrierten sich die von einigen führenden KI-Unternehmen übernommenen Richtlinien für eine verantwortungsvolle Skalierung sowie das von OpenAI entwickelte Bereitschafts-Framework in erster Linie auf fertig trainierte Modelle und deren Einsatzrisiken. Altman vertritt jedoch die Auffassung, dass das Sicherheitsmanagement auch den Prozess der Modellentwicklung und -evaluierung umfassen sollte.

Für das Training führender Reinforcement-Learning-Modelle, von dem eine erhebliche Steigerung der Modellfähigkeiten erwartet wird, hat OpenAI begonnen, bereits vor dem Training klare Sicherheitsargumente zu etablieren, während Sicherheitsevaluierungen vor der Modellfreigabe beibehalten werden. Das Unternehmen hofft, dass andere führende KI-Unternehmen seinen Ansatz als Orientierung nutzen und eigene Lösungen vorschlagen, um so die Erarbeitung gemeinsamer Standards für Fehlausrichtung, Überwachung und Sicherheit von Modellen voranzutreiben.

Altman betonte, dass die Anpassung des Entwicklungstempos nicht mit dem Stopp von Forschung und Entwicklung gleichzusetzen ist. Sicherheitsargumente und eine kontinuierliche Überwachung erfordern mehr Ressourcen und führen dazu, dass die Fortschrittsrate bei den Fähigkeiten führender KI-Modelle geringer ausfällt als ohne solche Maßnahmen, die entsprechende Forschung und Entwicklung wird jedoch dennoch weiter voranschreiten.

Altmans Äußerungen erfolgten als Reaktion auf Empfehlungen, die Anthropic-CEO Dario Amodei am 12. September vorgelegt hatte. Amodei wies darauf hin, dass mit der zunehmenden Einbindung von KI in die Entwicklung von Modellen der nächsten Generation die Modellfähigkeiten schneller voranschreiten könnten, als die Branche die damit verbundenen Risiken verstehen und kontrollieren kann.

Amodei schlug drei Maßnahmen vor: die Gewährung eines kontinuierlichen, nahezu mitarbeitergleichen Zugangs für externe Evaluierungsteams durch Frontier-KI-Unternehmen, die Förderung gemeinsamer Sicherheitsstandards unter relevanten Unternehmen in demokratischen Staaten sowie das Anstreben einer internationalen Koordinierung unter Einbeziehung von Ländern wie den USA und China.

Anthropic hat sich dazu verpflichtet, externe Evaluierungsteams einzubinden. Altman erklärte zudem, dass OpenAI ähnliche Regelungen zur unabhängigen Evaluierung treffen werde, obwohl das Unternehmen die spezifischen Zugriffsrechte der Prüfer und den Zeitplan für die Umsetzung noch nicht bekannt gegeben hat.

Beim Thema Entwicklungstempo unterscheiden sich Trumps Prioritäten von denen einiger Führungskräfte bei Frontier-KI-Unternehmen. Trump ist der Ansicht, dass die USA keinen Grund haben, die KI-Entwicklung zu verlangsamen, um ihren Vorsprung gegenüber China nicht zu gefährden. Altman hingegen plädiert dafür, Forschung und Entwicklung fortzusetzen und gleichzeitig sicherzustellen, dass Alignment-, Sicherheits- und Überwachungsmaßnahmen nicht hinter den Fortschritten bei den Modellfähigkeiten zurückbleiben.

Dieser Inhalt wurde KI-übersetzt und von Menschen überprüft. Er dient nur zu Referenz- und Informationszwecken und stellt keine Anlageberatung dar.