OpenAI unterstützt die im überparteilichen FRONTIER Act vorgesehene bundesweite KI-Sicherheitsrahmenregelung

OpenAI hat eine Kernbestimmung des parteiübergreifenden FRONTIER Act unterstützt, die die größten KI-Entwickler dazu zwingen würde,dent Sicherheitsgutachtern Zugang zu ihren Betriebsabläufen zu gewähren. 

Dies ist das erste Mal, dass OpenAI sich öffentlich für ein Bundesmandat in Bezug auf die Sicherheit von KI ausspricht. 

Unterstützt OpenAI den FRONTIER Act?  

Chris Lehane, Chief Global Affairs Officer von OpenAI, sagte am Dienstag gegenüber Reportern, dass das Unternehmen des FRONTIER Act nach sogenannten „unabhängigendent “ (IVOs) unterstützt. 

Der Gesetzentwurf wurde von den Abgeordneten Jay Obernolte (Republikaner aus Kalifornien) und Lori Trahan (Demokratin aus Massachusetts) eingebracht. Sollte er verabschiedet werden, würde er den ersten bundesweiten Rahmen für die Sicherheit von KI schaffen und unabhängigendent ermöglichen, in Spitzenlabore zu gehen und zu überprüfen, ob Modelle sicher entwickelt werden.

Lehane sagte, er habe während eines Treffens auf dem Capitol Hill am Montag „konkret darüber gesprochen, wie wir über IVO denken, und klargestellt, dass wir das unterstützen können.“

Am Samstagvormittag kündigte CEO Sam Altman an, freiwillig externe Gutachter in das Unternehmen einzubinden – nur wenige Stunden, nachdem Dario Amodei von Anthropics ein ähnliches Versprechen abgegeben hatte. Altman schrieb auf X, er würde „einen bundesweiten Rahmen begrüßen, der einheitliche Sicherheitsanforderungen für fortschrittliche KI festlegt“ 

Seine Aussage folgte einem gemeinsamen Vorstoß von Altman, Amodei und Elon Musk für eine nationale Verlangsamung der Entwicklung von Zukunftsmodellen. 

In einem Blogbeitragschrieb Lehane, dass vom 9. September OpenAI mit dem Kongress an einer „verpflichtenden, fähigkeitsbasierten nationalen KI-Sicherheitsregulierung“ arbeiten wolle , und das Unternehmen befürwortete letzte Woche eine kalifornische Maßnahme zur Einrichtung eines Akkreditierungsverfahrens für die gleiche Art von Verifizierungsgruppen

Senatorin Maria Cantwell (Demokratin aus Washington), ranghöchstes Mitglied des Handelsausschusses, forderte ebenfallstronbundesstaatliche Richtlinien für die Erprobung und Freigabe von Zukunftstechnologien.dentdenen KI-Systeme aus ihren Testumgebungen ausbrachen und andere Systeme hackten In einer Rede im Senat.

Wie würde das Verifizierungssystem des FRONTIER Act funktionieren? 

Die Analyse des Gesetzentwurfs durch die Foundation for American Innovation ergab, dass das IVO-System für ihre Arbeit von zentraler Bedeutung ist. Das Handelsministerium würde die Standards festlegen, die jedes IVO erfüllen muss, darunter technische Qualifikationen und Unabhängigkeit von dem zu bewertenden Unternehmen. Ein neu eingerichteter Staatssekretär im Handelsministerium für KI-Sicherheit würde die Einrichtung überwachen.

Die Verpflichtungen würden mit der Unternehmensgröße skalieren. Beispielsweise müsste ein „sehr großer Entwickler im Grenzgebiet“ – defials ein Unternehmen mit einem Umsatz von mehr als 5 Milliarden US-Dollar und Entwicklungsausgaben von mindestens 10 Milliarden US-Dollar über drei Jahre – einen lizenzierten unabhängigen Sicherheitsbeauftragten (IVO) beauftragen, der beurteilen würde, ob der veröffentlichte Sicherheitsrahmen und die Praktiken des Unternehmens das Katastrophenrisiko tatsächlich verringern, und seine Ergebnisse alle sechs Monate an das Handelsministerium berichten würde. 

Eine separate Kategorie für „große Pionierentwickler“, was bedeutet, dass das Unternehmen einen Umsatz von mehr als 50 Millionen Dollar und Entwicklungsausgaben von mindestens 1 Milliarde Dollar verzeichnet, müsste lediglich einen Sicherheitsrahmen veröffentlichen und einen Auditor beauftragen, der die Einhaltung dieses Rahmens bestätigt.

Die Foundation for American Innovation merkt außerdem an, dass das Gesetz dem Handelsminister im Notfall die Befugnis einräumt, die Entwicklung oder den Einsatz eines Modells auszusetzen, wenn von diesem eine unmittelbar bevorstehende Katastrophe ausgeht. 

Aufgrund der festgelegten Schwellenwerte fallen Startups und kleinere Entwickler vollständig aus dem System heraus.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.