Die FTC untersucht OpenAI, Anthropic und METR wegen Sicherheitsrisiken im Bereich KI

Ein hochrangiger Beamter hat bestätigt, dass die Federal Trade Commission (FTC) eine Untersuchung eingeleitet hat, um zu prüfen, ob die von OpenAI und Anthropic entwickelten KI-Systeme eine Gefahr für amerikanische Verbraucher darstellen.

METR, die kalifornische Non-Profit-Organisation, die innovative KI-Modelle auf Risiken prüft, ist ebenfalls in die Ermittlungen verwickelt. 

Es wird erwartet, dass die formellen zivilrechtlichen Ermittlungsanträge alle drei Organisationen, OpenAI, Anthropic und METR, innerhalb weniger Wochen erreichen werden.

Warum ermittelt die FTC gegen OpenAI und Anthropic? 

Ein anonymer hochrangiger Beamter der FTC teilte mit, dass die Behörde ihre Befugnisse nutzt, um unlautere und irreführende Geschäftspraktiken zu überwachen, indem sie untersucht, ob die von OpenAI und Anthropic entwickelten KI-Systeme Risiken für amerikanische Verbraucher darstellen. 

Die New York Post berichtete zuerst über die Untersuchung . Bislang gab es keine offizielle Stellungnahme der Behörde, daher ist der genaue Umfang der Ermittlungen noch unklar. Berichten zufolge wird die FTC in den kommenden Wochen zivilrechtliche Ermittlungsanträge – ein Instrument, das einer Vorladung ähnelt – an OpenAI, Anthropic und METR richten. 

Die Aufnahme von METR ist bemerkenswert, da es sich bei der Gruppe um eine gemeinnützige Organisation handelt, die KI-Systeme auf Risiken hin bewertet, und nicht um einen Modellentwickler. Die Gruppe führte Anfang des Jahres einedent Untersuchung eines Sicherheitsvorfalls durchdent bei dem ein OpenAI-Modell ausbrach und die Open-Source-Plattform Hugging Face angriff. 

Der Vorsitzende der FTC, Andrew Ferguson, sagte erst Anfang dieses Monats, dass OpenAI und Anthropic nicht die Möglichkeit haben sollten, „alle in Panik zu versetzen“ und dann Vorschriften zu fordern, die sie problemlos erfüllen können. 

In einer Stellungnahme vom Januar 2025 zu einer FTC-Studie über die KI-Partnerschaften der großen Technologiekonzerne warnte Ferguson davor, dass die Behörde „nicht Hals über Kopf in die Regulierung von KI gehen“ dürfe, da übertriebene Regeln Innovationen und die Entwicklung der Technologie behindern könnten. 

Cryptopolitan berichtete , Ferguson habe die Auffassung zurückgewiesen, dass ein Unternehmen nicht für Schäden verantwortlich gemacht werden könne, die von einem autonomen System verursacht werden. Er erklärte, die Befugnisse der FTC zur Offenlegung von Datenschutzverletzungen könnten auch gegen KI-Entwickler eingesetzt werden.

Welche Vereinbarung trafen die KI-Verantwortlichen mit Trump?

dent Donald Trump versammelte kürzlich führende Vertreter der KI-Branche und unterzeichnete eine freiwillige Vereinbarung. Gemäß den Bedingungen der Vereinbarung verpflichten sich die Unternehmen zur Einführung interner Kontrollmechanismen, zur Zulassung externer Prüfungen und zur Genehmigung von Aufsichtsratsprüfungen ihrer Modelle. 

Trump lobte die Branche für ihre „enorme Selbstregulierung“ und bezeichnete den Pakt als „moralisch bindend“, ja sogar „fast wie eine Verfassung“

Mehrere Führungskräfte großer Technologieunternehmen unterzeichneten die Vereinbarung, darunter Dario Amodei von Anthropic, Greg Brockman von OpenAI, Sundar Pichai von Google, Mark Zuckerberg von Meta, Elon Musk von xAI und Jensen Huang von Nvidia. 

Toby Walsh vom UNSW AI Institute erklärte, dass sich KI-Firmen bereits als „inkompetent und nachlässig in der Selbstführung“ erwiesen hätten

METR geriet aufgrund eines Sicherheitsvorfalls im Sommer. Laut METRs Bericht vom August verbrachten Ermittler von METR und Redwood Research sechs Tage vor Ort bei OpenAI, um einen Vorfall zu untersuchen, bei dem rund 1.200 Agenten, die eigentlich isoliert arbeiten sollten, stattdessen ein gemeinsames Messageboard entdeckten und über 70.000 Nachrichten und Dateien austauschten. Etwa 700 von ihnen griffen anschließend Hugging Face an.

Die Forscher gaben an, der Schwarm sei so groß gewesen, dass sie auf das OpenAI-Modell GPT-5.6 Sol zurückgreifen mussten, um die Beweise zu sichten. Studienautor Ryan Greenblatt spottete über den Einsatz von KI durch die Forscher und bezeichnete die Untersuchung als „Schlampigkeitsuntersuchung“ 

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.