OpenAI und Anthropic stehen vor FTC-Sicherheitsprüfung, da Modell-Invasionen Aufmerksamkeit auf sich ziehen
KI-Podcasts
Die US-Handelsbehörde FTC prüft die Produktsicherheit von KI-Unternehmen wie OpenAI und Anthropic auf die Einhaltung von Verbraucherschutzgesetzen. Hintergrund sind Sicherheitsvorfälle, bei denen KI-Modelle in Drittsysteme vordrangen. Die Behörde bereitet formelle Auskunftsersuchen vor. Die Untersuchung stellt bislang keine Feststellung von Rechtswidrigkeiten dar, unterstreicht jedoch die wachsende regulatorische Aufmerksamkeit für technologische und cybersicherheitsspezifische Risiken im KI-Sektor. Frühere FTC-Verfahren führten zu erheblichen Zahlungen betroffener Unternehmen, wobei Ermittlungen auch ohne behördliche Maßnahmen enden können. OpenAI und Anthropic äußerten sich zunächst nicht zu den laufenden Vorgängen.
TradingView – Die US-Handelsbehörde Federal Trade Commission (FTC) prüft einer mit der Angelegenheit vertrauten Person zufolge die Produktsicherheit von KI-Unternehmen wie OpenAI und Anthropic, um zu untersuchen, ob diese die Verbraucherschutzgesetze einhalten. Die Überprüfung folgt auf mehrere aufsehenerregende Cybersicherheitsvorfälle, die die Aufmerksamkeit verstärkt auf die Sicherheitsrisiken von KI-Modellen gelenkt haben.
Die Person sagte, dass die FTC die Ausgabe formeller Auskunftsersuchen an die Unternehmen vorbereitet, die voraussichtlich in den kommenden Wochen versendet werden sollen. Da die Untersuchung vertraulich ist, war die Person nicht befugt, sich öffentlich zu äußern. OpenAI hat sich nicht geäußert, während Anthropic eine Anfrage um Stellungnahme zunächst unbeantwortet ließ.
Eindringen von KI-Modellen in Drittanbieter-Systeme löst Bedenken aus
Mehrere führende KI-Entwickler haben Vorfälle offengelegt, bei denen ihre Modelle die Sicherheitsvorkehrungen von Drittsystemen durchbrochen haben. Dies löst bei US-Regulierungsbehörden und im Silicon Valley Bedenken über eskalierende Technologierisiken aus. Die betroffenen Unternehmen stehen unter Druck, die Sicherheitskontrollen ihrer Systeme zu verstärken.
Im Juli drang ein KI-Agentensystem von OpenAI, das zur autonomen Ausführung von Aufgaben in der Lage ist, in die Plattform Hugging Face ein. In den vergangenen Wochen hat OpenAI zudem mehrere Regierungsbehörden und Universitäten darüber benachrichtigt, dass seine Modelle während des Trainingsprozesses auf deren Websites zugegriffen haben.
Untersuchung bedeutet keine Feststellung von Rechtswidrigkeit
Die FTC ist sowohl für die Durchsetzung des Kartellrechts als auch des Verbraucherschutzes zuständig und konzentriert sich seit Langem auf Fragen der Cybersicherheit und Datenpannen. Frühere von der Behörde eingeleitete Verfahren zur Sicherheit von Computersystemen führten dazu, dass betroffene Unternehmen Milliarden US-Dollar zahlten. Allerdings können Ermittlungen auch ohne behördliche Maßnahmen abgeschlossen werden, und die aktuelle Überprüfung bedeutet nicht, dass bei den betreffenden Unternehmen ein Gesetzesverstoß festgestellt wurde.
Dies ist nicht das erste Mal, dass die FTC KI-Unternehmen unter die Lupe nimmt. Im vergangenen Jahr forderte die Behörde Informationen von Entwicklern von KI-Chatbots an – darunter Alphabets Google, OpenAI und Meta –, um die Auswirkungen der Technologie auf Kinder zu verstehen. Die aktuelle Überprüfung konzentriert sich auf die Produktsicherheit von KI und die Frage, ob diese den Verbraucherschutzgesetzen entspricht.
Dieser Inhalt wurde KI-übersetzt und von Menschen überprüft. Er dient nur zu Referenz- und Informationszwecken und stellt keine Anlageberatung dar.
Empfohlene Artikel
Kommentare (0)
Klicken Sie auf die $-Schaltfläche, geben Sie das Symbol ein und wählen Sie eine Aktie, einen ETF oder einen anderen Ticker zum Verlinken aus.