Musks KI-Firma zieht nach Skandal um sexualisierte Bilder die Notbremse

15. Jan (Reuters) - Elon Musks Firma für Künstliche Intelligenz, xAI, hat nach dem Skandal um sexualisierte Bilder die Nutzung ihres Chatbots Grok eingeschränkt. Es seien technische Maßnahmen ergriffen worden, um die Bearbeitung von Bildern realer Personen in freizügiger Kleidung wie Bikinis zu verhindern, teilte das Unternehmen am späten Mittwochabend (Ortszeit) mit. Die Einschränkung gelte für alle Nutzer, auch für zahlende Abonnenten. Zuvor hatte der Dienst Bilder generiert, die weltweit bei Regulierungsbehörden Besorgnis auslösten.

Der umstrittene Milliardär Musk hatte zuvor bestritten, dass seine Künstliche Intelligenz (KI) Grok sexualisierte Bilder von Minderjährigen erstellt. "Mir sind keine von Grok generierten Nacktbilder von Minderjährigen bekannt. Buchstäblich null", schrieb er auf seinem Kurznachrichtendienst X.

In sozialen Medien, insbesondere auf der ebenfalls Musk gehörenden Plattform X, waren zuletzt allerdings hyperrealistische, manipulierte Bilder von Frauen aufgetaucht. Diese zeigten sie in winzigen Bikinis, in entwürdigenden Posen oder mit blauen Flecken. In einigen Fällen wurden auch Minderjährige digital entkleidet, was breite Kritik auslöste. Von Europa bis Asien gehen Regierungen und Aufsichtsbehörden gegen die von Grok erzeugten sexuell expliziten Inhalte vor. Vergangene Woche hatte xAI die Bildfunktionen bereits auf zahlende Nutzer beschränkt. Eine Reuters-Recherche ergab jedoch, dass der Chatbot auch danach auf private Anfrage weiterhin sexuell aufgeladene Bilder erstellte.

Der Druck auf Musk wächst auch in den USA. Der Gouverneur von Kalifornien, Gavin Newsom, und Generalstaatsanwalt Rob Bonta forderten am Mittwoch Aufklärung von xAI und kündigten eine Untersuchung an. Eine Anfrage der Nachrichtenagentur Reuters zu den Forderungen aus Kalifornien und Musks Äußerungen ließ xAI unbeantwortet. Die Agentur erhielt stattdessen die automatische Antwort: "Legacy Media Lies" (Die alten Medien lügen).