xAI verklagt Grok-Nutzer wegen expliziter Deepfakes von Minderjährigen

Elon Musks xAI hat einen Mann aus South Carolina vor ein Bundesgericht in Texas gebracht und ihm vorgeworfen, den Grok-Chatbot benutzt zu haben, um sexuell explizite Deepfakes von Minderjährigen zu erstellen. Dies ist das allererste Mal, dass ein KI-Unternehmen einen seiner eigenen Nutzer wegen Inhalten verklagt, die mit seiner Plattform generiert wurden.

Der Angeklagte Terry Harwood wurde laut Reuters im Februar wegen des Verdachts der sexuellen Ausbeutung Minderjähriger festgenommen. Die Zivilklage von xAI wurde am Dienstag, dem 14. April, eingereicht und wird nun parallel zu einem möglichen Strafverfahren geführt, das sich aus dieser Festnahme ergibt.

xAIs Klage

Laut Anklage eröffnete er mehrere Konten unter falschendentund fütterte das KI-Tool regelmäßig mit Fotos von Erwachsenen und Kindern, bevor er Anweisungen verfasste, die diese Bilder in sexuelle Inhalte umwandeln sollten. Wie Al Jazeera berichtet, hatten die Betroffenen nicht eingewilligt und wussten nicht, dass ihre Bilder verwendet wurden.

xAI behauptet, das System habe sich gegen die Aktion gewehrt. Grok habe die Anfragen abgelehnt und sie als Verstöße gegen die Inhaltsrichtlinien gekennzeichnet. Laut der Beschwerde habe Harwood daraufhin die Aufforderungen immer wieder umgeschrieben und es erneut versucht.

„Das Vorgehen des Beklagten war ein kalkulierter Plan, das Werkzeug des Klägers für kriminelle Zwecke zu missbrauchen und reale Opfer schwerwiegendem und dauerhaftem Schaden auszusetzen“, schrieb xAI in der von Reuters zitierten Klage. Das Unternehmen wirft ihm außerdem vor, nicht einvernehmliche sexuelle Bilder von Erwachsenen hergestellt zu haben.

Das KI-Unternehmen beantragte in der Klage zwei Dinge vor Gericht: Schadensersatz ohne konkrete Summe und ein Verbot für Harwood, das Produkt Grok jemals wieder zu verwenden.

xAI nutzte die Einreichung auch, um das Ausmaß seiner Maßnahmen gegen Betrüger darzulegen. Das Unternehmen gab an, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen an das Nationale Zentrum für vermisste und ausgebeutete Kinder (National Center for Missing & Exploited Children) weitergeleitet zu haben. Diese Meldungen führten im Jahr 2026 zu mindestens 244 Verhaftungen.

Grok bleibt weiterhin unter genauer Beobachtung

xAI stand bereits vor diesem Fall wegen der Inhalte von Grok unter Druck. Europäische Regulierungsbehörden haben das KI-Tool genau unter die Lupe genommen, während Gesetzgeber in Washington zahlreiche Bedenken geäußert haben. Sowohl Malaysia als auch Indonesien haben den Chatbot aufgrund sexuell expliziter Inhalte verboten, wie Al Jazeera berichtete.

Elon Musk selbst bestritt das zugrundeliegende Problem Anfang des Jahres. „Mir sind keine Nacktbilder von Minderjährigen bekannt, die von Grok erstellt wurden. Absolut keine“, schrieb im Januar

Mir sind keine Nacktbilder von Minderjährigen bekannt, die von Grok generiert wurden. Absolut keine.

Grok generiert Bilder natürlich nicht spontan, sondern nur auf Anfrage des Nutzers.

Wenn es aufgefordert wird, Bilder zu generieren, weigert es sich, illegale Inhalte zu erzeugen, da dies seinem Betriebsprinzip entspricht… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) 14. Januar 2026

Ein kürzlich geschaffener Rechtsweg, der sogenannte DEFIANCE Act, hat ebenfalls zu einem Anstieg solcher Fälle geführt. Das 2024 unterzeichnete Gesetz ermöglicht es Opfern nicht einvernehmlicher Deepfakes intimer Inhalte, zu klagen, und mehrere Bundesstaaten haben entsprechende Gesetze verabschiedet.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.