Elon Musks xAI scheitert vor Gericht im Streit um das „Nudifizierungsverbot“ in Minnesota

Ein Bundesrichter hat das Verbot von KI-Tools in Minnesota bestätigt, die Fotos realer Personen in Nacktbilder und -medien umwandeln können. Er wies den Antrag von Elon Musks xAI zurück, das Gesetz bis zum Abschluss des Verfahrens zur Meinungsfreiheit auszusetzen. Die Entscheidung erlaubt es den Aufsichtsbehörden, ab sofort Bußgelder von bis zu 500.000 US-Dollar pro Bild zu verhängen.

US-Bezirksrichter Donovan Frank wies den Antrag von xAI auf eine einstweilige Verfügung zurück, die das Gesetz bis zum Abschluss des Verfahrens außer Kraft gesetzt hätte. Richter Donovan wog die Interessenabwägung ab und kam laut dem von CBS Minnesota zitierten Memorandum zu dem Schluss, dass das öffentliche Interesse eindeutig zugunsten des Staates ausfällt

Der Richter beschrieb ein „Zivilgesetz zum Schutz der Öffentlichkeit vor dem unbestreitbaren Schaden durch KI-gestützte Nacktheitstechnologie“ und erklärte, es sei „demokratisch und nahezu einstimmig“ verabschiedet worden. Er räumte jedoch ein, dass die zugrundeliegenden Fragen zum Ersten Verfassungszusatz aufgrund des neuen technologischen Kontextes weiterhin komplex seien, und zeigte sich zuversichtlich, dass sich der Fall im Laufe des Verfahrens klären werde. Bis auf Weiteres bleibt das Verbot jedoch bestehen.

Die Einreichung in letzter Minute schwächt die Argumentation von xAI

Das Parlament von Minnesota verabschiedete den Gesetzentwurf im Frühjahr, und der Gouverneur unterzeichnete ihn. xAI reichte jedoch erst am 27. Juli Klage ein, etwa drei Monate später und wenige Tage vor dem geplanten Starttermin am 1. August. Das KI-Unternehmen beantragte am 29. Juli eine einstweilige Verfügung, die Richter Frank am 31. Juli ablehnte.

Diese Lücke wurde zu einem weiteren Indiz gegen xAI. „Wenn xAI tatsächlich einen irreparablen Schaden befürchtet hätte, hätte das Gericht zweifellos schneller gehandelt, um diese Klage einzureichen und einen Antrag auf einstweilige Verfügung zu stellen“, schrieb Frank.

Mit anderen Worten: Ein Unternehmen, das einer Katastrophe entgehen will, wartet nicht bis zum Vorabend der Vollstreckung, um ein Gericht um Hilfe zu bitten.

Umfang des Gesetzes und die Kosten

Das als HF 1606 bekannte Gesetz ist das erste seiner Art im ganzen Land. Es verbietet Anbietern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile hinzufügen, die auf einem Originalfoto einerdentPerson fehlen, und untersagt ihnen außerdem, solche Bilder im Auftrag eines Nutzers zu erstellen.

Für jeden Verstoß droht eine zivilrechtliche Strafe von bis zu 500.000 US-Dollar, und die auf diesen Bildern abgebildeten Personen können individuelle Schadensersatzansprüche geltend machen.

Das US-Bundesgesetz „Take It Down Act“ und ein texanischer Ansatz zu Deepfakes aus dem Jahr 2025 hängen davon ab, ob der Urheber wusste, dass das Bild nicht einvernehmlich erstellt wurde. Minnesota hat diese Voraussetzung vollständig abgeschafft, sodass ein Anbieter auch ohne Kenntnis der Erstellung eines Nacktbildes haftbar gemacht werden kann.

Diese Bestimmung im Gesetz ist genau der Bereich, gegen den sich xAI ausspricht. Der Gesetzentwurf passierte das Repräsentantenhaus mit 132 zu 1 Stimmen und den Senat mit 65 zu 0 Stimmen, nachdem Berichte über einen Mann bekannt geworden waren, der mithilfe von Fotos aus sozialen Medien sexuelle Bilder von über 80 Frauen, die er kannte, gefälscht hatte.

Die Dimensionen hinter Grok Imagine

Generalstaatsanwalt Keith Ellison, der das unterzeichnete Gesetz verteidigte, erklärte, das Urteil sei ein Sieg für diedentMinnesotas. „Ich bin sehr stolz darauf, dieses Gesetz und damit die Würde der Menschen in Minnesota zu verteidigen“, sagte er und fügte hinzu, das Gesetz verhindere weiterhin, dass Produkte wie xAIs Grok Imagine sexualisierte Bilder erzeugen.

Laut einem im Urteil erwähnten Bericht erstellte Grok in den elf Tagen nach Einführung einer neuen Bildbearbeitungsfunktion rund drei Millionen sexualisierte Bilder, darunter etwa 23.000, die offenbar Kinder zeigten. Cryptopolitan hatte zuvor berichtet , dass xAI seine Bilanz verteidigte und angab, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen beim National Center for Missing and Exploited Children (NCMEC) eingereicht zu haben.

Die Anwälte von xAI haben nun angekündigt , beim 8. US-Berufungsgericht eine Überprüfung der Ablehnung der einstweiligen Verfügung zu beantragen. Zuvor hatte das Unternehmen vorgeschlagen, Funktionen für Nutzer in Minnesota vorübergehend auszusetzen, anstatt Strafzahlungen zu riskieren.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.