Minnesota argumentiert vor Gericht, dass Grok keinen Anspruch auf den Schutz des Ersten Verfassungszusatzes habe

Der Generalstaatsanwalt von Minnesota, Keith Ellison, reichte am Freitag eine Stellungnahme ein, in der er sich gegen den Versuch von xAI aussprach, HF 1606 zu blockieren. Bei diesem Gesetz handelt es sich um das erste Gesetz des Bundesstaates in den USA, das KI-Tools einschränkt, die sexuelle Bilder vondentPersonen erzeugen, wie Decrypt berichtet.

Ellison argumentierte, dass das Unternehmen mit seiner verfassungsrechtlichen Klage wahrscheinlich keinen Erfolg haben werde und es nicht nachgewiesen habe, dass die Durchsetzung einen irreparablen Schaden verursachen würde.

Mit Grok Imagine X.AI einen beispiellosen Marktplatz für digitale sexuelle Gewalt geschaffen, und der Staat wäre von vornherein schutzlos, es sei denn, er könnte seine Gesetze auf die Technologie selbst richten.

– Generalstaatsanwalt Keith Ellison

Die Argumentation aus Minnesota lautet, dass Grok Imagine ein Werkzeug und keine durch die Meinungsfreiheit geschützte Anwendung sei, wodurch es nicht zu den von xAI vorgelegten Kriterien gehöre, die der Richter prüfen müsse. Am Mittwoch findet eine Anhörung vor einem Bundesrichter in dieser Angelegenheit statt.

Das Gesetz von Minnesota zielt auch ohne Wissen oder Absicht auf KI-Anbieter ab

HF 1606 verbietet es Unternehmen, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile zeigen, die auf dem Originalfoto einerdentPerson nicht vorhanden waren, und solche Bilder im Auftrag eines Nutzers anzufertigen. Verstöße werden mit Geldstrafen von bis zu 500.000 US-Dollar pro Bild geahndet. Abgebildete Personen können separat klagen.

Das Gesetz verlangt nicht, dass ein Unternehmen von dem Bild wusste oder es beabsichtigte. Die meisten Gesetze gegen Deepfakes, darunter der US-amerikanische „Take It Down Act“, bestrafen diejenigen, die das Bild erstellen oder verbreiten.

Texas kontaktierte die Betreiber im Jahr 2025, jedoch nur dann, wenn der Inhaber von der fehlenden Zustimmung wusste oder nicht auf eine Aufforderung zur Löschung reagierte. Minnesota strich das Element der Kenntnis, und genau diese Bestimmung wurde am Mittwoch von xAI angegriffen.

Das Repräsentantenhaus verabschiedete den Gesetzentwurf mit 132 zu 1 Stimmen, der Senat mit 65 zu 0 Stimmen. Zuvor waren Berichte über einen Mann bekannt geworden, der mithilfe von Fotos aus sozialen Medien sexuelle Darstellungen von über 80 ihm bekannten Frauen erstellt hatte. Das Gesetz wurde im April unterzeichnet. xAI reichte am 27. Juli Klage ein und beantragte am 29. Juli eine einstweilige Verfügung.

Am 31. Juli wies Richter Donovan Frank die Klage ab und wies darauf hin, dass das Unternehmen die Klage fast drei Monate nach Unterzeichnung und drei Tage vor Inkrafttreten des Gesetzes eingereicht hatte, was darauf hindeute, dass „der Schaden nicht unmittelbar eingetreten ist“. Das Gesetz trat am 1. August in Kraft.

xAI behauptet, dass die Regeln in Minnesota Satire und einvernehmliche Bilder kriminalisieren könnten

Die Beschwerde bestreitet nicht das staatliche Interesse an der Verhinderung nicht einvernehmlicher Darstellungen, sondern argumentiert vielmehr, dass das Gesetz weit darüber hinausgeht. Die Argumentation beruht dabei auf einer defi. Laut xAI stützte der Staat Minnesota seine defides Intimbereichs auf ein Gesetz, das für Straftaten mit Körperkontakt gedacht war. Dieses umfasst die Innenseiten der Oberschenkel und die Brüste und schließt somit auch Badebekleidung und Satire ein.

Seite 19 des Dokuments enthält ein KI-generiertes Bild, das Trump am 1. Mai auf Truth Social geteilt hatte. Darauf ist er zusammen mit JD Vance, Marco Rubio und Innenminister Doug Burgum – alle oberkörperfrei – sowie einer unbekannten Frau im Reflecting Pool des Lincoln Memorials zu sehen. Der Witz spielt auf die Reparaturkosten des Beckens an. Laut xAI ist auf dem Bild die Brust jedes Mannes zu sehen, wo sie vorher nicht war, weshalb es in Minnesota illegal sei.

„Selbst wenn die Betroffenen ihre Zustimmung gegeben, die Bilder selbst erstellt oder sie nie geteilt haben, gibt es keinen sicheren Hafen für gutgläubige Bemühungen des Anbieters von KI-gestützten Kreativwerkzeugen für den allgemeinen Gebrauch“, sagte das Unternehmen.

Nach der eigenen Berechnung kosten zehn solcher Bilder 5 Millionen Dollar, und hunderttausend würden 50 Milliarden Dollar ergeben.

Groks Bilanz bei der Strafverfolgung verdeutlicht das Ausmaß des Missbrauchsproblems

Das Unternehmen legte seine Compliance-Bilanz als Beweis für seinen guten Willen vor. Wie Cryptopolitan bereits berichtete, gab xAI in einer im Juli eingereichten Erklärung an, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen an das Nationale Zentrum für vermisste und ausgebeutete Kinder (National Center for Missing and Exploited Children) übermittelt zu haben, was im Jahr 2026 zu mindestens 244 Verhaftungen geführt haben soll.

Diese Zahlen verdeutlichen auch das Ausmaß. Laut dem Center for Countering Digital Hate erstellte Grok in den elf Tagen zwischen dem 29. Dezember und dem 8. Januar, nachdem Musk die Bearbeitungsfunktionen der App befürwortet hatte, etwa drei Millionen sexuell explizite Bilder, darunter etwa 23.000, die offenbar Kinder zeigten.

Kalifornien leitete am 14. Januar eine Untersuchung ein und verschickte zwei Tage später eine Unterlassungsaufforderung. 35 Generalstaatsanwälte unterzeichneten am 23. Januar eine gemeinsame Forderung. Laut Ellison wurde eine Sammelklage von fünf Kindern eingereicht, und zwei Familien aus Arkansas haben Klage vor einem Bundesgericht erhoben.

Die Europäische Kommission leitete am 27. Januar eine Untersuchung ein, und der Chatbot wurde in Malaysia und Indonesien verboten.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.