Die Europäische Kommission leitet ein formelles Verfahren gegen den Grok-KI-Chatbot von xAI ein

Die Europäische Kommission hat ein formelles Verfahren gegen Elon Musks Social-Media-Plattform X eingeleitet, nachdem festgestellt wurde, dass deren KI-Chatbot Grok ohne deren Zustimmung sexuelle Bilder von realen Personen, darunter auch Bilder von Kindern, erstellt hatte.

Nutzer von X haben mithilfe von Grok KI-veränderte Versionen realer Fotos erstellt. Eine vergangene Woche vom Centre for Countering Digital Hate veröffentlichte Studie ergab , dass Grok innerhalb weniger Tage rund drei Millionen Deepfake-Bilder von Frauen und Kindern erzeugt hat.

Die Kontroverse hat in mehreren Ländern zu Forderungen nach Untersuchungen geführt. In Irland haben daraufhin mehrere Regierungsmitglieder ihre X-Konten geschlossen.

Regina Doherty, Mitglied des Europäischen Parlaments für die Partei Fine Gael, bestätigte in einer heute Morgen veröffentlichten Erklärung das Vorgehen der Kommission gegen das Unternehmen. Sie erklärte, sie unterstütze die Entscheidung, ein formelles Ermittlungsverfahren einzuleiten.

„Wenn glaubwürdige Berichte über den Einsatz von KI-Systemen zum Schaden von Frauen und Kindern auftauchen, ist es unerlässlich, dass das EU-Recht unverzüglich geprüft und durchgesetzt wird“, sagte Doherty.

Sie fügte hinzu, dass der Fall ernsthafte Bedenken aufwirft, ob die Plattformen ihrer rechtlichen Verantwortung nachkommen, Risiken zu erkennen und die Verbreitung illegaler und schädlicher Inhalte zu verhindern.

Doherty betonte, dass die Untersuchung zu tatsächlichen Konsequenzen führen müsse.

„Kein Unternehmen, das in der EU tätig ist, steht über dem Gesetz“, erklärte sie.

Sie wies außerdem darauf hin, dass die Situation größere Probleme bei der Regulierung und Überwachung neuer KI-Technologien aufzeigt und forderte weitere Maßnahmen auf EU-Ebene.

„Dieser Fall unterstreicht, warum das KI-Gesetz ein dynamisches Rechtsinstrument bleiben muss. Wenn Lücken in der Durchsetzung oder Aufsicht deutlich werden, liegt es in unserer Verantwortung, diese zu schließen. EU-Recht muss in Echtzeit durchsetzbar sein, wenn schwerwiegende Schäden entstehen“, sagte Doherty.

Die Ermittlungen verzögern sich aufgrund der Grönlandkrise

Laut der deutschen Nachrichtenquelle EU-Gesetz über digitale Dienste einzuleiten , doch die Entscheidung wurde verschoben, da sich der Block mit den Drohungen von US-Präsident Donald Trump auseinandersetzen musste, Grönland dent annektieren.

Dies ist nicht das erste Mal, dass X Probleme mit EU-Regulierungsbehörden hat. Im Dezember 2025 wurde die Plattform von der EU wegen Verstößen gegen das Gesetz über digitale Dienste mit einer Geldstrafe von 120 Millionen Euro belegt. Zu den Verstößen zählten irreführende blaue Häkchen, mangelnde Transparenz bei der Werbung und die Behinderung von Forschern beim Zugang zur Plattform.

Offizielle Vertreter der Trump-Regierung äußerten sichtronzu der Geldstrafe. Außenminister Marco Rubio unddent JD Vance kritisierten sie heftig und bezeichneten sie als Angriff auf amerikanische Technologieplattformen.

Schwerpunkt auf Risikobewertung und Inhaltsmoderation

Die aktuelle Untersuchung konzentriert sich insbesondere darauf, ob X die Risiken seines KI-Chatbots angemessen bewertet und ausreichende Maßnahmen ergriffen hat, um die Erstellung und Verbreitung schädlicher Inhalte zu verhindern. Das Gesetz über digitale Dienste (Digital Services Act) verpflichtet große Online-Plattformen, Risiken im Zusammenhang mit illegalen Inhalten und Schäden für Nutzer zudentund zu beheben.

Die rasante Produktion einer so großen Menge an unangebrachten Bildern in so kurzer Zeit hat bei Befürwortern digitaler Sicherheit und Gesetzgebern Alarm ausgelöst.

Der Fall hat sich zu einem Präzedenzfall dafür entwickelt, wie EU-Regulierungen mit neuen KI-Technologien umgehen werden. Obwohl das KI-Gesetz zur Regulierung von Systemen künstlicher Intelligenz verabschiedet wurde, wird dieser Fall auf Grundlage des Gesetzes über digitale Dienste verhandelt, das die Verantwortlichkeiten von Online-Plattformen regelt.

Die Untersuchung könnte zu weiteren Bußgeldern oder Auflagen für X führen, die Geschäftspraktiken von Grok zu ändern. Die Kommission hat die Befugnis, bei schwerwiegenden Verstößen gegen das Gesetz über digitale Dienste Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes eines Unternehmens zu verhängen.

X hat sich zu den neuen Ermittlungen noch nicht öffentlich geäußert. Das Vorgehen des Unternehmens wird genau beobachtet, da auch andere Länder über eigene regulatorische Maßnahmen . Mehrere Staaten haben bereits dringende Maßnahmen gefordert , um die Fähigkeit des Chatbots, unangemessene Bilder zu erstellen, zu unterbinden.

Lesen Sie nicht nur Krypto-News. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos .