Spanien leitet Ermittlungen gegen X, Meta und TikTok wegen mutmaßlicher KI-gestützter Inhalte zum Kindesmissbrauch ein

Spanien hat rechtliche Schritte gegen X, Meta und TikTok eingeleitet, da deren KI-Modelle angeblich zur Erstellung und Verbreitung von Material über sexuellen Kindesmissbrauch beigetragen haben.

Der spanische Ministerpräsident Pedro Sánchez erklärte am Dienstag, das Kabinett werde Artikel 8 der Satzung der Generalstaatsanwaltschaft anwenden. Er schrieb:

„Der Ministerrat wird heute Artikel 8 des Organstatuts der Staatsanwaltschaft anwenden, um diese aufzufordern, die Straftaten zu untersuchen, die X, Meta und TikTok möglicherweise durch die Erstellung und Verbreitung von Kinderpornografie mittels ihrer KI begehen.“

Pedor fügte hinzu: „Diese Plattformen greifen die psychische Gesundheit, die Würde und die Rechte unserer Söhne und Töchter an. Der Staat darf das nicht zulassen. Die Straflosigkeit der Giganten muss ein Ende haben.“

Zwei Wochen vor diesem Rechtsantrag hatte Pedro neue Pläne zur Bekämpfung von Online-Missbrauch in Spanien vorgestellt und versprochen, den Zugang zu sozialen Medien für alle unter 16 Jahren zu sperren.

Im November Pedro das spanische Parlament werde Meta wegen möglicher Datenschutzverletzungen gegenüber Facebook- und Instagram-Nutzern untersuchen.

Daten der britischen Internet Watch Foundation zeigen, wie rasant das Problem zunimmt. Im vergangenen Jahr meldete die Stiftung 3.440 KI-generierte Videos mit Darstellungen von sexuellem Kindesmissbrauch. Im Jahr davor waren es lediglich 13.

Europa verschärft weiterhin die Durchsetzung der Gesetze gegen große Technologieunternehmen

Die Maßnahmen Spaniens verschärfen die Spannungen zwischen europäischen Regierungen und großen amerikanischen Technologiekonzernen. Diese Unternehmen genießen die Unterstützung der Regierung von Donald Trump, dem 47.dent der Vereinigten Staaten, der 2024 gewählt wurde und 2026 im Amt bleibt.

Europäische Politiker argumentieren, dass Plattformen ihre Nutzer schützen müssen. US-amerikanische Politiker und Führungskräfte aus der Technologiebranche hingegen warnen vor einer zu strengen Regulierung, die die Meinungsfreiheit einschränken könnte. Dieser Streit wird nun vor Gerichten und Regulierungsbehörden ausgetragen.

Im Dezember verhängte die Europäische Union gegen X eine Geldstrafe von 120 Millionen Euro (rund 140 Millionen US-Dollar) gemäß dem französischen Gesetz über digitale Dienste. Es war die erste Strafe, die nach diesem Gesetz verhängt wurde. In diesem Monat durchsuchte die französische Polizei die lokalen Büros von X im Rahmen von Ermittlungen wegen Cyberkriminalität im Zusammenhang mit der Verbreitung von Kinderpornografie und Holocaustleugnung auf der Plattform.

Auch die irische Datenschutzkommission hat sich eingeschaltet. Die Aufsichtsbehörde, die für die Durchsetzung der EU-Datenschutz-Grundverordnung zuständig ist, gab am späten Montag bekannt, dass sie eine formelle Untersuchung gegen Grok wegen der Erstellung und Veröffentlichung von, wie sie es nannte, „potenziell schädlichen“ sexualisierten Bildern eingeleitet hat.

Die Befürchtung besteht darin, dass bei der Herstellung dieser Bilder personenbezogene Daten von Nutzern in der EU verarbeitet wurden.

Grok ist direkt in den Social-Media-Feed von X integriert. Es wurde von Elon Musks KI-Unternehmen xAI entwickelt, das X letztes Jahr übernommen hat. Anfang dieses Monats fusionierte xAI mit Musks Raumfahrtunternehmen SpaceX. Durch den Zusammenschluss entstand ein Konzern mit einem Wert von 1,5 Billionen US-Dollar.

Die irischen Ermittlungen sind die jüngsten Maßnahmen von Aufsichtsbehörden weltweit gegen X. Anfang Januar wurden mit Hilfe von Grok Tausende sexualisierte Deepfake-Bilder von Frauen erstellt. Die Bilder verbreiteten sich rasant im Internet. Die Empörung ließ nicht lange auf sich warten. Nutzer, Experten für Online-Sicherheit und Politiker reagierten gleichermaßentron.

Graham Doyle, stellvertretender Leiter der irischen Regulierungsbehörde, erklärte, die Behörde habe bereits Kontakt mit X aufgenommen, nachdem vor einigen Wochen erste Medienberichte erschienen waren. Laut diesen Berichten wurde bemängelt, dass Nutzer den Account @Grok auf X dazu bringen könnten, sexualisierte Bilder von realen Personen, darunter auch Kindern, zu generieren.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden .