WDHLG-ANALYSE-Musk hat wegen Grok-Defaults einen Rückschlag erlitten, aber der Kampf um die Regulierung ist noch lange nicht vorbei

- von Supantha Mukherjee und Paul Sandle

STOCKHOLM/LONDON, 16. Jan (Reuters) - Elon Musks Chatbot Grok testet Europas Fähigkeit, gegen Deepfakes und digitales Ausziehen von Bildern im Internet vorzugehen, selbst nachdem die Regulierungsbehörden einen seltenen Sieg errungen haben, indem sie Musks xAI zwangen, die Erstellung sexualisierter Bilder einzuschränken.

xAI teilte am späten Mittwoch (link) mit, dass es die Bildbearbeitung für Grok AI-Nutzer eingeschränkt hat, nachdem der Chatbot Tausende von sexualisierten Bildern von Frauen und Minderjährigen produziert hatte, die die weltweiten Aufsichtsbehörden alarmierten.

Der Rückzieher von Musk, der sich zunächst über den Trend lustig gemacht hatte, zeigt, wie schwierig es ist, KI-Tools zu kontrollieren, die die Erstellung expliziter Inhalte billig und einfach machen. Dies ist der jüngste Konflikt zwischen Europe und Musk, nachdem es bereits zu Auseinandersetzungen über die Einmischung in Wahlen (link), die Moderation von Inhalten und die Redefreiheit (link) gekommen war.

Viele Regulierungsbehörden bemühen sich immer noch, Gesetze und Regeln für KI zu entwickeln, wobei die Frage im Raum steht, was Nacktheit ist, wie man Zustimmung definiert und wer die Verantwortung trägt: der Nutzer oder die Plattform.

"Es ist wirklich eine Grauzone in Bezug auf die Erstellung von Nacktbildern", sagte Ängla Pändel, eine Stockholmer Anwältin für Datenschutz und Privatsphäre bei Mannheimer Swartling, gegenüber Reuters.

Die britische Regulierungsbehörde Ofcom, die sich in dieser Angelegenheit am lautesten geäußert hat, begrüßte den Schritt von Musk, erklärte jedoch, dass ihre Ermittlungen gegen xAI im Zusammenhang mit den Grok-Bildern fortgesetzt würden.

"Unsere formelle Untersuchung läuft weiter", sagte ein Sprecher. "Wir arbeiten rund um die Uhr daran, die Sache voranzutreiben und Antworten auf die Frage zu bekommen, was schief gelaufen ist und was getan wird, um das Problem zu beheben."

STÄRKERE DURCHSETZUNG NOCH NÖTIG, SAGEN DIE BEAMTEN

Anfang dieses Monats erstellte Grok hyperrealistische Bilder von Frauen (link) auf X, die so manipuliert wurden, dass es aussah, als trügen sie winzige Bikinis, entwürdigende Posen oder seien sogar mit blauen Flecken übersät. Einige Minderjährige wurden digital bis auf die Badehose entkleidet.

Bis Mittwoch stellte Reuters fest, dass der Chatbot immer noch auf Anfrage privat sexualisierte Bilder produzierte. Dies schien am Donnerstag zumindest in bestimmten Regionen eingedämmt worden zu sein.

Musk's xAI sagte, dass es die Nutzer von (link) daran hindert, Bilder von Menschen in knapper Kleidung in Ländern zu erzeugen, in denen dies illegal ist". Das Unternehmen nannte diese Länder nicht.

In Malaysia und Indonesien haben die Regierungen vorübergehende Verbote für Grok (link) verhängt, während die Regulierungsbehörden der EU und des Vereinigten Königreichs die Bilder als rechtswidrig bezeichneten. Das Vereinigte Königreich, Frankreich und Italien leiteten Untersuchungen ein (link), sahen sich jedoch Forderungen nach einem härteren Vorgehen gegenüber.

"Eine stärkere Durchsetzung des Digital Services Act (DSA) ist notwendig, um Apps und Plattformen zu stoppen, die Frauen und Kinder sexualisieren oder nackt darstellen", sagte die christdemokratische Europaabgeordnete Nina Carberry, die den jüngsten Schritt (link) einen "positiven Schritt" nannte.

ein Sprecher der Europäischen Kommission sagte, dass die Kommission auch dann, wenn die Änderungen der Grok nicht wirksam seien, das gesamte Instrumentarium der EU-DSGVO gegen die Plattform einsetzen werde.

RECHTLICHE GRAUZONE, HOHE BELASTUNG FÜR DIE OPFER

Das britische Online-Sicherheitsgesetz macht die Weitergabe intimer Bilder ohne Zustimmung, einschließlich von KI-generierten Deepfakes, zu einem "vorrangigen Vergehen", sagte Alexander Brown, ein in Großbritannien ansässiger Datenschutzanwalt bei Simmons & Simmons.

"Das bedeutet, dass X proaktive und angemessene Maßnahmen ergreifen muss, um zu verhindern, dass solche Inhalte auf seiner Plattform erscheinen, und um sie schnell zu entfernen, wenn sie entdeckt werden", sagte er.

Die britische Aufsichtsbehörde kann ein Unternehmen in den schwersten Fällen der Nichteinhaltung mit einer Geldstrafe von bis zu 10 Prozent des Umsatzes belegen oder ein Gericht ersuchen, Internetdienstanbieter zur Sperrung der Website zu verpflichten.

Für Einzelpersonen ist die Klage gegen Plattformen "ein wirklich schwieriger und schwerer Prozess", sagte Anders Bergsten, Anwalt bei Mannheimer Swartling, und verwies auf die emotionale Belastung der Opfer.

Deepfakes gibt es schon seit Jahren (link), lange vor dem Aufkommen der KI-Apps, auch wenn sie weitgehend auf die dunkleren Ecken des Internets beschränkt waren. Die Veröffentlichungsmöglichkeiten von X geben Grok eine beispiellose Reichweite.

"Durch die reibungslose Veröffentlichung können sich die Deepfakes in großem Umfang verbreiten", so die US-Anwältin Carrie Goldberg, die mit Opfern von Cyber-Belästigung arbeitet.

In Großbritannien und Schweden ist die Verbreitung von Nacktbildern ohne Zustimmung gesetzlich verboten. In Großbritannien wird das Gesetz auf die Herstellung solcher Bilder ausgeweitet.

Nach der DSA wird die Sperrung eines Dienstes als letztes Mittel angesehen. (link) Auch das EU-Gesetz über künstliche Intelligenz enthält keine Bestimmungen für Nacktbilder von Erwachsenen, sondern nur Transparenzpflichten für Deepfakes, so Experten.

Der britische Premierminister Keir Starmer begrüßte am Donnerstag den Schritt von X, warnte jedoch: "Freie Meinungsäußerung ist nicht die Freiheit, die Zustimmung zu verletzen. Die Bilder junger Frauen sind kein öffentliches Eigentum, und ihre Sicherheit steht nicht zur Debatte"

"Wenn wir die bestehenden Gesetze weiter verschärfen müssen, sind wir bereit, das zu tun