Der Meta-Aufsichtsrat ordnet die Entfernung von Deepfakes an und bezeichnet die KI-Regeln als unzureichend

Der Aufsichtsrat von Meta hat entschieden, dass das Unternehmen ein KI-generiertes Video einer schottischen Labour-Ratsfrau entfernen muss, in dem fälschlicherweise der Eindruck erweckt wird, sie würde sexuelle Gewalt durch Flüchtlinge befürworten. 

Das Unternehmen hatte zunächst beschlossen, die Seite online zu lassen, und abgesehen von der Aufhebung dieser Entscheidung hat der Aufsichtsrat auch davor gewarnt, dass Metas Umgang mit Deepfakes die Nutzer dem Risiko der Täuschung aussetzt.

Welches gefälschte Video muss Meta entfernen? 

Im November 2025 tauchte auf Facebook ein Video auf, in dem das Abbild eines lokalen Labour-Politikers aus Schottland verwendet wurde. In dem Video sagte der Politiker: „Flüchtlinge sind hier willkommen, selbst wenn sie unsere Frauen vergewaltigen, denn Weiße tun das auch.“

Der Aufsichtsrat von Meta beschrieb die Darstellung als realistisch, aber künstlich und merkte an, dass der Ton nicht mit ihren Gesichtsbewegungen übereinstimmte. Das Video wurde in einem Album gefunden, das auch ein Foto mehrerer namentlich genannter Frauen, darunter der Stadträtin, bei einer Demonstration gegen Rechtsextremismus enthielt.

Zwei Personen, darunter die Stadträtin selbst, meldeten das Video gemäß den Anti-Mobbing- und Belästigungsregeln von Meta, aber die Systeme von Meta leiteten es nie an einen menschlichen Prüfer weiter, und es blieb trotz zweier Einsprüche online. 

Ein dritter Nutzer wandte sich daraufhin an den Vorstand, und selbst nachdem dieser das Video gemeldet hatte, beharrte Meta darauf, dass es keine Regeln verletze und keine Kennzeichnung als KI rechtfertige. Der Stadtrat erklärte dem Vorstand, das Video sei „ziemlichmatic“ 

Die Mehrheit des Gremiums befand, dass der Clip gegen Metas Richtlinie zu Hassrede verstieß, da er Geflüchtete pauschal schwerer Kriminalität und sexuell übergriffigen Verhaltens bezichtigte. Metas Behauptung, der Clip habe sich nur gegen einige Geflüchtete gerichtet, wurde zurückgewiesen. Das Gremium stufte den Clip nicht als entfernbare Falschinformation ein, sondern erklärte, er hätte mit dem Hinweis „Hohes Risiko für KI“ versehen werden müssen.

Der Vorstand stimmte Meta in einem Punkt zu, nämlich dass die Regeln gegen Mobbing und Belästigung keine Absetzung vorschreiben, da ein gewählter Beamter eine Person des öffentlichen Lebens ist, die weniger Schutz genießt als eine Privatperson.

Welche Empfehlungen hat der Aufsichtsrat für Meta?

Der Vorstand schaltete sich auch in einem zweiten Fall ein, in dem es um ein KI-manipuliertes Interview mit einer Frau ging, die Aufklärungsarbeit zum Thema Menstruationsgesundheit leistete. Nach dem Eingreifen des Vorstands entfernte Meta das Video wegen Mobbings. 

Die beiden Urteile veranlassten den Vorstand, die Sicherheitsvorkehrungen von Meta als „durchweg und grundlegend unzureichend“ zu bezeichnen

Der Vorstand empfahl Meta, die Schwelle für „Hochrisiko“-Labels zu senken, damit diese nicht nur für Wahlen oder Krisen reserviert bleiben, und einige Labels durch Click-Through-Interstitials zu ersetzen. Er schlug außerdem vor, risikoreiche KI-Inhalte zu demonetarisieren, herabzustufen oder aus den Empfehlungen zu entfernen, wobei wiederholte Verstöße mit steigenden Strafen geahndet werden sollten. 

Die Behörde fordert Meta außerdem auf, mutmaßlich KI-generierte Inhalte nach Meldung vorrangig einer menschlichen Überprüfung zu unterziehen, jährlich Daten zur Häufigkeit der KI-Kennzeichnung – auch bei Beiträgen über Politiker – zu veröffentlichen und die Wahl- und Volkszählungsregeln so zu formulieren, dass sie weltweit und nicht nur in den USA gelten. Meta hat 60 Tage Zeit, auf die Forderung der Behörde zu reagieren. 

Weltweit verschärfen Regierungen und Plattformen ihre Regeln für synthetische Medien. So erließ beispielsweise der Oberste Volksgerichtshof Chinas am 7. September Haftungsregeln , die besagen, dass die Erstellung oder Verbreitung einer KI-Replik des Gesichts oder der Stimme einer Person ohne deren Einwilligung eine Urheberrechtsverletzung darstellt. Cryptopolitan berichtete zudem, dass Peking im Rahmen der ersten Phase seiner „Qinglang“-Bereinigung Anfang des Jahres separat mehr als 14.000 KI-Produkte entfernt hat. 

Der Verhaltenskodex der Europäischen Union zur Transparenz KI-generierter Inhalte drängt Anbieter dazu, KI-Ergebnisse zu kennzeichnen, und Anwender dazu, Deepfakes zu kennzeichnen. 

Die Richtlinie von Google Play für KI-generierte Inhalte verbietet Nutzern das Veröffentlichen von nicht einvernehmlichem Deepfake-Sexualmaterial und von Wahlkampfinhalten, die „nachweislich irreführend oder falsch“ sind.

Nur wenigen Nutzern ist es gestattet, KI in nicht offengelegten Beiträgen auf Medium zu verwenden, und die Plattform verbietet KI-generierte Desinformation kategorisch. 

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.