Meta schaltet KI-gestützte Anzeigen aus, die Nutzer zu Material zur sexuellen Ausbeutung von Kindern auf Facebook und Instagram führen

Meta prüft nun, wohin eine Anzeige führt und was sie zeigt. Der am Mittwoch zusammen mit neuen KI-Tools angekündigte Schritt zielt auf Anzeigen ab, die Nutzer stillschweigend zu Material zur sexuellen Ausbeutung von Kindern weiterleiten, das außerhalb von Facebook und Instagram gehostet wird.

Meta sagte, Kriminelle hätten sich in die Werbung eingeschlichen. Eine Anzeige kann für sich genommen harmlos wirken, dennoch aber Nutzer zu illegalen Materialien auf externen Websites führen.

Meta hat es nicht bei den gemeldeten Anzeigen bewenden lassen. Nach Aufklärung des Schemas erweiterte das Unternehmen seine Untersuchung auf seine Plattformen, sperrte die dahinterstehenden Konten und blockierte die beteiligten Links außerhalb der Plattform.

Red-Teaming-Agent joined PhotoDNA, im Einsatz seit 2011

Metas neues Large-Language-Model sucht nach dem, was es als „Wegweiser“ bezeichnet. Meta beschreibt dies als Anzeigeninhalte, die harmlos erscheinen, aber stark verdächtig sind, Personen heimlich zu illegalen Inhalten oder schädlichen Aktivitäten außerhalb von Metas Plattformen zu führen.

Weitere KI-gestützte Scans von Anzeigeninhalten suchen nach Ausbeutungsmaterial, das von früheren Systemen übersehen wurde. Meta sagt, dass es weiterhin Signale hinzufügt, während sich die Untersuchung fortsetzt.

Ein Red-Teaming-KI-Agent prüft Metas eigene Abwehrmaßnahmen auf Schwachstellen, sodass neue Taktiken aufgedeckt werden, bevor sie sich ausbreiten. Eine verbesserte Erkennung von Wiederholungstätern soll Schädlinge daran hindern, nach ihrer Entfernung neue Konten zu erstellen.

Meta nutzt seit 2011 PhotoDNA zum Abgleich von Fotos und Videos in seinen Apps und bietet anderen Unternehmen Bild- und Video-Hashes über das Lantern-Programm der Tech Coalition an.

Meta sucht nach Anzeigen, Beiträgen und Kommentaren, die einen gesperrten Link enthalten, und löscht diese. Anzeigen mit gesperrten Links werden beim Hochladen abgelehnt.

Proaktive Erkennung hat mehr als 97 % der 33,2 Millionen Exploitation-Elemente gefunden

Meta griff zwischen Januar und Juni 2026 weltweit bei 33,2 Millionen Fällen von Inhalten zur sexuellen Ausbeutung von Kindern auf Facebook und Instagram ein. Mehr als 97 % dieser Inhalte wurden erkannt, bevor sie von jemandem gemeldet wurden.

In Indien betrug die gleiche Zahl im selben halben Jahr 5,3 Millionen Elemente, von denen über 98 % erstmals erkannt wurden. Im September erklärte Meta, dass das Nationale Cybercrime-Meldeportal Indiens, betrieben vom Indian Cybercrime Coordination Center, seine Fälle zum Kinderschutz direkt erhalten wird.

Die Tools werden eingeführt, während Meta vor Gericht mit Vorwürfen bezüglich des Kinderschutzes konfrontiert ist. Im August einigte es sich mit 29 US-Bundesstaaten auf bis zu 18 Milliarden US-Dollar, ohne die Vorwürfe anzuerkennen.

Die Bundesstaaten warfen Meta vor, Instagram und Facebook so konzipiert zu haben, dass sie Kinder süchtig machen. Vor der Einigung von Meta liefen die Eröffnungsplädoyers im Bundesgericht in Oakland, wo Meta der Jury mitteilte, dass es seine Apps nicht entwickelt habe, um Kinder süchtig zu machen, Cryptopolitan berichtete.

Die EU-Verbraucherorganisation BEUC warf Meta, Google und TikTok im Mai vor, betrügerische Anzeigen nicht entfernt zu haben, Cryptopolitan berichtete.

Meta wies die Vorwürfe zurück. Es erklärte, dass es im Jahr 2025 mehr als 159 Millionen betrügerische Anzeigen entfernt habe und 92 % davon entfernt wurden, bevor sie von einem Benutzer gemeldet wurden.

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.