TikTok wird beschuldigt, eine nicht funktionierende Sicherheitsfunktion für Jugendliche und Kinder zu testen

Tausende TikTok-Nutzer, die ein Sicherheitstool namens Algo Refresh aktiviert hatten, erhielten laut den in der am Mittwoch veröffentlichten Klage des New Yorker Generalstaatsanwalts Letitia James erhobenen Vorwürfen eine Version, die nicht funktionierte. laut Reuters.

Algo Refresh soll die Empfehlungen eines Nutzers zurücksetzen, wenn dieser sich von unerwünschten oder schädlichen Videos abwenden möchte.

In dem als „Geheim-“ oder Placebo-Experimente bezeichneten Verfahren erhielt die Placebo-Gruppe laut der Klage eine Bestätigung, dass Algo Refresh aktiviert worden sei, obwohl ihre Empfehlungen nicht zurückgesetzt wurden.

New York wirft vor, Nutzer seien getäuscht worden

Der Klage zufolge versichert TikTok den Nutzern, dass Sicherheit höchste Priorität habe und die Plattform für Kinder und Jugendliche geeignet sei, während es gleichzeitig wissentlich Sicherheitswerkzeuge für bestimmte Gruppen vorenthielt, darunter auch für Nutzer, die explizit versucht hatten, schädliche Inhalte zu vermeiden.

Laut der Klage hatte das Unternehmen die Nutzer über die Funktionalität von Algo Refresh getäuscht, bei dem es sich tatsächlich um eine vorübergehende Zurücksetzung des für Empfehlungen verwendeten Algorithmus handelte.

TikTok führte die Experimente an Tausenden von Nutzern im gesamten Jahr 2023 weiter durch, wie aus der Klageschrift hervorgeht. Dabei wurden diejenigen, die die Funktion nutzten, mit denen verglichen, die sie nicht nutzten, und untersucht, wie viel Zeit die Nutzer auf der Plattform verbrachten und wie sich die Konfiguration auf die Werbeeinnahmen auswirkte.

Ein Sprecher erklärte, das Unternehmen nehme kontinuierliche Verbesserungen vor und teste – wie die meisten Unternehmen – regelmäßig neue Produkte und Funktionen, um die Benutzererfahrung zu validieren und zu verstehen, wie diese in der Praxis funktionieren.

TikTok hat die Vorwürfe aus New York in den Gerichtsakten pauschal bestritten und betont, dass die Sicherheit junger Nutzer eine Priorität darstellt.

TikTok-Mitarbeiter warnte davor, dass der Placebo-Test Nutzer irreführen könnte

Ein Produktmanager für Digital Well Being habe Kollegen gegenüber erklärt, dass Placebo-Tests bei Algo Refresh problematisch seien und Nutzer dies als irreführend empfinden könnten, heißt es in der Klageschrift.

„Diese Funktion dreht sich um Transparenz und Kontrolle des Algorithmus“, schrieb die Person in einem internen Chat. „Eine Placebo-Gruppe steht dem völlig entgegen.“ Das Unternehmen führte die Tests dennoch durch.

Die Vorwürfe wurden bekannt, nachdem die Klage entzegelt worden war

Justizministerin James reichte den Fall 2024 ein, während die neuesten Vorwürfe in einer Ende August 2026 unter Verschluss eingereichten ergänzten Klage enthalten waren. Sie wurden erst öffentlich, als ein Richter die Entzegelung der Klage anordnete.

Laut Reuters wurden auch viele Dokumente in anderen staatlichen Klagen gegen TikTok entweder unter Verschluss gehalten oder stark geschwärzt, um die Geheimhaltung interner Praktiken des Unternehmens zu gewährleisten.

Die entzegelte Klage enthält zudem den Vorwurf eines weiteren Experiments, bei dem TikTok offenbar einige Sicherheitsmaßnahmen für zufällig ausgewählte Nutzer deaktiviert hat. Ein solcher Teenager aus New York, der Teil dieses Tests war, nahm sich nach Angaben interner Untersuchungen, die im Prozess dokumentiert sind, das Leben; sein Konto war mit Inhalten über Suizid und Selbstverletzung gefüllt.

Das Experiment hatte auch in Washington Aufmerksamkeit erregt, wo Senatorin Marsha Blackburn und Richard Blumenthal es im August als „abscheulich“ bezeichneten. Die beiden Senatoren stellten TikTok 13 Fragen zum Test, um dessen Gestaltung, die zuständige Genehmigung und die angeblich vorhandenen Schutzmaßnahmen zu verstehen.

Der Rechtsstreit in New York ist Teil einer viel umfassenderen rechtlichen Auseinandersetzung. Mehr als 20 Bundesstaaten haben geltend gemacht, dass TikTok Funktionen entwickelt hat, die einen zwanghaften Gebrauch bei Jugendlichen fördern, trotz der übertriebenen Behauptungen des Unternehmens hinsichtlich seiner Sicherheitsmaßnahmen.

Dieser Druck hat bereits zu Vergleichszahlungen geführt. Im September vereinbarte TikTok, Alabama bis zu 300 Millionen US-Dollar zu zahlen und Änderungen an der Funktionsweise seiner Plattform für Teenager vorzunehmen, wodurch der erste der Bundesstaatsfälle beigelegt wurde, die ursprünglich vor Gericht verhandelt werden sollten.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.