Indien gibt Technologieplattformen 9 Tage Zeit, alle KI-Inhalte zu kennzeichnen und Deepfakes innerhalb von 3 Stunden zu entfernen

Indien hat eine Herausforderung gestellt, die möglicherweise unlösbar ist . Ab dem 20. Februar müssen Social-Media-Unternehmen im Land alle gefälschten KI-Inhalte kennzeichnen und entfernen dafür notwendige Technologie existiert noch nicht .

Die am Dienstag verkündeten Regeln setzen Plattformen wie Meta, Google und X unter Druck, Systeme einzuführen, die KI-generierte Bilder, Videos und Audiodateien erkennen verhindern, dass diese Kennzeichnungen entfernt oder ausgeblendet werden. Trotz Milliardeninvestitionen fällt es diesen Tech-Giganten schwer, ihre derzeitigen Erkennungswerkzeuge zuverlässig zum Laufen zu bringen.

Die meisten großen Plattformen nutzen bereits ein Verfahren namens C2PA, das einbettet , um deren Entstehungsgeschichte offenzulegen . Es ist vergleichbar mit einer Nährwertkennzeichnung für digitale Inhalte. Funktioniert es, lässt sich erkennen, ob ein Foto von einer echten Kamera oder einem KI-Generator stammt. Facebook, Instagram, YouTube und LinkedIn versuchen , solche Inhalte zu kennzeichnen, doch die Kennzeichnungen sind leicht zu übersehen , und viele gefälschte Inhalte gelangen ungehindert durch.

Das System weist gravierende Mängel . Open-Source-KI-Tools und Apps, die gefälschte Nacktfotos erstellen überspringen den Kennzeichnungsprozess komplett . Selbst wenn Kennzeichnungen vorhanden sind, verschwinden sie auf vielen Plattformen beim Hochladen der Dateien. Die Befürworter von C2PA argumentieren seit Jahren, die diese auf die Probe zu stellen .

Warum Indiens Marktmacht alles verändert

Indien hat 481 Millionen Instagram-Nutzer, 403 Millionen Facebook-Nutzer, 500 Millionen YouTube-Nutzer und 213 Millionen Snapchat-Nutzer. Für X ist Indien der drittgrößte Markt. Wenn ein Land dieser Größenordnung neue Regeln einführt, passen globale Technologieunternehmen ihre Systeme üblicherweise weltweit an, nicht nur lokal.

Dieser Vorstoß erfolgt, nachdem Indien monatelang mit einer Deepfake- Krise . Cryptopolitan berichtete im vergangenen Oktober , dass die Bollywood-Schauspieler Abhishek Bachchan und Aishwarya Rai Bachchan wegen gefälschter Videos, in denen ihre Gesichter verwendet wurden, Klage eingereicht und fast eine halbe Million Dollar Schadenersatz gefordert haben. Das Paar behauptet, dass die KI-Trainer von YouTube verwendet hätten , um Systeme zu trainieren, die später gefälschte Medien mit ihren Bildern erstellten. Fälle wie diese, zusammen mit viralen gefälschten Videos der Schauspielerin Rashmika Mandanna, veranlassten die Behörden zum Handeln .

Der Zeitpunkt passt zu Indiens KI-Ambitionen. Google errichtet in Visakhapatnam ein 15 Milliarden Dollar teures KI-Zentrum, das die größte Einrichtung des Unternehmens außerhalb Amerikas werden soll. Der Standort wird über Rechenleistung im Gigawattbereich verfügen und soll im Juli 2028 eröffnet werden. Angesichts dieser KI-Infrastruktur wollen die Regulierungsbehörden zunächst Regeln zur Inhaltssicherheit einführen.

Kritiker warnen vor „rasanter Zensur“

Die knappen Fristen bereiten Verfechtern der Meinungsfreiheit Sorgen. Die Internet Freedom Foundation argumentiert , dass das dreistündige Zeitfenster für die Löschung von Inhalten Unternehmen dazu zwingen wird, automatisierte Systeme einzusetzen, die irrtümlich zu viele Inhalte löschen. Sie sprechen von der Schaffung einer „Schnellfeuer-Zensur“, da keine Zeit für eine gründliche menschliche Prüfung der Meldungen bleibt.

Plattformen wie X, die haben , haben nun nur neun Tage Zeit, um komplette Systeme von Grund auf neu zu entwickeln. Meta, Google und X lehnten eine Stellungnahme ab. Auch Adobe, das Unternehmen hinter C2PA , schwieg .

Den Verantwortlichen bei der Ausarbeitung der Regeln scheint bewusst zu sein die aktuelle Technologie noch nicht ausgereift ist . Die Anforderungen besagen, dass Plattformen Erkennungsmethoden „soweit technisch möglich“ einsetzen sollen – eine juristische Formulierung, die einräumt, dass Perfektion nicht erwartet wird. Indiens Führungskräfte glauben, dass Druck schnell eine Lösung finden, wenn sie gezwungen werden, entweder bessere Systeme zu entwickeln oder den Zugang zu Hunderten Millionen Nutzern zu verlieren .

Ob es tatsächlich bessere KI-Erkennungstechnologien gibt, die entwickelt werden können, oder ob Indien lediglich mit etwas beauftragt hat, das nicht realisierbar ist , bleibt abzuwarten. Wir werden es in neun Tagen wissen.

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an .