Meta entfernt Instagrams KI-Bildtool und testet die Grenzen des KI-basierten Ähnlichkeits-Scrapings

Nur drei Tage nach dem Start hat Meta eine Instagram-Funktion entfernt, die es Nutzern ermöglichte, mithilfe von KI Bilder basierend auf den Profilbildern anderer Nutzer zu erstellen. Die Entscheidung des Unternehmens, die Funktion zu entfernen, verdeutlicht die wachsende Besorgnis um Einwilligung und Bildnutzung im Zeitalter der künstlichen Intelligenz.

Dertracist ein früher Rückschlag für Metas Bemühungen, im Bereich der generativen KI zu OpenAI und Google aufzuschließen. Zwar ist das Muse-Bildmodell weiterhin verfügbar, doch hat das Unternehmen nach Kritik von Kreativen, Künstlern und Datenschützern die Option, Bilder basierend auf öffentlichen Instagram-Profilen zu erstellen, gestrichen.

Was Meta aufgebaut hat und was es wieder rückgängig gemacht hat

Meta präsentierte Muse Image am 7. Juli und erklärte, das neue KI-gestützte Bildgenerierungstool sei das erste Produkt des von Alexandr Wang geleiteten Superintelligence Lab. Die neue Technologie ermöglicht 30 Effekte auf Instagram und soll laut internen Tests von Meta den Google Nano Banana 2 übertreffen, während sie nur hinter dem Bildgenerator von ChatGPT zurückbleibt.

Der Streitpunkt war nicht das Modell an sich, sondern dessen Umgang mit den von Nutzern hochgeladenen Bildern. Durch die Verlinkung ihres öffentlichen Instagram-Kontos für Erwachsene konnten Nutzer die Bilder dieses Kontos für KI-generierte Fotos verwenden. Nutzer unter 18 Jahren und private Konten waren vom System ausgeschlossen, während öffentliche Konten für Erwachsenematicregistriert wurden, sofern sie nicht manuell von den Nutzern deaktiviert wurden.

Laut Meta bestand das Ziel der Funktion darin, Nutzern „die Kontrolle darüber zu geben, ob auf ihre öffentlichen Inhalte verwiesen werden kann“. Viele Kritiker sehen das jedoch genau umgekehrt: Die Einführung des Opt-out-Systems impliziere, dass die Zustimmung standardmäßig erteilt werde.

Infolgedessen änderte das Unternehmen am Freitag seine Meinung.

Ein Vertreter von Meta erklärte gegenüber Variety: „Wir haben das Feedback erhalten , dass diese Funktion nicht den Erwartungen entsprochen hat, daher ist sie nicht mehr verfügbar.“

Kreative und Sicherheitsgruppen erzwangen dentrac

Die Funktion stieß fast unmittelbar nach ihrer Veröffentlichung auf Kritik. Die Screen Actors Guild – American Federation of Television and Radio Artists (SAG-AFTRA) riet ihren Mitgliedern, die Funktion abzuschalten, und warnte Künstler, „Maßnahmen zum Schutz ihres Abbildes zu ergreifen“

Die Künstleragentur Creative Artists Agency, LLC (CAA), die unter anderem Tom Hanks und Meryl Streep vertritt, erklärte, sie stehe in direktem Kontakt mit Meta und habe deutlich gemacht, dass das KI-System niemals Namen, Bilder, Abbilder und Stimmen von Personen ohne deren ausdrückliche Zustimmung verwenden dürfe.

Datenschützer warnten unterdessen, die Technologie könne Identitätsdiebstahl, die unbefugte Verbreitung intimer Bilder und Online-Betrug erleichtern. Haley McNamara vom National Center on Sexual Exploitation erklärte in einem Interview mit The Verge, die Möglichkeit des Widerspruchs verlagere die Verantwortung vom Unternehmen auf die Nutzer der Technologie.

Der Streit verdeutlicht den Rechtsstreit um KI-generierte Abbilder

Die Kontroverse wirft ein grundsätzliches Problem für die KI-Branche auf: Gibt die Veröffentlichung eines Fotos Unternehmen auch das Recht, es für generative KI zu verwenden?

Dieses Thema steht zunehmend in Verbindung mit dem europäischen Datenschutzrecht. Die Datenschutz-Grundverordnung (DSGVO) defiBilder von Personen als personenbezogene Daten, was bedeutet, dass Organisationen gemäß Artikel 6 eine Rechtsgrundlage für die Verarbeitung solcher Daten finden müssen.

Ist die Einwilligung einer Person erforderlich, so besagt Artikel 7, dass diese freiwillig, spezifisch und informiert erfolgen muss. Artikel 9 legt fest, dass die Verarbeitung biometrischer Daten strengere Sicherheitsvorkehrungen erfordert, um eine eindeutigedenteiner Person zu gewährleisten. Die Artikel 12 bis 14 besagen zudem, dass Organisationen die Verwendung personenbezogener Daten transparent darstellen müssen, um die Betroffenen besser darüber zu informieren.

Regulierungsbehörden weiten ihren Fokus über traditionelle Datenschutzbestimmungen hinaus aus. Der EU-KI-Gesetzentwurf verpflichtet Anbieter, die Öffentlichkeit zu informieren, wenn Inhalte mithilfe von KI-Technologien wie Deepfakes erstellt oder erweitert wurden. Ziel dieser Vorschrift ist es, Transparenz über synthetische Medien zu schaffen, anstatt die Nutzung dieser Technologie gänzlich zu verbieten.

Meta ist jedoch nicht das einzige Unternehmen, das mit diesem Problem konfrontiert ist. Erst vor wenigen Monaten musste OpenAI eine ähnliche Opt-out-Option in seinem Videomodell Sora entfernen, da es aufgrund der Verwendung öffentlich verfügbarer Bilder heftige Kritik einstecken musste.

Die Interventionen bestätigen, dass KI-Technologieentwickler vor größeren Herausforderungen stehen, da Regulierungsbehörden und Entwickler verstärkt darauf achten, dass vor der Manipulation des Abbildes einer Person eine eindeutige Einwilligung eingeholt wird.

Die Diskussion um dieses Thema hat bereits die Gesetzgebung erreicht. Kalifornien hat zwei Gesetze, AB 2602 und AB 1836, verabschiedet, die eine Genehmigung vor der kommerziellen Nutzung eines KI-generierten Bildes eines lebenden oder verstorbenen Künstlers vorschreiben.

Auch wenn es bei den Gesetzen eher um Unterhaltungsvereinbarungen als um die Anwendbarkeit von KI im Verbraucherbereich geht, deuten sie doch auf eine Tendenz hin, KI-Abbilder als Dinge zu betrachten, die einer Genehmigung bedürfen, anstatt einfach davon auszugehen, dass sie von jedem verwendet werden können.

Die Anleger scheinen von dem ganzen Trubel unbeeindruckt. Wie bereits berichtete Cryptopolitan, schlossen die Meta-Aktien am Tag des Börsengangs (7. Juli) bei 615,58 US-Dollar, was einem Anstieg von 2,55 % gegenüber dem Vortag entspricht und den höchsten Schlusskurs seit einem Monat darstellt.

Dennoch bleibt die Frage, ob die Veröffentlichung von Inhalten es Nutzern ermöglicht, diese für KI-Entwicklungen zu nutzen. Sollten Metas jüngste Entscheidungen einen breiteren Trend im KI-Markt widerspiegeln, berechtigt die bloße Veröffentlichung von Inhalten andere nicht automatisch zur Nutzung in KI-Projekten. Gleichzeitig wird deutlich, dass die Einwilligung der Nutzer eine wichtige Rolle bei der Entwicklung neuer KI-Produkte für Verbraucher spielen wird, da sie sowohl von der Industrie als auch von öffentlichen Organisationen zunehmend gefordert wird.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.