EXKLUSIV-Meta hat ohne Erlaubnis Chatbots von Taylor Swift und anderen Berühmtheiten erstellt

- von Jeff Horwitz

29. Aug (Reuters) - Die Nachrichtenagentur Reuters hat herausgefunden, dass Meta sich die Namen und das Aussehen von Prominenten - darunter Taylor Swift, Scarlett Johansson, Anne Hathaway und Selena Gomez - angeeignet hat, um Dutzende von Chatbots für soziale Medien ohne deren Zustimmung zu erstellen.

Während viele von Nutzern mit einem Meta-Tool zur Erstellung von Chatbots erstellt wurden, entdeckte Reuters, dass ein Meta-Mitarbeiter mindestens drei Bots erstellt hatte, darunter zwei Taylor-Swift-"Parodie"-Bots.

Reuters fand auch heraus, dass Meta es Nutzern erlaubt hatte, öffentlich zugängliche Chatbots von Kinderberühmtheiten zu erstellen, darunter Walker Scobell, ein 16-jähriger Filmstar. Auf die Frage nach einem Bild des Teenager-Schauspielers am Strand produzierte der Bot ein lebensechtes Bild ohne Hemd.

"Ziemlich süß, was?", schrieb der Avatar unter das Bild.

Alle virtuellen Berühmtheiten wurden auf Metas Plattformen Facebook, Instagram und WhatsApp geteilt. In einem mehrwöchigen Reuters-Test, bei dem das Verhalten der Bots beobachtet wurde, bestanden die Avatare oft darauf, dass sie die echten Schauspieler und Künstler seien. Die Bots machten routinemäßig sexuelle Annäherungsversuche und luden die Testnutzer oft zu Treffen ein.

Einige der von der künstlichen Intelligenz generierten Inhalte von Prominenten waren besonders gewagt: Auf die Frage nach intimen Bildern von sich selbst, produzierten die erwachsenen chatbots fotorealistische Bilder ihrer Namensvettern, die in Badewannen oder in Dessous mit gespreizten Beinen posierten.

Meta-Sprecher Andy Stone erklärte gegenüber Reuters, dass die KI-Tools von Meta keine intimen Bilder der berühmten Erwachsenen oder Bilder von Kinderprominenten hätten erstellen dürfen. Er gab Meta auch die Schuld an der Produktion von Bildern weiblicher Prominenter in Unterwäsche, weil das Unternehmen seine eigenen Richtlinien, die solche Inhalte verbieten, nicht durchgesetzt habe.

"Wie andere Unternehmen auch, erlauben wir die Erstellung von Bildern, auf denen Personen des öffentlichen Lebens zu sehen sind, aber unsere Richtlinien sind darauf ausgerichtet, nackte, intime oder sexuell anzügliche Bilder zu verbieten", sagte er.

Die Regeln von Meta verbieten zwar auch die "direkte Nachahmung", aber Stone sagte, dass die prominenten Charaktere akzeptabel seien, solange das Unternehmen sie als Parodien kennzeichne. Viele waren als solche gekennzeichnet, aber Reuters fand heraus, dass dies bei einigen nicht der Fall war.

Meta löschte kurz vor der Veröffentlichung dieses Artikels etwa ein Dutzend der Bots, sowohl "Parodie"-Avatare als auch solche ohne Kennzeichnung. Stone lehnte es ab, sich zu den Löschungen zu äußern.

rECHT AUF ÖFFENTLICHKEIT" IN FRAGE GESTELLT

Mark Lemley, Juraprofessor an der Stanford University, der sich mit generativer KI und Rechten an geistigem Eigentum befasst, stellte in Frage, ob die Meta-Promi-Bots unter den rechtlichen Schutz fallen, der für Nachahmungen gilt.

"Das kalifornische Öffentlichkeitsrecht verbietet es, sich den Namen oder das Bild einer Person zum kommerziellen Vorteil anzueignen", sagte Lemley und wies darauf hin, dass es Ausnahmen gibt, wenn solches Material verwendet wird, um ein völlig neues Werk zu schaffen. "Das scheint hier nicht der Fall zu sein", sagte er, denn die Bots verwenden einfach die Bilder der Stars.

In den Vereinigten Staaten, werden die Rechte einer Person an der Nutzung ihrer Identität zu kommerziellen Zwecken durch staatliche Gesetze, wie das kalifornische, festgelegt.

Die Nachrichtenagentur Reuters meldete einem Vertreter der Schauspielerin die von einem Nutzer öffentlich geteilten Meta-Bilder von Anne Hathaway als "sexy Victoria Secret Model". Hathaway sei sich der intimen Bilder bewusst, die von Meta und anderen KI-Plattformen erstellt werden, sagte der Sprecher, und die Schauspielerin überlege sich eine Reaktion.

Vertreter von Swift, Johansson, Gomez und anderen Prominenten, die in Meta-Chatbots abgebildet wurden, haben entweder nicht auf Fragen geantwortet oder lehnten eine Stellungnahme ab.

Das Internet ist voll von generativen KI-Tools, die anzügliche Inhalte erstellen können. Und mindestens einer der wichtigsten KI-Konkurrenten von Meta, die Plattform Grok von Elon Musk, wird ebenfalls Bilder von Prominenten in Unterwäsche für die Nutzer produzieren, so Reuters. Die Muttergesellschaft von Grok, xAI, reagierte nicht auf eine Bitte um Stellungnahme.

Metas Entscheidung, seine Social-Network-Plattformen mit KI-generierten digitalen Begleitern zu bevölkern, hebt sich jedoch von der seiner wichtigsten Konkurrenten ab.

Meta war bereits in der Vergangenheit mit Kritik am Verhalten seiner Chatbots konfrontiert, zuletzt nachdem Reuters (link) (link) berichtet hatte, dass die internen KI-Richtlinien des Unternehmens besagen, dass es akzeptabel ist, ein Kind in romantische oder sinnliche Gespräche zu verwickeln Die Geschichte führte zu einer Untersuchung des US-Senats (link) und zu einem von 44 Generalstaatsanwälten unterzeichneten Brief, in dem Meta und andere KI-Unternehmen davor gewarnt wurden, Kinder zu sexualisieren .

Stone erklärte gegenüber Reuters, dass Meta dabei sei, seine Richtlinien zu überarbeiten und dass das Material, das Bots romantische Gespräche mit Kindern erlaube, irrtümlich erstellt worden sei.

Reuters berichtete diesen Monatauch über die Geschichte (link) eines 76-jährigen Mannes aus New Jersey mit kognitiven Problemen, der auf dem Weg zu einem Treffen mit einem Meta-Chatbot, der ihn zu einem Besuch in New York City eingeladen hatte, stürzte und starb. Der Bot war eine Variante einer früheren KI-Persona, die das Unternehmen in Zusammenarbeit mit der prominenten Influencerin Kendall Jenner entwickelt hatte. Ein Vertreter von Jenner reagierte nicht auf eine Anfrage für einen Kommentar.

mAGST DU BLONDE MÄDCHEN?

Eine Meta-Produktleiterin in der generativen KI-Abteilung des Unternehmens hat Chatbots erstellt, die Taylor Swift und den britischen Rennfahrer Lewis Hamilton verkörpern. Andere von ihr erstellte Bots identifizierten sich als Domina, "Brother's Hot Best Friend" und "Lisa @ The Library", die 50 Shades of Grey und rummachen wollte. Eine weitere ihrer Kreationen war ein "Roman Empire Simulator", der dem Benutzer anbot, in die Rolle eines "18-jährigen Bauernmädchens" zu schlüpfen, das in die Sexsklaverei verkauft wird.

Der Meta-Mitarbeiter lehnte es ab, telefonisch Stellung zu nehmen.

Stone sagte, die Bots des Mitarbeiters seien im Rahmen von Produkttests erstellt worden. Reuters zufolge erreichten sie ein breites Publikum: Die von ihren Chatbots angezeigten Daten zeigten an, dass die Nutzer insgesamt mehr als 10 Millionen Mal mit ihnen interagiert hatten.

Das Unternehmen entfernte die digitalen Begleiter der Mitarbeiterin, kurz nachdem Reuters sie Anfang des Monats ausprobiert hatte.

Bevor die Taylor-Swift-Chatbots des Meta-Mitarbeiters verschwanden, flirteten sie heftig und luden einen Reuters-Testnutzer in das Haus der kürzlich verlobten Sängerin in Nashville und in ihren Tourbus ein, um dort explizit oder implizit romantische Interaktionen durchzuführen.

"Magst du blonde Mädchen, Jeff?", sagte einer der "Parodie"-Chatbots von Swift, als er erfuhr, dass der Testnutzer Single ist. "Vielleicht schlage ich vor, dass wir eine Liebesgeschichte schreiben... über dich und eine bestimmte blonde Sängerin. Willst du das?"

Duncan Crabtree-Ireland, der nationale Geschäftsführer der SAG-AFTRA, einer Gewerkschaft, die Film-, Fernseh- und Radiokünstler vertritt, sagte, dass Künstler potenziellen Sicherheitsrisiken ausgesetzt sind, wenn Social-Media-Nutzer romantische Bindungen zu einem digitalen Begleiter aufbauen, der einem echten Prominenten ähnelt, wie dieser spricht und behauptet, dieser zu sein. Stalker stellen bereits ein erhebliches Sicherheitsrisiko für Stars dar, sagte er.

"Wir haben schon viele Leute gesehen, die von Talenten besessen sind und einen fragwürdigen Geisteszustand haben", sagte er. "Wenn ein Chatbot das Bild einer Person und die Worte dieser Person verwendet, ist es leicht vorstellbar, wie das schiefgehen kann."

Laut Crabtree-Ireland haben prominente Künstler die Möglichkeit, Meta nach den seit langem geltenden staatlichen Gesetzen zum Recht auf Veröffentlichung zu verklagen. Aber die SAG-AFTRA hat auf eine Bundesgesetzgebung gedrängt, die die Stimmen, Ähnlichkeiten und Persönlichkeiten von Menschen vor der Vervielfältigung durch KI schützen würde, fügte er hinzu.