Frauen aus Arizona klagen wegen angeblicher KI-Deepfakes, die aus gestohlenen Social-Media-Fotos erstellt wurden

Drei Frauen aus Arizona haben mehrere Personen und Unternehmen verklagt. Sie werfen ihnen vor, Bilder von ihren Social-Media-Profilen gestohlen und mithilfe von KI-Modellen Deepfakes von ihnen erstellt zu haben. Die Frauen behaupten, die Beklagten hätten die Modelle genutzt, um explizite Bilder von ihnen zu generieren und damit Profit zu machen.

Die Klage, die beim Superior Court des Maricopa County in Arizona eingereicht wurde, richtet sich gegen einen Instagram-Account, der mehrere Videos von Frauen veröffentlicht und diese als KI-Models zur Gewinnerzielung beworben hat. Die Klägerinnen, deren Namen aus Datenschutzgründen nicht genannt werden, gaben an, dass einige der KI-generierten Bilder ohne ihre vorherige Zustimmung mithilfe ihrer Social-Media-Fotos erstellt wurden. Eine der Betroffenen erklärte, dass sie sich aufgrund der kursierenden Bilder nun in einer Weise betrachtet fühle, die ihr sehr unangenehm sei.

Frauen aus Arizona reichen Klage wegen KI-generierter Inhalte ein

Die Klage richtet sich gegen drei Beklagte aus Maricopa County, Arizona, darunter Beau Schultz, den Inhaber des Instagram-Accounts. Zudem werden 50 weitere unbekannte Personen sowie mehrere Unternehmen, die angeblich zur Führung des Geschäfts gegründet oder genutzt wurden, in der Klage genannt. Die Kläger werden von Nick Brand von der Donlon Group und Cristina Perez Hesano von der Pere Law Group vertreten.

Laut Brand erstellten die Angeklagten, die vermutlich aus Arizona stammen, Anleitungen, um anderen Männern und Jungen beizubringen, wie man sogenannte KI-Influencer erstellt, die anschließend aus vollständig bekleideten Bildern entkleidet werden. Er fügte hinzu, dass die Angeklagten diese generierten Deepfakes nutzen, um eine abonnementbasierte Pornowebsite zu betreiben, auf der sie erotische Nachrichten mit ihren Kunden austauschen. Brand merkte an, dass das Problem weitreichender sei, als er vor der Übernahme des Falls angenommen hatte.

In dem Gerichtsverfahren in Arizona rieten die Angeklagten ihren Kundinnen, auf bekannte oder populäre Influencer zu verzichten und stattdessen Mikro-Influencer zu nutzen, um rechtliche Probleme zu vermeiden. „Ich kann es nicht fassen, wie naiv ich war, was das Leid von Frauen im Zuge des technologischen Fortschritts angeht“, sagte . Laut einer der Betroffenen können nur strenge Gesetze diese Missstände verhindern und verhindern, dass weitere Frauen Opfer ähnlicher Machenschaften werden.

Zahlungsplattform weist Fehlverhalten zurück

Ein weiteres Opfer merkte an, dass die Öffentlichkeit künstliche Intelligenz nicht für derart verheerende Zwecke missbrauchen dürfe, und wies darauf hin, dass deren Nutzer Schwestern, Mütter, Freunde und Kollegen ins Visier nähmen. Phyziro, eine der in der Klage genannten Zahlungsplattformen, erklärte unterdessen, die Anschuldigungen seien haltlos. Das Unternehmen gab an, ein Anbieter interaktiver Computer-Dienstleistungen gemäß § 47 USC 230 zu sein.

„Das Unternehmen gilt nicht als Herausgeber, Sprecher oder Urheber von Inhalten oder Transaktionen, die von Drittnutzern oder autonomen Agenten generiert werden. Wir übernehmen ferner keine Verpflichtung, die konkreten Absichten oder illegalen Aktivitäten von Nutzern oder deren Nutzern zu überwachen. Mitglied und Manager haften nicht für Fälle von asymmetrischem Wissen, in denen KI-Agenten, Nutzer oder deren Nutzer außerhalb der direkten Kontrolle oder Programmierung des Managers agieren.“

Das Unternehmen betonte, lediglich neutrale Tools und Infrastruktur bereitzustellen und seine Haftung beschränke sich strikt auf die technische Funktionsfähigkeit der Systeme. In seiner Stellungnahme verweist das Unternehmen auf Abschnitt 230 des Communications Decency Act, der es von jeglichem Fehlverhalten freispricht. Allerdings gibt es derzeit parteiübergreifende Bestrebungen im Kongress, das Gesetz aufzuheben, wodurch Plattformen für Inhalte, die auf ihren Websites veröffentlicht oder mit diesen verknüpft sind, zur Rechenschaft gezogen würden.

Kritik steht . Regierungen verschiedener Länder werfen der Plattform vor, keine ausreichenden Kontrollmechanismen für die Aktivitäten des Chatbots eingerichtet zu haben, wodurch dieser KI-generierte Deepfakes von expliziten Bildern von Frauen und Kindern erstellen konnte. Während einige Länder Warnungen an die Plattform ausgesprochen haben, haben andere den Zugang vorübergehend gesperrt, bis das Problem behoben ist.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust auf mehr? Dann schließen Sie sich ihnen an .