EXKLUSIV-Australien geht möglicherweise gegen App-Stores und Suchmaschinen vor, um gegen das KI-Zeitalter vorzugehen
- von Byron Kaye
SYDNEY, 01. Mär (Reuters) - Die australische Internetaufsichtsbehörde könnte Suchmaschinen und App-Stores dazu drängen, Dienste künstlicher Intelligenz zu sperren, die das Alter der Nutzer nicht verifizieren, nachdem eine Reuters-Recherche ergeben hat, dass mehr als die Hälfte der Plattformen bis zu einer Frist in der nächsten Woche keine Schritte zur Einhaltung der Vorschriften bekannt gegeben hat.
Die Warnung spiegelt eine der aggressivsten Bemühungen weltweit wider, KI-Unternehmen in die Schranken zu weisen, die mit einer wachsenden Zahl von Klagen konfrontiert sind (link), weil sie es versäumt haben, Selbstverletzungen oder Gewalt zu verhindern oder sogar zu fördern, während Forscher davor warnen, dass solche Plattformen der psychischen Gesundheit von Jugendlichen mehr schaden als soziale Medien.
Im Dezember verbot Australien als erstes Land soziale Medien für Jugendliche (link) und begründete dies mit Bedenken hinsichtlich der psychischen Gesundheit, woraufhin führende Politiker aus aller Welt (link) erklärten, sie würden dasselbe tun. Das Land sagt nun, dass es ein ähnliches Vorgehen gegen KI anführt, indem es Altersbeschränkungen für die Inhalte einführt, auf die Menschen mit dieser Technologie zugreifen können.
Ab dem 9. März müssen australische Internetdienste, darunter Suchtools wie ChatGPT von OpenAI und weniger bekannte Chatbots, den Zugang von Australiern unter 18 Jahren zu pornografischen, gewalttätigen, selbstverletzenden und essgestörten Inhalten einschränken, andernfalls drohen Geldstrafen von bis zu 49,5 Millionen AUD ($35 Millionen).
"eSafety wird bei Verstößen das gesamte Spektrum unserer Befugnisse ausschöpfen", sagte ein Sprecher des Beauftragten, einschließlich "Maßnahmen in Bezug auf Gatekeeper-Dienste wie Suchmaschinen und App-Stores, die wichtige Zugangspunkte zu bestimmten Diensten darstellen".
OpenAI und das Chatbot-Startup Character.AI wurden wegen ihrer Interaktionen mit jungen Nutzern wegen widerrechtlicher Tötung verklagt, während OpenAI (link) diese Woche zugab, dass es das ChatGPT-Konto eines jugendlichen Verdächtigen einer Massenschießerei in Kanada Monate vor dem Angriff deaktiviert hatte, ohne die Behörden zu informieren.
In Australien gibt es noch keine Berichte über Gewalt oder Selbstverletzungen im Zusammenhang mit Chatbots, aber die Aufsichtsbehörde wurde über Kinder im Alter von 10 Jahren informiert, die bis zu sechs Stunden am Tag mit den KI-gesteuerten interaktiven Tools sprechen.
eSafety sei "besorgt darüber, dass KI-Unternehmen emotionale Manipulation, Anthropomorphismus und andere fortschrittliche Techniken einsetzen, um junge Menschen zur exzessiven Nutzung von Chatbots zu verleiten, zu gewinnen und zu verankern", so der Sprecher.
Der führende App-Store-Betreiber Apple AAPL.O reagierte nicht, erklärte aber letzte Woche auf seiner Website, dass er "angemessene Methoden" anwenden werde, um Minderjährige davon abzuhalten, in Australien und anderen Ländern, die Altersbeschränkungen einführen, Apps ab 18 Jahren herunterzuladen, ohne jedoch die Methoden zu spezifizieren.
Ein Sprecher von Google GOOGL.O, Australiens führendem Suchmaschinenanbieter und zweitgrößtem App-Store-Betreiber, lehnte eine Stellungnahme ab.
Jennifer Duxbury, Leiterin der Abteilung Politik bei der Internet-Branchengruppe DIGI, die den Entwurf des KI-Kodexes leitete, bevor er von der Regulierungsbehörde unterzeichnet wurde, sagte, eSafety versuche, Chatbot-Dienste über die neuen Regeln zu informieren, aber "letztendlich ist jeder Dienst, der in Australien tätig ist, dafür verantwortlich, seine rechtlichen Verpflichtungen zu verstehen und sicherzustellen, dass er sie erfüllt".
EINHALTUNG DER VORSCHRIFTEN IN DER MINDERHEIT
Eine Woche vor dem australischen Stichtag hatten neun der 50 populärsten textbasierten KI-Produkte Systeme zur Alterssicherung eingeführt oder angekündigt, wie die Reuters-Recherche ergab. Die Überprüfung basierte auf den Antworten der einzelnen Plattformen auf die Frage nach eingeschränkten Inhalten und Moderationsrichtlinien, auf veröffentlichten Erklärungen, einschließlich der Nutzungsbedingungen, und auf Aussagen gegenüber Reuters.
Weitere 11 Plattformen verfügten über pauschale Inhaltsfilter oder planten, alle Australier von der Nutzung ihres Dienstes auszuschließen - Maßnahmen, die dem neuen Gesetz entsprechen würden, indem sie eingeschränkte Inhalte von allen Nutzern fernhalten. 30 Plattformen hatten keine offensichtlichen Schritte unternommen, um die neuen Regeln zu befolgen, so das Ergebnis der Überprüfung.
Die meisten großen chatbasierten Suchassistenten wie ChatGPT, Replika und Claude von Anthropic hatten bereits mit der Einführung von Alterssicherungssystemen oder pauschalen Filtern begonnen. Der Chatbot-Anbieter Character.AI hat den offenen Chat für unter 18-Jährige gesperrt.
Die Chatbot-Anbieter Candy AI, Pi, Kindroid und Nomi erklärten gegenüber Reuters, dass sie sich an den Kodex halten wollten, ohne dies näher zu erläutern, während HammerAI erklärte, dass es seine Dienste zunächst für Australien sperren würde, um den Kodex einzuhalten.
Aber das waren die wenigsten. Von den begleitenden Chatbots verfügten drei Viertel über keine funktionierende oder geplante Filterung oder Alterssicherung, während ein Sechstel keine veröffentlichte E-Mail-Adresse hatte, um vermutete Verstöße zu melden, was ebenfalls erforderlich ist.
Elon Musks Chat-basierte Suchmaschine Grok, gegen die weltweit ermittelt wird, weil sie die Produktion synthetischer, sexualisierter Bilder von Kindern nicht gestoppt haben soll, verfügte laut Reuters weder über Maßnahmen zur Alterskontrolle noch über textbasierte Inhaltsfilter. Die Muttergesellschaft von Grok, xAI, reagierte nicht auf eine Anfrage zur Stellungnahme.
Lisa Given, Direktorin des Zentrums für Mensch-KI-Informationsumgebungen an der RMIT-Universität, sagte, die Reuters-Ergebnisse seien nicht überraschend, da "die meisten dieser Tools ohne Blick auf potenzielle Schäden und die Notwendigkeit dieser Art von Sicherheitskontrollen entwickelt werden".
"Es kommt einem so vor, als ob... wir all diese Dinge für diese Unternehmen in der Beta-Phase testen und sie versuchen herauszufinden, wie weit die Gesellschaft bereit ist, sich treiben zu lassen", sagte sie.
(1 Dollar = 1,4085 Australische Dollar)
