Nach Suizid: Neue Jugendschutz-Einstellungen für ChatGPT

Frankfurt/Bangalore, 29. Sep (Reuters) - OpenAI hat nach einem US-Prozess um den Suizid eines Jugendlichen neue Jugendschutz-Einstellungen vorgestellt. Eltern können künftig die ChatGPT-Konten ihrer Kinder mit ihren eigenen verbinden, teilte der KI-Entwickler am Montag mit. Dadurch würden die Minderjährigen automatisch vor bestimmten Inhalten geschützt. Hierzu gehörten Herausforderungen (Challenges), sexuelle, romantische oder gewaltverherrlichende Rollenspiele sowie extreme Schönheitsideale. Außerdem könnten Erziehungsberechtigte bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen.

Zudem verfüge ChatGPT nun über ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert. Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhielten die Erwachsenen jedoch nicht. In Kalifornien haben Eltern OpenAI verklagt. ChatGPT soll ihrem 16-jährigen Sohn Anleitungen geliefert haben, sich selbst zu schaden.

Im vergangenen Monat hatte die Facebook-Mutter MetaMETA.O ihre Jugendschutz-Regeln für den Umgang mit Künstlicher Intelligenz (KI) ebenfalls verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.

Für weitere Unternehmensnachrichten im Kurzformat - Klick auf FIRMEN-BLICK