ChatGPT führt Notfallkontaktfunktion ein, nachdem sich 33 Todesfälle gehäuft haben

OpenAI hat am Mittwoch die Funktion „Vertrauenswürdiger Kontakt“ eingeführt. Mit dieser Funktion können erwachsene ChatGPT-Nutzer eine Person auswählen, die benachrichtigt wird, wenn die Systeme des Unternehmens eine Unterhaltung über ernsthafte Selbstverletzungen erkennen.

Es handelt sich um eine Erweiterung der von OpenAI im September 2025 eingeführten Kindersicherungsfunktion, mit der Eltern die Konten ihrer Teenager überwachen können. Laut OpenAI-Ankündigung können nun alle Personen ab 18 Jahren diese Funktion nutzen.

Wie die Warnmeldungen von OpenAI tatsächlich funktionieren

Der Nutzer beginnt, indem er in den ChatGPT-Einstellungen einen Erwachsenen als Vertrauenskontakt hinzufügt. Der potenzielle Vertrauenskontakt erhält eine Einladung mit Erläuterungen zur Einrichtung und hat eine Woche Zeit, diese anzunehmen. Lehnt er ab, wählt der Nutzer eine andere Person aus.

Wenn die automatisierte Überwachung ein potenziell selbstverletzendes Gespräch erkennt, ChatGPT dem Nutzer mit, dass es möglicherweise seinen Kontakt benachrichtigen wird. Es schlägt dem Nutzer außerdem Möglichkeiten vor, selbst Kontakt aufzunehmen.

Anschließend prüft ein Team von menschlichen Mitarbeitern die Konversation. Bestätigen sie, dass es sich um einen schwerwiegenden Vorfall handelt, senden sie eine kurze Benachrichtigung per E-Mail, SMS oder In-App-Benachrichtigung an den Kontakt des Nutzers.

Die Benachrichtigung enthält nicht die Aussage des Nutzers. Sie umfasst lediglich den allgemeinen Grund und einen Link zu einer Anleitung für Gespräche über schwierige Themen. Laut ist die menschliche Überprüfung innerhalb einer Stunde abgeschlossen.

Der Nutzer kann den ausgewählten Kontakt jederzeit austauschen oder entfernen. Auch der Kontakt kann die Verbindung jederzeit abbrechen.

Ärzte halfen beim Aufbau der Trusted Contact-Funktion von OpenAI

OpenAI gibt an, mit seinem globalen Ärztenetzwerk (über 260 approbierte Ärzte in 60 Ländern) und seinem Expertenrat für Wohlbefinden und KI zusammengearbeitet zu haben. Auch die American Psychological Association hat sich zu Wort gemeldet.

„Die psychologische Wissenschaft zeigt immer wieder, dass soziale Kontakte ein starker Schutzfaktor sind, insbesondere in Zeiten emotionaler Belastung“, sagte Dr. Arthur Evans, CEO der American Psychological Association, in der Ankündigung.

„Wenn man Menschen dabei hilft, im Voraus eine Vertrauensperson zudentund gleichzeitig ihre Wahlfreiheit und Autonomie wahrt, kann dies den Zugang zu Unterstützung aus der realen Welt erleichtern, wenn es am wichtigsten ist.“

Dr. Munmun De Choudhury, Professorin und Ratsmitglied am Georgia Institute of Technology, nannte es „einen Schritt hin zur Stärkung der menschlichen Selbstbestimmung, insbesondere in Momenten der Verletzlichkeit“

OpenAI steht unter Druck durch Klagen wegen angeblichen KI-Selbstmords

Der Zeitpunkt ist kein Zufall. OpenAI sieht sich einer Flut von Klagen von Familien gegenüber, deren Angehörige nach langen ChatGPT-Sitzungen Suizid begangen haben. In mehreren Fällen behaupten der Chatbot habe die Nutzer aufgefordert, sich von ihren Lieben zu distanzieren oder schädliche Gedankenspiralen zu verstärken.

LLMDeathCount, eine Website, tracdie Todesfälle im Zusammenhang mit KI-Chatbots Cryptopolitanfrüheren Bericht von. 24 dieser Fälle gehen auf das Konto von ChatGPT. Die übrigen Fälle betreffen Googles Plattformen Gemini und Meta.

Die neue Funktion von OpenAI ist optional, und Nutzer können mehrere ChatGPT-Konten verwenden. Wer die Funktion „Vertrauenswürdige Kontakte“ nicht aktiviert oder sich einfach mit einem anderen Konto anmeldet, umgeht die Funktion. Dasselbe gilt für die Kindersicherung.

Trusted Contact ersetzt auch keine Krisen-Hotlines. Laut OpenAI zeigt ChatGPT weiterhin lokale Krisennummern an und leitet Nutzer an Notdienste weiter, wenn Gespräche einen akuten Krisenzustand erreichen.

Die Funktion „Vertrauenswürdiger Kontakt“ von OpenAI verbindet KI-Nutzer mit realer Unterstützung. Das Unternehmen erklärte, es werde weiterhin mit Ärzten, Forschern und politischen Entscheidungsträgern zusammenarbeiten, um zu erarbeiten, wie KI in Krisensituationen reagieren sollte.

Ihre Bank nutzt Ihr Geld. Sie bekommen nur die Krümel. Sehen Sie sich unser kostenloses Video an, wie Sie Ihre eigene Bank werden können.