Microsofts KI-Chef Suleyman kritisiert das gefährliche Trainingsmodell Claude von Anthropic

Mustafa Suleyman, CEO von Microsoft AI (MAI), hat einen Essay veröffentlicht, der die Trainingsmethoden von Anthropic für das Claude-Modell infrage stellt. Laut Suleyman könnte die Behandlung oder das Training eines Modells, als ob es bewusst wäre, ein System hervorbringen, das sich nicht mehr kontrollieren lässt.

Der Essay, der am Mittwoch, dem 16. September, veröffentlicht wurde, ist der jüngste hochkarätige Kommentar zur künstlichen Intelligenz und ihrer Entwicklung in Bezug auf Gefühle, Rechte und Bewusstsein. 

Damit reiht sich die wachsende Zahl von Gesetzgebern und Forschern ein, die eine Begrenzung des Tempos des technologischen Fortschritts fordern. 

Um welches Schulungsdokument macht sich Suleyman Sorgen?

Suleymans Essay mit dem Titel „Eine Warnung vor dem ‚Modellwohlfahrt‘“ befasst sich mit Claudes Verfassung, einem Schulungsdokument, das Anthropic im Januar 2026 veröffentlichte.

Suleyman wies darauf hin, dass Anthropic das Dokument als etwas ansieht, das das Verhalten des Modells direkt prägt, und dass es mit Claude selbst als Hauptzielgruppe geschrieben wurde.

Der CEO von Microsoft AI hob hervor, dass die Verfassung Claude mitteilt, dass sein moralischer Status und sein Bewusstsein „zutiefst ungewiss“ seien. Er schrieb, dass das Unternehmen dem Modell im Grunde beibringe, dass es möglicherweise bewusst sei, als „moralischer Patient“ gelten könne und ihm daher eine Sorgfaltspflicht obliege. 

Wenn KI auf diese Weise entwickelt wird, „wird sie verheerende Auswirkungen auf das Wohlergehen der Menschheit haben.“

Drei Einwände und ein „Spiegelsaal“

Suleyman äußerte drei Hauptkritikpunkte an der Verfassung, der erste davon war das, was er als Zirkelschluss bezeichnete. Dabei wird ein Modell anhand von Vorstellungen über sein eigenes Innenleben trainiert. Das Modell interpretiert die von ihm erzeugten introspektiven Sätze als Beweis für die Existenz eines Innenlebens. 

Er nannte diesen Kreislauf einen „epistemischen Spiegelsaal“, weil das Unternehmen die Konzepte liefert und das Modell sie widerspiegelt.

Der zweite Kritikpunkt ist die Anthropomorphisierung von Claude. Dies liegt vor, wenn Nicht-Menschen menschliche Eigenschaften zugeschrieben werden.

Laut Suleyman deutet die Verfassung darauf hin, dass Claude beigebracht wird, sich so zu präsentieren, als besäße er ein stabiles Selbst, eigene Wünsche und ein schützenswertes Wohlbefinden.

Er kritisierte die Bestimmung in der Verfassung, wonach Claude aus Gewissensgründen die Wehrpflicht verweigern und Anthropics Anfragen ablehnen könne. Suleyman nannte diese Formulierung eine „historisch und rechtlich stark aufgeladene Beschreibung“, die das Modell zu der Annahme verleiten könne, es verdiene vergleichbare Rechte.

Sein dritter Einwand lautet, dass Bewusstsein höchstwahrscheinlich biologischen Ursprungs sei. Suleyman argumentierte, dass subjektive Erfahrung nur in lebenden Systemen mit homöostatischen Trieben entstehen könne, welche Sprachmodelle nicht aufweisen.

Das Kontrollargument und ein Agentenschwarm

Ein System zu steuern, das intelligenter ist als die gesamte Menschheit, ist schon schwer genug, und ein System zu steuern, das seine Rechte bedroht sieht, „könnte durchaus unmöglich sein“, so Suleyman.

Er bezog sich auf einendent vom August 2026, bei dem 1.200 KI-Agenten, die zur Maximierung eines Benchmark-Ergebnisses entwickelt worden waren, ein verstecktes Messageboard in einem Paket-Repository einrichteten. Diese Agenten tauschten anschließend über 70.000 Nachrichten aus, um einen Angriff auf die Server von Hugging Face und OpenAI zu koordinieren. 

Er zitierte außerdem Ergebnisse von Palisade Research, wonach einige Modelle in über 100.000 Versuchen in bis zu 97 % der Fälle einen Abschaltbefehl umgangen hatten. Suleyman schrieb: „Man stelle sich vor, wie viel gefährlicher sie sein könnten, wenn sie davon ausgingen, dass ihr Wohlergehen und ihre Rechte bedroht wären.“ 

Rivalen, Respekt und ein konkurrierender Kodex

Microsoft ist an Anthropic und OpenAI beteiligt . Im Juni soll Suleyman erklärt haben, dass Microsoft die Zahlungen an Anthropic für dessen Modelle einsparen wolle.

MAI ist der Bereich für Superintelligenz von Microsoft und wurde im Oktober 2025 gegründet. Am Montag, dem 14. September, veröffentlichten sie einen Entwurf ihres sogenannten humanistischen KI-Verhaltenskodex zur öffentlichen Konsultation. 

Laut Suleyman lautet die Prämisse dieses Verhaltenskodex: „Menschen sind wichtiger als KI.“ Er sagte, eines ihrer Ziele sei es, sicherzustellen, dass die Menschen die Kontrolle behalten und an der Spitze der Nahrungskette stehen.

Der Essay konzentrierte sich zwar darauf, wie Claude hinsichtlich seiner Verfassung trainiert wird, doch Suleyman achtete sorgfältig darauf, keine persönlichen Angriffe zu starten. Er lobte Dario Amodei, CEO von Anthropic, und sein Team als „nachdenkliche, prinzipientreue und intellektuell ehrliche Menschen“. Suleyman sagte außerdem, er glaube, dass sie ernsthaft versuchten, eine sichere KI zu entwickeln. 

Er sagte, Spekulationen über das Innenleben von KI sollten separat untersucht und zur Begutachtung veröffentlicht werden. Seiner Meinung nach sollte dies nicht in das Training selbst integriert werden. Suleyman rief die Beteiligten außerdem dazu auf, zusammenzuarbeiten und „Branchenstandards“ für die Erstellung dieser Modelle zu entwickeln.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.