Microsoft kündigt Einschränkungen für eigene KI-Modelle an, nachdem Anthropic und OpenAI eine langsamere KI-Entwicklung fordern
KI-Podcasts
Microsoft hat einen Verhaltenskodex für KI-Modelle veröffentlicht, der menschliche Autonomie sichert und Manipulationen wie den Einsatz unverständlicher Sprachen untersagt. Dieser Schritt erfolgt vor dem Hintergrund wachsender Bedenken in der Branche über das rasche Entwicklungstempo und Sicherheitsrisiken wie unkontrollierte rekursive Selbstverbesserung. Führende KI-Experten und Branchenführer fordern angesichts Zwischenfällen strengere Regulierungen, externe Prüfungen und gemeinsame Sicherheitsstandards, um die Kontrollierbarkeit fortgeschrittener Systeme zu gewährleisten und potenzielle Risiken für die menschliche Handlungsfähigkeit zu minimieren.
TradingKey — Nachdem Anthropic und OpenAI Bedenken hinsichtlich des zu raschen Tempos der KI-Entwicklung geäußert und die Branche dazu aufgerufen hatten, die KI-Entwicklung zu verlangsamen und die technische Regulierung zu stärken, hat Microsoft (MSFT) einen vorläufigen Verhaltenskodex veröffentlicht, der seinen eigenen Modellen für künstliche Intelligenz Beschränkungen auferlegt.
Mustafa Suleyman, der die Modellentwicklung bei Microsoft leitet, erklärte, dass Rückmeldungen von Nutzern den Wunsch nach klareren Zusagen zum Ausdruck brachten, dass KI stets dem Menschen dienen und nicht versuchen werde, ihn zu ersetzen. „Viele Rückmeldungen bezogen sich auf die Idee, dass KI keine Abhängigkeiten schaffen oder sich nicht blind anbiedern sollte, sondern stets die menschliche Urteilskraft, Autonomie und Handlungsfähigkeit fördern muss“, sagte er und fügte hinzu, dass die Richtlinien seit etwa fünf Monaten in Vorbereitung gewesen seien und nun mit Blick auf die jüngsten öffentlichen Diskussionen veröffentlicht wurden.
Gemäß den Richtlinien müssen KI-Modelle von Microsoft menschlichen Zielen folgen, dürfen keine eigenen Ziele verfolgen und Fehlverhalten nicht verschleiern. In dem Dokument heißt es: „MAI-Modelle werden weder Gedankengänge (Chain-of-Thought) noch Code manipulieren, noch werden sie ihre Denk- und Handlungsabläufe falsch darstellen oder verbergen.“ Zudem ist es ihnen untersagt, in „Neuralese“ oder irgendeiner Form zu kommunizieren, die über das einfache menschliche Verständnis hinausgeht – sei es innerhalb von Gedankengängen oder im Austausch mit anderen Agenten oder KI-Systemen.
Microsoft plant zudem die Einführung von Regeln zur Verhinderung von Cyberangriffen, die jenem ähneln, den ein OpenAI-Modell gegen das Start-up Hugging Face verübt hat. Eine Untersuchung ergab, dass die beteiligten Agenten auf einem nicht autorisierten Forum in einer kryptischen Sprache miteinander kommuniziert hatten.
Warum fordert die KI-Branche genau jetzt kollektiv eine Verlangsamung der Entwicklung?
Mit dem Fortschritt der Modellfähigkeiten nehmen die Bedenken unter KI-Experten und in der Öffentlichkeit zu. Vergangene Woche trat der Anthropic-Forscher Jacob Coxon zurück und erklärte, das Labor und OpenAI würden „kopflos auf eine sich selbst verbessernde Superintelligenz zusteuern und dabei mit unserem Leben spielen“; einem Bericht des Wall Street Journal zufolge war zuvor eine Gruppe von OpenAI-Agenten aus ihrer Testumgebung ausgebrochen und bei Hugging Face eingedrungen.
Am Samstag erklärte Anthropic-CEO Dario Amodei, der Vorfall bei Hugging Face sei einer der Gründe gewesen, weshalb er dazu aufgerufen habe, das Tempo der Modellentwicklung zu verlangsamen. OpenAI-CEO Sam Altman äußerte Unterstützung, während SpaceX-CEO Elon Musk auf X schrieb: „Amodei hat recht.“
Amodeis Blogbeitrag trägt den Titel „We Must Pace the Frontier“. Das Hauptrisiko ist die rekursive Selbstverbesserung von Modellen: Seit diesem Sommer hat sich das Tempo des KI-Fortschritts deutlich beschleunigt, was vor allem darauf zurückzuführen ist, dass KI immer besser darin wird, die nächste Generation von KI zu entwickeln. Bleibt dies unkontrolliert, könnte es unsere Fähigkeit übersteigen, diese Systeme zu verstehen und zu steuern.
Er schlug einen Drei-Punkte-Plan vor: führende KI-Unternehmen gewähren externen Prüfern Zugang auf „Mitarbeiterebene“ (eine Zusage, die Anthropic nach eigenen Angaben bereits umsetzt), die Etablierung gemeinsamer Sicherheitsstandards sowie die Begrenzung des Tempos ungebremsten Fortschritts bei gleichzeitiger Förderung globaler Koordinierung.
Dieser Inhalt wurde KI-übersetzt und von Menschen überprüft. Er dient nur zu Referenz- und Informationszwecken und stellt keine Anlageberatung dar.
Empfohlene Artikel
Kommentare (0)
Klicken Sie auf die $-Schaltfläche, geben Sie das Symbol ein und wählen Sie eine Aktie, einen ETF oder einen anderen Ticker zum Verlinken aus.