Der oberste Sicherheitsforscher von Anthropics hat öffentlich seinen Rücktritt bekannt gegeben

Mrinank Sharma, ein führender Sicherheitsforscher von Anthropic, gab diese Woche in einem Beitrag auf X seinen Rücktritt vom Unternehmen bekannt. Sharmas Entscheidung scheint durch seine Bedenken hinsichtlich des aktuellen Stands der KI und der Welt motiviert zu sein

Mrinank Sharma leitete das Safeguards Research Team bei Anthropic, einem renommierten KI-Unternehmen, dessen großes Sprachmodell (LLM) Claude als einer der stärksten Konkurrenten von OpenAIs ChatGPT . Sharmas Ausscheiden erfolgte recht abrupt, da das Safeguards Research Team erst im Februar des Vorjahres offiziell gegründet worden war. Der Schwerpunkt des Teams lag darauf, dent , zu verstehen und zu minimieren.

Der plötzliche Weggang eines führenden Sicherheitsforschers eines der größten US-amerikanischen KI-Unternehmen hat in den sozialen Medien für heftige Kontroversen gesorgt. Besonders bemerkenswert war Sharmas kryptische Warnung in seinem Rücktrittsschreiben : „Die Welt ist in Gefahr.“ Er führte dies nicht nur auf KI oder Biowaffen zurück, sondern auf eine ganze Reihe miteinander verknüpfter Krisen, die sich gerade jetzt abspielen. Viele interpretierten dies als Warnung vor den existenziellen Risiken, die mit dem Fortschritt der KI einhergehen. Sharmas Rücktritt reiht sich ein in einen größeren, besorgniserregenden und sich beschleunigenden Trend von Rücktritten hochrangiger Mitarbeiter in KI-Unternehmen in letzter Zeit.

Interpretation von Sharmas Rücktrittsschreiben

Mrinank Sharma begann den Brief mit einer kurzen Schilderung seines Werdegangs und seiner Motivation, insbesondere seiner Bereitschaft, schwierige Entscheidungen zu treffen und für das Gute einzustehen. Er sprach auch über seine Beiträge zu Anthropic, darunter die Entwicklung und den Einsatz von Abwehrmaßnahmen zur Reduzierung des Risikos von KI-gestütztem Bioterrorismus sowie die Verfassung eines der ersten Sicherheitsnachweise für KI. Sein Abschlussprojekt befasste sich mit der Frage, wie KI-Assistenten uns entmenschlichen oder unsere Menschlichkeit verzerren könnten

Der besorgniserregendste Teil seines Briefes war jedoch der dritte Absatz. Obwohl er Anthropic nicht direkt eines Fehlverhaltens beschuldigte oder unverblümt behauptete, KI werde uns alle umbringen, verwendete er viele philosophische Formulierungen, um seinen Rücktritt zu begründen. Er erklärte: „Wir scheinen an einem Punkt angelangt zu sein, an dem unsere Weisheit im gleichen Maße wachsen muss wie unsere Fähigkeit, die Welt zu beeinflussen, sonst müssen wir die Konsequenzen tragen.“ Anschließend schrieb er: „Ich habe immer wieder erlebt, wie schwer es ist, unsere Werte wirklich unser Handeln bestimmen zu lassen.“ Er beschrieb die Welt zudem als durch eine Reihe miteinander verbundener Krisen bedroht, die er in einer Fußnote als „Polykrise“ bezeichnete, der eine „Metakrise“ zugrunde liege

Diese Wortwahl deutet darauf hin, dass sein Ausscheiden bei Anthropic eher auf philosophischen Differenzen als auf internen Streitigkeiten im Unternehmen beruhte. Indem Sharma die gegenwärtige Situation als „Polykrise“ mit einer zugrundeliegenden „Metakrise“ beschreibt, scheint er auf ein viel größeres strukturelles Problem hinzuweisen, mit dem die Gesellschaft und damit auch die KI-Entwicklung konfrontiert sind. Die Technologie entwickelt sich schneller als das kollektive Wissen, und die gegenwärtigen Systeme und Machtstrukturen, die ihre Entwicklung steuern und beeinflussen, sind im aktuellen Weltgeschehen nicht ausreichend gerüstet.

Die wichtigste Erkenntnis aus Sharmas Brief

Die wichtigste Erkenntnis aus Sharmas Rücktrittsschreiben ist vielschichtig und von existenzieller Bedeutung. Einerseits scheint er der Ansicht zu sein, dass es ein grundlegendes Problem darin gibt, wie Technologieunternehmen mit der rasanten Entwicklung von KI in einem wettbewerbsorientierten System umgehen. Die Weltmächte befinden sich in einem Wettlauf, einander in KI und anderen technologischen Fortschritten zu übertreffen; die weltweiten Technologieausgaben werden voraussichtlich 5,6 Billionen US-Dollar im Jahr 2026 erreichen . Das bedeutet, dass KI-Unternehmen nicht nur Innovationen entwickeln und Produkte herstellen, sondern auch ein entscheidender Faktor in geopolitischen Konflikten sind. Darüber hinaus tragen diese Unternehmen eine treuhänderische Verantwortung gegenüber ihren Aktionären, was einen Anreiz schafft, ihre Konkurrenten im technologischen Fortschritt zu übertreffen.

Dies fördert ein Umfeld, in dem Sicherheitsprinzipien und -verfahren auch dem Marktdruck, der nationalen Wettbewerbsfähigkeit und den Erwartungen der Investoren angepasst werden müssen. Da KI-Unternehmen jedoch rasant expandieren und ihre Fähigkeiten stetig weiterentwickeln, müssen sie die damit verbundenen Risikendent, verstehen und minimieren. Das Problem, das Sharma offenbar anspricht, ist, dass das gegenwärtige System, in dem KI-Unternehmen agieren, Wachstum naturgemäß über Sicherheit und ethische Erwägungen stellt. Die Auswirkungen dieser Dynamik sind existentiell tiefgreifend und geben Anlass zu großer Besorgnis. Ein Mann wie Sharma, der nachweislich integer ist, konnte in diesem System nicht länger agieren, ohne seine Werte zu kompromittieren, was ihn dazu veranlasste, sich vollständig daraus zurückzuziehen.

Sichern Sie sich 8 % CASH in USDC bei Zahlung mit COCA. Bestellen Sie Ihre kostenlose Karte.