Kann „KI-Sicherheit“ als Instrument globaler Vorherrschaft missbraucht werden?

Vitalik Buterin äußerte Bedenken hinsichtlich der zunehmend kontroversen Verwendung des theoretischen Konzepts der „KI-Sicherheit“ durch Unternehmen und Regierungen.

Buterin erklärte auf der Social-Media-Plattform X, dass führende Unternehmen im Bereich der KI, wie Anthropic, nicht vorschreiben können, welche Maßnahmen für die Sicherheit geeignet sind oder nicht, da dies zu einem System führt, in dem die Regeln von den tron .

Kann „KI-Sicherheit“ als Instrument globaler Vorherrschaft missbraucht werden?

Vitalik Buterin nutzte kürzlich die Social-Media-Plattform X, um seine Bedenken darüber zu äußern, dass das Konzept der KI-Sicherheit von großen Konzernen und nationalen Interessen vereinnahmt

Anthropic beispielsweise kürzlich dafür gelobt, dass das Unternehmen sich weigerte, dem US-Wohlfahrtsministerium (Department of Welfare, DoW) oder anderen staatlichen Stellen die Nutzung seiner Claude-Modelle für Massenüberwachung oder vollautonome Waffensysteme zu gestatten.

Allerdings hat das Unternehmen auch seine Sicherheitsverpflichtung, bei der Risiken pausiert werden sollten, aufgehoben. Diese hätte das Unternehmen verpflichtet, alle Schulungen und Einsätze bedingungslos einzustellen, bis die Sicherheitsmaßnahmen auf dem neuesten Stand wären, falls es jemals ein KI-Modell entwickeln sollte, dessen Fähigkeiten die Fähigkeit des Unternehmens übersteigen würden, die Sicherheit des Modells nachzuweisen.

Vitalik wies darauf hin , dass Anthropics frühere Kritik an seinen Konkurrenten, die von Claudes Ergebnissen lernten, heftige Gegenreaktionen hervorrief, insbesondere in China, wo argumentiert wurde, dass Claude selbst seine Modelle mit dem riesigen, öffentlichen Wissen des Internets trainiert habe.

Anthropic behauptet, das Problem mit Open-Source-Konkurrenten bestehe darin, dass ihnen die notwendigen Sicherheitsvorkehrungen fehlten und sie Risiken darstellten. Doch warum darf Anthropic entscheiden, welche Sicherheitsmaßnahmen geeignet sind?

Buterin erklärte, dass Anthropics Handlungen auf ein System hindeuten, in dem „die Regeln von dentrongemacht werden“

Er äußerte die Befürchtung, dass, wenn die Sicherheit von KI nicht mehr von der Mentalität „Unser Unternehmen/unser Land verdient es, die Welt zu regieren“ zu unterscheiden sei, dies eine gefährlichere Welt schaffen werde.

Er argumentiert, dass die Sicherheitsbestimmungen brüchig werden, wenn nationale Sicherheitsorganisationen zwangsläufig von ihnen ausgenommen werden. Dies ist besonders relevant, da aktuelle Meldungen bestätigen, dass große KI-Labore verstärkt milliardenschwere Partnerschaften mittracanstreben, um sichere KI-Umgebungen für militärische Zwecke bereitzustellen.

Ist die Einschränkung von KI gefährlich?

Vor Jahren wurde Vitalik einer der größten Spender des Future of Life Institute (FLI). 2021 erhielt er von den Schöpfern des Shiba-Inu-Tokens (SHIB) eine große Menge an Token. Als die Spekulationsblase um den „Hunde-Token“ ihren Höhepunkt erreichte, lag der Buchwert bei über einer Milliarde US-Dollar. Vitalik beeilte sich, die Gelder zu spenden, bevor die Zinsen sanken, und überwies dem FLI SHIB im Wert von rund 500 Millionen US-Dollar.

Damals konzentrierte sich das FLI auf Risiken wie Biogefahren und Atomkrieg. Inzwischen hat das FLI seinen Fokus jedoch auf aggressive politische Aktionen und Lobbyarbeit verlagert und drängt häufig auf Regulierungen, die Vitalik besorgniserregend findet. Insbesondere kritisiert er den Ansatz, KI-Modelle mit Schutzmechanismen auszustatten, um sie daran zu hindern, „schädliche Inhalte“ abzuwehren.

Vitalik betrachtet diese Einschränkungen als fragile Lösungen, da sie durch Jailbreaking oder Feintuning leicht umgangen werden können.

Noch wichtiger ist seine Befürchtung, dass diese Strategien zu einem düsteren Szenario führen, in dem Open-Source-KI verboten wird, um ein Monopol der Guten aufrechtzuerhalten.

Vitalik plädiert stattdessen für ein System namens defensiver Akzelerationismus (d/acc). Diese Philosophie besagt, dass der beste Weg, mit gefährlicher Technologie umzugehen, darin besteht, die Schutzschilde zuerst zu entwickeln und als Open Source zu veröffentlichen.

Kürzlich stellte er 40 Millionen Dollar für Projekte wie sichere Hardware, biologische Verteidigung und Cybersicherheit bereit, um seine Ideologie zu unterstützen.

Sichere Hardware macht Computerchips unhackbar und verhindert so deren Missbrauch für Massenüberwachung. Biodefense umfasst die Entwicklung fortschrittlicher Luftfilter und passiver PCR-Tests zur Früherkennung und Eindämmung von Pandemien. Investitionen in Cybersicherheit verbessern die Überprüfbarkeit von Software, sodass KI-gesteuerte Angriffe kritische Infrastrukturen nicht mehr so leicht lahmlegen können.

Erreichen Sie die klügsten Köpfe hinter Krypto-Investoren und -Entwicklern, indem Sie in Cryptopolitan