Ein Softwareingenieur sagt, OpenClaw habe Hunderte von Spam-Nachrichten verschickt

Chris Boyd saß nach einem Schneesturm in seinem Haus in North Carolina fest und beschloss, das KI-Tool OpenClaw auszuprobieren. Er hoffte, es könnte ihm helfen, seine Morgenroutine zu strukturieren. Er richtete es so ein, dass es ihm jeden Tag um 5:30 Uhr eine Nachrichtenübersicht per E-Mail schickte. Das funktionierte. Dann integrierte er es auch in iMessage.

Kurz darauf brach alles zusammen. OpenClaw verschickte wie verrückt Nachrichten. Über 500 Nachrichten gingen an ihn, seine Frau und sogar an zufällige Kontakte. Boyd lachte nicht.

Er schaltete es ab, änderte den Code und sagte: „Es war nicht fehlerhaft. Es war gefährlich.“

Ein Softwareingenieur sagt, OpenClaw habe Hunderte von Spam-Nachrichten verschickt

Boyd nannte die Software „unausgereift“ und sagte, sie wirke wie lieblos zusammengeschustert. Er korrigierte den Code selbst, um weiteren Schaden zu verhindern. Er war nicht der Einzige, der Bedenken hinsichtlich dieses Tools äußerte.

Der KI-Agent, der zunächst Clawdbot und später Moltbot hieß, gewann ab November immer mehr Anhänger. Er konnte einfache Aufgaben wie das Leeren von E-Mails, das Reservieren von Tischen und das Einchecken für Flüge erledigen. Er benötigte kaum menschliches Eingreifen. Er lief einfach. Genau das machte ihn interessant. Und gleichzeitig auch gefährlich.

Kasimir Schulz arbeitet bei HiddenLayer, einem Unternehmen, das sich auf KI-Sicherheit spezialisiert hat. Laut Kasimir ist OpenClaw ein perfektes Beispiel für das, was er als „tödliche Dreifaltigkeit“ bezeichnet

Es hat Zugriff auf private Daten, kann mit der Außenwelt kommunizieren und unbekannte Inhalte lesen. Das ist das perfekte Rezept für eine Katastrophe, und OpenClaw bietet all das.

Yue Xiao, Informatikprofessor am College of William & Mary, erklärte, dass man mit OpenClaw Daten stehlen kann, indem man das Programm mit sogenannter Prompt-Injection austrickst. Dabei versteckt ein Hacker Befehle in scheinbar normalen Nachrichten. Laut Yue öffnet diese Technologie die Tür für neue Angriffsarten, auf die die meisten Menschen nicht vorbereitet sind.

Der Entwickler räumt ein, dass OpenClaw noch nicht für den breiten Einsatz bereit ist

Peter Steinberger, der Entwickler von OpenClaw, erklärte, das Projekt sei noch nicht abgeschlossen. In einer E-Mail an Bloomberg teilte er mit: „Es ist einfach noch nicht fertig, aber wir kommen dem Ziel näher.“

Peter erklärte, da es sich um Open Source handele, könne jeder den Code einsehen und daran arbeiten. Es würden zwar Fortschritte erzielt, aber das Programm sei noch nicht für den alltäglichen Gebrauch geeignet.

Peter fand den Release nicht verfrüht. Er erklärte, er entwickle alles transparent und halte nichts davon, mit der Veröffentlichung zu warten, bis es perfekt sei. Außerdem fügte er hinzu, dass viele Probleme daher rührten, dass die Nutzer die Installationsanleitung nicht lasen.

Peter stellte klar, dass es bei der Verwendung großer Sprachmodelle keine hundertprozentige Sicherheit gibt. Er sagte, OpenClaw sei für diejenigen gedacht, die wissen, was sie tun und die Risiken verstehen.

Er sagte außerdem, dass die fehlerhafte Injektion nicht nur ein Problem seines Tools sei. Er bezeichnete es als ein Problem, das in der gesamten KI-Welt existiere. Peter erklärte, er habe einen Sicherheitsexperten hinzugezogen, um die Probleme zu beheben und OpenClaw sicherer zu machen.

Experten sagen, dass KI-Agenten schneller wachsen, als die Sicherheitssysteme mithalten können

Während Peter seine Vorgehensweise bei der Entwicklung von OpenClaw verteidigt, warnen andere Experten davor, dass der Trend zu KI-Agenten außer Kontrolle gerät. Justin Cappos, Cybersicherheitsexperte und Professor an der NYU, erklärte, dass diese Tools nach ihrer Inbetriebnahme nur schwer zu kontrollieren seien.

Justin sagte: „Wir verstehen nicht, warum sie das tun, was sie tun.“ Er verglich den Zugriff eines KI-Agenten auf das eigene System damit, einem Kleinkind ein Fleischermesser in die Hand zu geben.

Die Tech-Branche überschlägt sich mit neuen Tools. Anthropics Claude Code erreichte innerhalb von nur sechs Monaten einen Umsatz von einer Milliarde Dollar.

Währenddessen sind diejenigen, die diese Tools sichern sollen, noch dabei, die Grundlagen zu erlernen. Justin sagte, die Unternehmen würden ständig Updates veröffentlichen, und die Sicherheitsteams kämen nicht hinterher.

Michael Freeman von Armis, einem Cybersicherheitsunternehmen, erklärte, OpenClaw sei ohne wirkliches Sicherheitskonzept entwickelt worden. Er gab an, einige Armis-Kunden seien bereits von OpenClaw-Sicherheitsvorfällen betroffen gewesen, nannte aber keine Details. Freeman betonte, Unternehmen müssten einen Teil der Kontrolle abgeben, wenn sie weiterhin KI-Tools wie OpenClaw nutzen wollten.

Nun stellt sich die Frage, ob OpenClaw nach diesem Desaster überhaupt noch genutzt wird. Das Tool hat zwar Anhänger, doch selbst diese erkennen allmählich, dass Freiheit ohne Sicherheit problematisch ist. Und wenn nicht schnell Änderungen vorgenommen werden, könnte OpenClaw das nächste Beispiel für eine Technologie werden, die sich selbst überschätzt hat.

Erreichen Sie die klügsten Köpfe hinter Krypto-Investoren und -Entwicklern, indem Sie in Cryptopolitan