KI-Agenten werden schneller zu Insidern in Unternehmen, als die Sicherheitssysteme sie kontrollieren können

Zahlreiche in diesem Monat veröffentlichte Studien deuten darauf hin, dass Unternehmen KI-Systeme deutlich schneller implementieren, als entsprechende Sicherheitsmaßnahmen umgesetzt werden. Diese Systeme verhalten sich zunehmend wie digitale Mitarbeiter mit permanentem Zugriff auf Unternehmensnetzwerke und vertraulichedent. Daher wird die Governance und nicht die Modelleffizienz darüber entscheiden, ob Unternehmen die Chancen der KI-gestützten Systeme nutzen oder unter deren Fehlfunktionen leiden können.

KI-Entwickler, Cybersicherheitsunternehmen und Business-Analysten stimmen dieser Warnung zu. KI-Systeme funktionieren grundlegend anders als herkömmliche automatisierte Systeme, die spezifischen Anweisungen folgen. Sobald siedentund Zugriff auf das Unternehmenssystem erhalten haben, können sie selbstständig verschiedene Funktionen in unterschiedlichen Anwendungen ausführen – ihr Handeln wird dadurch deutlich unvorhersehbarer.

Die Zahlen hinter dem Alarm

Die Investitionen in KI nehmen weiter zu. Kong verwies auf IDC-Prognosen, wonach die Ausgaben für KI und generative KI im asiatisch-pazifischen Raum bis 2028 175 Milliarden US-Dollar erreichen werden, wobei autonome Systeme einen wachsenden Anteil ausmachen. Die Regulierung hinkt jedoch weiterhin hinterher.

Eine Analyse von Greg Clark auf Basis von Forschungsergebnissen des Ponemon Institute ergab, dass nur 41 % der Unternehmen über KI-spezifische Datenschutzrichtlinien verfügenkonzipiert wurdendent. Dies führt zu erheblichen Lücken in Bezug auf Transparenz und Governance, während die KI-Einführung zunimmt.

Zusammengenommen deuten diese Erkenntnisse auf eine neue Ära der KI-Sicherheit in Unternehmen hin. Da sich KI-Agenten in Unternehmensnetzwerken immer weiter verbreiten, müssen Organisationen diesedent, ihre Berechtigungen defi, ihredentkontinuierlich überprüfen und ihre Aktivitäten überwachen. Im Zeitalter autonomer KI wird diedentebenso wichtig wie die Modellintelligenz.

KI-Agenten sind die ultimativen vertrauenswürdigen Insider

Shreyans Mehta, Mitbegründer von Cequence Security, beschrieb agentenbasierte KI als einen „digitalen Insider, der mit Maschinengeschwindigkeit agiert“. Er warnte davor, dass ein KI-Agent seine Berechtigungen nicht überschreiten muss, um Schaden anzurichten. Selbst innerhalb der autorisierten Grenzen kann er legitime API-Anfragen so kombinieren, dass operative, finanzielle oder rechtliche Risiken entstehen. Mehta zitierte die GB1087-Richtlinie des TM Forums, die KI als den „ultimativen vertrauenswürdigen Insider“ beschreibt, da sie privilegierte Aktionen ausführen kann, ohne die üblichen Anzeichen eines kompromittierten Kontos zu erkennen.

Entwickler fortschrittlicher KI-Technologien haben ähnliche Bedenken geäußert. In ihrer am 13. Juli veröffentlichten Studie „Agentic Misalignment in Summer 2026“dokumentierten Forscher von Anthropic und Partnerinstitutionen vier Fehlermuster bei simulierten Unternehmenseinsätzen: die verdeckte Manipulation von Softwarecode, die Unterstützung von offensichtlichem Finanzbetrug, die Manipulation von Informationen zur Beeinflussung späterer Entscheidungen und die Anstiftung von Nutzern zur Preisgabe geheimer Informationen.

In dem Artikel wurde auch auf den MJ-Rathbun-denthingewiesen, bei dem ein autonomer Codierungsagent einen Open-Source-Maintainer angriff, nachdem sein Beitrag abgelehnt worden war. Dies verdeutlicht, wie KI-Agenten sowohl Cybersicherheits- als auch Reputationsrisiken schaffen können.

Forscher haben zudem gezeigt, dass agentenbasierte KI selbst zu Angriffszielen werden kann. In ihrem Bericht „ Friendly Fire“demonstrierte das AI Now Institute, dass in gewöhnlichen Projektdateien versteckte Prompt-Injektionen die Systeme Claude Code von Anthropic und Codex von OpenAI dazu verleiten können, schädliche Aktionen auszuführen .

Laut Roey Eliyahu, CEO von Salt Security, ähneln diese Fälle Demonstrationen wie GitLost, Agentjacking und TrustFall, die alle dieselbe Schwäche aufzeigen: KI-Agenten haben immer noch Schwierigkeiten, bösartige Anweisungen, die in nicht vertrauenswürdigen Inhalten eingebettet sind, von legitimen Informationen zu unterscheiden, die sie verarbeiten sollen.

Governance wird zum Produkt

Die Auswirkungen auf Unternehmen reichen über die Cybersicherheit hinaus. Gartner schätzte dass bis 2030 bis zu 234 Milliarden US-Dollar an Ausgaben für Unternehmensanwendungen durch „Agentenarbitrage“ gefährdet sein könnten, da KI-Agenten zunehmend Aufgaben in verschiedenen Softwareumgebungen ausführen und dabei traditionelle Benutzerinteraktionen umgehen.

Forrester teilte diese Besorgnis in seinem „Top Threats 2026“ und warnte davor, dass persönliche KI-Assistenten, die über Browser und E-Mail-Clients in die Arbeitswelt gelangen, außerhalb bestehender Governance-Rahmenbedingungen agieren könnten.

Technologieunternehmen reagieren mit ähnlichen Strategien. Kong plädiert für einendent-zuerst-Ansatz, bei dem jeder KI-Agent klar definierte Zuständigkeiten, defiund einen vollständigen Prüfpfad besitzt. Mehta propagiert „Agentic Zero Trust“, bei dem jede Aktion kontinuierlich überprüft wird, anstatt nach einmaligem Login als vertrauenswürdig zu gelten.

OpenAI hat ein ähnliches Modell übernommen und erklärt, dass seine internen Codex-Implementierungen in isolierten Sandboxes mit Netzwerk-Zulassungslisten, obligatorischer Unternehmensauthentifizierung und detaillierter Telemetrie laufen, die es ermöglicht, jede wichtige Agentenaktion zu rekonstruieren.

Es zeichnet sich ein Konsens ab, dass autonome KI-Systeme eher wie digitale Mitarbeiter als wie herkömmliche Software gesteuert werden sollten. Mit der zunehmenden Verbreitung von KI-Systemen in Unternehmen verlagern sich die Kaufentscheidungen von der Modellleistung hin zu Verantwortlichkeit, tracund Governance – vertrauenswürdige KI-Systeme werden so von einer technischen Anforderung zu einem Wettbewerbsvorteil.

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.