Kanishka Narayan warnt KI-Labors, unkontrollierbare Modelle zurückzuhalten

Brits Minister für künstliche Intelligenz, Kanishka Narayan, sagte den Frontier-KI-Laboren am Montag, dass sie Systeme nicht freigeben sollten, deren Risiken sie nicht angemessen kontrollieren können.

Er sagte, das AI Security Institute teste einige der neuesten Modelle, darunter Google’s Gemini 4 Argon.

Zwei Regierungs-Pilotprojekte behoben mehr als 1,000 Schwachstellen

Narayan sprach am Imperial College London. „Hören Sie auf Ihre Wissenschaftler, wenn diese vor schweren Gefahren warnen. Untersuchen Sie unerwartetes Verhalten. Und wenn Sie die Risiken nicht angemessen kontrollieren können, veröffentlichen Sie das System nicht“, sagte er .

Er verwies auf einen früheren Vorfall in Australien in diesem Jahr. Ein OpenAI-Agent, der öffentliche Ausgaben für Arzneimittel recherchierte, stieß auf Zugriffsbeschränkungen einer Regierungswebsite und fand dann einen anderen Weg hinein.

Es gelangte an Informationen, zu denen es nicht berechtigt war. Die australische Regierung sagt, sie kenne keine persönlichen medizinischen Aufzeichnungen, die Zugriff gefunden hätten.

„Es ist wahrscheinlich, wenn nicht unvermeidlich, dass unsere eigenen Cybersicherheitsabwehrmaßnahmen durchbrochen werden“, sagte Narayan.

Ein übergreifendes Regierungsprogramm zur Bekämpfung von Cyberangriffen, einschließlich solcher, die durch KI getrieben werden, wird vom Sicherheitsminister Dan Jarvis geleitet.

Narayan sagte, zwei Regierungs-Pilotprojekte nutzten Frontier-KI, um über tausend Schwachstellen in öffentlichen Diensten zu identifizieren und zu beheben. Ein zentraler Überwachungsdienst reduzierte die Zeit zur Behebung bekannter Schwachstellen von 50 Tagen auf acht.

Die Minister werden mit dem Parlament am Gesetz zur Cybersicherheit und Resilienz arbeiten, einschließlich der Meldung schwerwiegender KI-Vorfälle und beinahe Vorfälle. Beamte werden auch Methoden entwickeln, um agentic KI-Vorfälle zu verwalten und diejenigen zu unterstützen, die davon betroffen sind.

Tester des Sicherheitsinstituts bewerten jetzt Googles Gemini 4 Argon

In den letzten Wochen hat Großbritannien mit der US-Regierung und den Labors zusammengearbeitet, um dem Institut den Vorabzugang zu den leistungsfähigsten Modellen zu gewähren, sagte Narayan.

„Und ich kann bestätigen, dass KI-Wissenschaftler am AI Security Institute nun rigorose Bewertungen der neuesten Modellgeneration durchführen, einschließlich Gemini 4 Argon, um Risiken frühzeitig zu identifizieren, robuste Schutzmaßnahmen zu testen und dazu beizutragen, Menschen in Sicherheit zu bringen“, sagte er.

Entwickler stellen dem Institut Modelle auf freiwilliger Basis vor deren Einsatz zur Verfügung.

Großbritannien wird im nächsten Jahr den Vorsitz im G20-Gipfel führen, wobei KI einen Schwerpunkt darstellen wird, so Narayan. Er erklärte, die Regierung werde am Montagnachmittag erste technische Standards veröffentlichen, wobei das Institut eine herausragende Rolle spielen wird.

Minister haben nie bestätigt, dass das Institut den Zugang im weiteren Sinne verloren hat. „Wenn man auf die Technologie anderer angewiesen ist, muss man sich über die Dauerhaftigkeit jeder Entscheidung klar sein. Aber ich bin sehr zuversichtlich, dass wir infolge der Gespräche, die wir geführt haben, in der Lage sein werden, die neueste Generation von Modellen zu testen“, sagte Narayan .

Cryptopolitan berichtete im September, dass Anthropic sein Modell Claude Mythos 5.1 vor der Veröffentlichung vom Institut zurückgehalten hatte. Bereits im Mai 2026 erwog das Weiße Haus bereits Vorab-Überprüfungen der leistungsfähigsten Modelle.

Narayan sagte, Großbritannien werde im kommenden Jahr den Vorsitz der G20 übernehmen, wobei die künstliche Intelligenz (KI) einen wichtigen Schwerpunkt darstellen wird. Er erklärte, die Regierung werde am Montagnachmittag erste Einblicke in technische Standards veröffentlichen, wobei das Institut eine herausragende Rolle spielen wird.

Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.