Brüssel eröffnet separate Gespräche zur KI-Sicherheit mit OpenAI und Anthropic

Am Montag teilte die Europäische Kommission mit, dass sie mit OpenAI und Anthropic über deren KI-Modelle im Gespräch sei, doch die beiden Gespräche ähneln sich überhaupt nicht.

Thomas Regnier, ein Sprecher der Kommission in Brüssel, erklärte gegenüber Reportern, dass OpenAI als erstes Unternehmen Zugang zu seinem neuesten Modell angeboten habe. Die Kommission bezeichnete diesen Schritt als proaktiv.

Anthropic hingegen hat sich bereits vier oder fünf Mal mit Vertretern der Verantwortlichen getroffen, das Thema Zugang zu Models kam aber noch nicht zur Sprache.

„Bei dem einen Unternehmen (OpenAI) bietet man proaktiv Zugang an. Beim anderen (Anthropic) haben wir zwar einen guten Austausch, aber wir können noch nicht über einen möglichen Zugang spekulieren“, sagte während des Briefings.

Regierungen verengen den Kreis um die Spitzen-KI

Der Zeitpunkt ist nicht zufällig. Regierungen weltweit beobachten die Entwicklung fortschrittlicher KI-Systeme mit großem Interesse.

In diesem Jahr trat das EU-KI-Gesetz in Kraft. Die Umsetzung erfolgt schrittweise. Die Verordnung enthält risikobasierte Regeln für KI-Anbieter, die in Europa tätig sind.

Die Unternehmen sind nicht verpflichtet, der Regierung ihre Modelle vor der Markteinführung zur Prüfung vorzulegen, aber es ist klar, dass die Kommission mehr über die bevorstehenden Entwicklungen erfahren möchte.

OpenAI und Anthropic sind die beiden größten amerikanischen Unternehmen, die an modernster KI arbeiten.

Ihre KI-Systeme werden immer leistungsfähiger, und die Regulierungsbehörden versuchen fieberhaft herauszufinden, was das konkret bedeutet.

Der audiovisuelle Dienst der Kommission führte die Diskussion über OpenAI und Anthropic unter dem Punkt „Cybersicherheit“ auf der Tagesordnung der Mittagssitzung am 11. Mai auf. Sie steht dort neben den Themen Verteidigungspolitik und Migration.

Washington bewegt sich in Richtung obligatorischer Vorab-Überprüfungen vor der Entlassung

Während in Brüssel verhandelt wird, könnte Washington ein Urteil fällen.

Das Weiße Haus erwägt einen Plan, die leistungsstärksten KI-Modelle vor ihrer Veröffentlichung zu überprüfen.

Diese Idee gewann an Fahrt, nachdem Anthropic den breiteren Zugang zu seinem neuesten Modell Mythos zurückhielt, da interne Tests gezeigt hatten, dass es in großem Umfang ausnutzbare Softwarefehler finden konnte.

Das britische AI Safety Institute stieß im April auf ähnliche Probleme, als es GPT-5.5 von OpenAI evaluierte.

, hat das Modell eine maßgeschneiderte virtuelle Maschine nachgebaut und eine komplexe Herausforderung schneller gelöst als ein menschlicher Experte Cryptopolitan bereits berichtete.

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.