König Karl warnt KI-Führer, die Kontrolle zu übernehmen, bevor es „zu spät“ ist

Bei einem Gipfeltreffen in Schottland forderte König Karl III. die Chefs der weltweit größten KI-Unternehmen auf, Wege zu finden, um die Technologie unter menschlicher Kontrolle zu halten. 

Der König warnte, dass die Erbauer nun befürchten, das Ding könne „dunklere Fähigkeiten“ entwickeln und sogar zum Töten eingesetzt werden. 

Was sagt König Karl III. zur KI? 

König Karl III. sprach im Dumfries House in East Ayrshire, einer von der Ditchley Foundation organisierten Veranstaltung, zu der rund 30 Führungskräfte, Beamte und Forscher kamen, darunter der britische KI-Minister Kanishka Narayan, der Vorstandsvorsitzende von Nvidia, Jensen Huang, der Mitbegründer von DeepMind, Demis Hassabis, die Finanzchefin von OpenAI, Sarah Friar, und der Leiter der globalen Angelegenheiten von Anthropic, Tino Cuéllar.

Auf der privaten Gästeliste, die Bloomberg einsehen konnte, befanden sich angeblich auch Namen wie MI6-Chef Blaise Metreweli, der Autor Yuval Noah Harari und Xue Lan von der Tsinghua-Universität.

Der 77-jährige Charles sprach nur etwa 20 Minuten, bevor er den Raum verließ, um hoffentlich produktive Gespräche zu führen. Diejenigen, denen die moralischen Grundwerte der Menschheit am Herzen liegen, sagte er, „suchen sehnsüchtig nach Ihrer Zusicherung, dass wir weder die Kontrolle über unser Schicksal noch über unsere Seelen verlieren werden.“

Charles nannte das Tempo der Technologie „gleichermaßen faszinierend und zutiefst besorgniserregend“. Er würdigte und lobte ihre Erfolge in Medizin und Lebenswissenschaften, bevor er eine direkte Frage stellte: „Brauchen wir nicht ausreichende Kontrollmöglichkeiten, bevor es zu spät ist?“

Der König bezog sich in seiner Warnung auf die Bedenken der Entwickler von KI-Technologien. Er sagte auch, dass die Systeme die Gefahr bergen, „dunklere Fähigkeiten zu entwickeln, vielleicht sogar Leben zu nehmen“. Er fügte hinzu, dass Führungskräfte die „existenziellen Gefahren“ bedenken sollten, die entstehen, wenn diese Technologien in die falschen Hände geraten. 

Bereits zuvor hatte Charles eine Videobotschaft an den britischen KI-Sicherheitsgipfel 2023 in Bletchley Park gesendet, in der er ähnliche Ansichten zum Ausdruck brachte. 

Der KI-Berater des Vatikans, Paolo Benanti, war beim Gipfeltreffen anwesend, und Papst Leo XIV. schrieb in einer Enzyklika vom Mai, dass die KI nicht in den Händen „wenigerer“ bleiben dürfe

Wird sich die KI-Entwicklung verlangsamen? 

Hassabis erklärte den Delegierten, dass künstliche allgemeine Intelligenz – Systeme, die in der Lage sind, mit Menschen bei vielen Aufgaben mitzuhalten oder sie sogar zu übertreffen – „wahrscheinlich nur noch wenige Jahre entfernt“ sei 

Er sagte, die Technologie könne ein zehnmal größeres Ausmaß an Auswirkungen haben als die Industrielle Revolution. Die Wahrscheinlichkeit, dass etwas schiefgeht, sei „definicht null“, fügte er hinzu, doch er betonte anschließend: „Die Zukunft ist noch nicht geschrieben.“

Friar sagte, die zunehmende Macht der Technologie werfe Fragen hinsichtlich ihrer Nutzung im Dienste der Menschen auf, und dass „kein einzelnes Unternehmen und keine einzelne Regierung dies allein leisten kann“ 

Huang, dessen Unternehmen Nvidia einen Wert von fast 5,15 Billionen US-Dollar hat, erklärte den Anwesenden, Sicherheit habe oberste Priorität und ein Produkt solle zurückgehalten werden, wenn es noch nicht ausgereift sei. Er plädierte dafür, KI-Produkte anstatt der Technologie selbst zu regulieren, und verteidigte offene Modelle, um kleinere Länder und Forscher vor dem Ausschluss zu bewahren.

Der Gipfel findet statt, nachdem ein viral gegangener Rücktrittspost des Anthropologen Jacob Coxon und eine Vorhersage seines Kollegen Evan Hubinger, dass KI eine 10%ige Wahrscheinlichkeit habe, das Aussterben der Menschheit zu verursachen, Besorgnis ausgelöst haben.

Cryptopolitan berichtete, dass Dario Amodei von Anthropics einen Essay veröffentlicht hat, in dem er die Labore auffordert, „die Grenzen zu erweitern“, und dass OpenAI diese Woche ein System eingeführt hat, das Fehlverhalten von Modellen offenlegen soll, nachdem sechs Vorfälledentbesorgniserregenden Verhaltens 

Allerdings sind nicht alle der Ansicht, dass die Gefahr real ist:dent Donald Trump bezeichnete solche Befürchtungen als „Schwindel“

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.