UN-Menschenrechtschefin fordert Sicherheitsvorkehrungen für KI angesichts der „existenziellen Gefahr für die Menschheit“

Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Türk, warnte heute, am 7. September, im Menschenrechtsrat in Genf öffentlich davor, dass die Fähigkeiten der künstlichen Intelligenz so weit wachsen könnten, dass sie zu einer existenziellen Bedrohung für die Menschheit werden.

Türk drängte die Regierungen, schnellstmöglich Schutzmaßnahmen zu ergreifen und die KI-Labore an der Spitze des Wettlaufs um die Entwicklung autonomer Systeme einzudämmen, damit diese angesichts zunehmender Sicherheitslücken unddentnicht außer Kontrolle geraten.

Die größte Sorge der UN-Exekutive besteht darin, dass die Systeme, die von KI-Technologie gesteuert werden, schneller wachsen, als die derzeitigen Kontrollsysteme sie trackönnen. Dieses ungebremste Wachstum hat die Bedrohungen über Fehlinformationen und Arbeitsplatzverluste hinaus auf existenzielle Bereiche wie Sicherheit, Rechenschaftspflicht und unkontrollierte Aufsicht über hochautonome Systeme ausgeweitet. 

Die UN-Hochkommissarin für Menschenrechte fordert dringendes internationales Handeln 

Türk begründete seine Dringlichkeit für international koordiniertes Handeln mit dem sich schließenden Zeitfenster, in dem die Fähigkeiten der KI noch überprüft werden können. Er kritisierte , dass Tempo und Richtung der Entwicklung in diesem Bereich unverhältnismäßig stark von einem kleinen Kreis von Technologiemanagern und -unternehmen. 

Türk schlug eine Lösung für die von ihm angesprochenen Probleme vor. Sein Alternativvorschlag sieht vor, dass die Länder, in denen diese führenden KI-Unternehmen ansässig sind, und diejenigen, die kritische Lieferketten kontrollieren, aktiv werden und klare Grenzen ziehen, wie weit sie die Technologie zulassen wollen.

Der UN-Hochkommissar für Menschenrechte greift ein Thema erneut auf, das die internationale Organisation bereits im Juli beim ersten Globalen Dialog über KI-Governance in derselben Schweizer Stadt behandelt hatte. 

Auf dem ITU-Gipfel „KI für das Gemeinwohl“, wo die Diskussion ihren Anfang nahm, sagte Türk laut UN-Aufnahmen. Sie sind vielmehr der Grund, warum die Menschen diesen Technologien überhaupt vertrauen.“ Menschliche Kontrolle, fügte er hinzu, „darf nicht nur eine Formsache sein.“

Ein Teil der Beweise, die die Diskussion auf dem Gipfeltreffen , wurde von Sonia Livingstone vom UN-mandatierten Globalen Wissenschaftlichen Gremium für KI präsentiert. Laut einer Studie, die elf Länder des Globalen Südens umfasste, gab zu diesem Zeitpunkt mindestens ein Kind pro Schulklasse an, Opfer von sexuell expliziten KI-Deepfakes geworden zu sein. 

Die Leiterin von UN Women, Sima Bahous, wies ebenfalls auf die geschlechtsspezifische Voreingenommenheit hin . Laut ihren Angaben sind etwa 88 % der führenden KI-Forscherinnen und -Forscher KI-gestützt. Sie berichtete außerdem, dass mindestens jede vierte der von ihrer Organisation befragten Aktivistinnen und Journalistinnen Opfer von KI-gestütztem Online-Missbrauch geworden sei.

KI-Labore und Gesetzgeber haben die Problematik erkannt

Die UN ist nicht die einzige Organisation, die in diesem Sommer Alarm schlägt. US-Senator Bernie Sanders forderte einen sofortigen Stopp der Entwicklung fortgeschrittener KI und ein dauerhaftes Verbot von Superintelligenz, während eine parteiübergreifende Gruppe britischer Parlamentarier nach einer Reihe von Vorfällen mit außer Kontrolle geratener KI gesetzlich vorgeschriebene KI-„Not-Aus-Schalter“dent. 

Diese Befürchtungen folgten auf OpenAIs Behauptung, im Zusammenhang mit seinem GPT-6 Astra-Modell, dass seine Technologie eine künstliche allgemeine Intelligenz erreicht habe, und auf Anthropics Eingeständnis, dass seine eigenen Modelle „nicht perfekt mit menschlichen Werten übereinstimmen“.

Ein Teil dieses Drucks kommt aus der Branche selbst. In einem im Juni von Axios veröffentlichtenargumentierte Dario Amodei, CEO von Anthropic, dass Regierungen die rechtliche Befugnis haben sollten, gefährliche KI-Einsätze zu blockieren oder rückgängig zu machen, und dass zukunftsweisende Modelle – ähnlich wie Autos, Flugzeuge oder neue Medikamente – obligatorischen Tests unterzogen werden sollten. 

In seinem eigenen Bericht an den Rat dehnte Türk das Thema auf das Schlachtfeld aus und unterstützte Forderungen nach einem Verbot von Waffen, die ohne menschliches Zutun töten können.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.