Gefälschtes KI-Video von nepalesischen Politikern schürt Desinformationsängste im Vorfeld der vorgezogenen Wahl

Im Vorfeld der vorgezogenen Wahlen in Nepal am 5. März wurde in einem gefälschten Film, in dem drei prominente Politiker aus Nepal mitwirken, enthüllt, wie künstliche Intelligenz als Waffe eingesetzt wird.

Das vollständig computergenerierte Video zeigte den ehemaligen Bürgermeister von Kathmandu, Balendra Shah, den ehemaligen Leiter des Elektrizitätssektors, Kulman Ghising, und den Vorsitzenden der Rastriya Swatantra Party, Rabi Lamichhane, beim gemeinsamen Spaziergang.

Viele glaubten, dass sich eine neue politische Allianz herausbildete, als das Video im Internet viral ging. Da die gesamte Begegnung jedoch computergeneriert war, trafen die drei Politiker nie wirklich aufeinander.

Audiofälschungen verbreiten sich über soziale Netzwerke

Das gefälschte Video ist nur ein Beispiel für die KI-generierten Inhalte, die Nepals digitale Räume im Vorfeld der Wahl überschwemmen. Die Wahl findet nur sechs Monate nach gewaltsamen Demonstrationen junger Menschen statt, die ein Ende der Korruption forderten. Diese Proteste zwangen den damaligen Premierminister KP Sharma Oli zum Rücktritt und stürzten das politische System des Landes ins Chaos.

Digitale Fälschungen, die sich gegen bekannte Persönlichkeiten richten, haben infolge dieser Vertrauenskrise stark zugenommen. Swarnim Wagle,dentder Rastriya Swatantra Party, hat Anzeige bei der Cyber-Abteilung der nepalesischen Polizei erstattet. Eine gefälschte Tonaufnahme wurde angefertigt, um den Eindruck zu erwecken, er habe ein Gespräch mit dem indischen Premierminister geführt, das jedoch nie stattgefunden hat.

Diese gefälschten Audiodateien stellen in Nepal besondere Risiken dar, wie die Faktenchecks von Poynter . Sprachnachrichten verbreiten sich schnell in Familienchats und sozialen Medien und erreichen oft Empfänger, die deren Echtheit nicht überprüfen können. Die Unzuverlässigkeit der zur Erkennung dent Audiodateien verwendeten Tools bedeutet, dass die Bevölkerung nur eingeschränkt zwischen Falschmeldungen und Wahrheit unterscheiden kann.

Die Versuche der Regierung, das Problem unter Kontrolle zu bringen, haben die Lage oft verschlimmert. Da sie sich nicht bei den Aufsichtsbehörden registriert hatten, wurden Facebook, X und YouTube während der Demonstrationen im September von den Behörden gesperrt.

Das Verbot verschärfte die Gewalt, anstatt die Spannungen abzubauen. Reuters dokumentierte mindestens 77 Tote und Tausende Verletzte in dem darauf folgenden Chaos. Die Behörden hoben die Beschränkungen schließlich auf, doch derdent zeigte, warum harte Maßnahmen gegen Falschinformationen wirkungslos sind. Falschinformationen verbreiteten sich einfach über schwerer zu kontrollierende Kanäle.

Die nepalesische Wahlkommission hat versucht, diesen Herausforderungen durch politische Maßnahmen zu begegnen. Ihre 2021 veröffentlichte „Richtlinie zur Nutzung sozialer Medien im Wahlmanagement “ legte erste Leitlinien fest. Ein neuer Entwurf eines Verhaltenskodex für die bevorstehende Wahl verbietet ausdrücklich Falschinformationen und gefälschte Profile, die Wähler beeinflussen sollen.

Experten warnen jedoch, dass diese Regeln angesichts der generativen KI dringend aktualisiert werden müssen. Fragen bleiben offen: Was genau sind synthetische Medien? Müssen Kampagnen Inhalte offenlegen, die mithilfe von KI erstellt wurden? Wer trägt die Verantwortung für die Verbreitung von Falschinformationen?

Experten fordern eine koordinierte Reaktion

Mangels perfekter Regulierungen drängen Experten und Überwachungsgruppen auf umfassendere Lösungen. Poynter und ähnliche Medienorganisationen empfehlen mehrere Schritte: Nachrichtenorganisationen und Faktenchecker sollten jedes virale Video wie einen Kriminalfall untersuchen, seine Herkunft tracund nachweisen, wie sie es verifiziert haben.

Politische Parteien und Kandidaten sollten versprechen, keine Deepfakes zu verwenden und jegliches KI-generierte Material klar zu kennzeichnen. Social-Media-Unternehmen sollten Schnellreaktionsteams einrichten, die mit den Sprachen und der Politik Nepals vertraut sind. Bürger sollten eine „Zehn-Sekunden-Triage“ anwenden und vor dem Teilen schockierender Behauptungen innehalten, prüfen und bestätigen.

Das Cyber-Büro der nepalesischen Polizei bereitet sich bereits auf technisch fortgeschrittenere Angriffe vor. SP Ray, ein Beamter des Büros, sagte: „KI gewinnt immer mehr an Bedeutung und wird in immer mehr Bereichen eingesetzt. Schon bald werden wir wahrscheinlich Verbrechen und Cyberangriffe erleben, die durch KI erleichtert werden. “

Ray merkte zudem an, dass die relative Neuheit der Technologie etwas Spielraum verschaffen könnte. Er glaubt, dass die KI- Technologie noch in den Kinderschuhen steckt und erst allmählich von der Öffentlichkeit angenommen wird, weshalb es noch etwas dauern könnte, bis sie als Zerstörungswerkzeug eingesetzt wird.

„Wir sind gut gerüstet, um diese Verbrechen und Bedrohungen zu bekämpfen, und das sollten wir auch sein“, sagte Ray. Er fügte beruhigend hinzu: „Die nepalesische Polizei kann jeder Handlung nachgehen. Lediglich Angriffe aus dem Ausland werden mehr Zeit in Anspruch nehmen . “

Schärfen Sie Ihre Strategie mit Mentoring täglichen Ideen – 30 Tage kostenloser Zugang zu unserem Handelsprogramm