OpenAI schaltet ChatGPT-Konten mit Verbindungen zu Russland wegen gefälschter Denkfabrik ab

OpenAI hat ein Netzwerk von ChatGPT-Konten mit Verbindungen nach Russland abgeschaltet.

Die Accounts nutzten den Chatbot, um eine gefälschte „Experten-Community“ zu schaffen, zu der unter anderem Francis Fukuyama und Noam Chomsky gehörten, teilte das Unternehmen am Mittwoch mit.

34 von 36 Artikeln stammen aus einer anderen Quelle

Die Accounts dienten der Werbung für das International Burke Institute (IBI). Die Organisation gab an, in Israel ansässig zu sein und mit renommierten Wissenschaftlern besetzt zu sein.

Laut einem Bericht von OpenAI ging die Website im Februar 2025 online. Die Liste der bis Mitte Juli veröffentlichten Personen umfasste Fukuyama , Chomsky und andere namhafte Wissenschaftler.

Die Ermittler von OpenAI untersuchten eine Stichprobe von 36 Artikeln, die zwischen September 2025 und Mai 2026 veröffentlicht und sogenannten Experten des IBI zugeschrieben wurden, und stellten fest, dass 34 davon von anderen Quellen stammten.

Es gab einen Artikel über den Wirtschaftskorridor China-Pakistan, der ursprünglich von Yunas Samad von der Universität Bradford in einer Publikation der Cambridge University Press verfasst worden war, aber vom IBI unter dem Namen der Südasienwissenschaftlerin Katharine Adeney aus Nottingham veröffentlicht wurde.

Ein Artikel über Migrationspolitik im Migration Policy Institute wurde unter dem Namen eines australischen Professors für Lebensmittelwissenschaften veröffentlicht.

Die Account Manager gaben ihre Anweisungen auf Russisch ein, wünschten sich aber meist englische Ausgaben. OpenAI stellte fest, dass sie dem Modell damit wiesen, alle sprachlichen Hinweise darauf zu entfernen, dass Russen die Texte verfasst hatten.

Da das Unternehmen den Zugriff aus Russland blockiert, nutzten die Betreiber VPNs, um auf den Dienst zugreifen zu können.

ChatGPT produzierte lediglich Füllmaterial für soziale Medien. Beiträge und Antworten leiteten die Leser zu IBI-Artikeln auf X, LinkedIn, Facebook, Substack und Telegram weiter.

Einige Profile trugen den Namen und das Logo von IBI. Andere gaben sich als normale Nutzer aus, deren Feeds beim Betrachten nichts anderes enthielten als Links zu IBI.

Die Accounts reagierten außerdem auf themenfremde Beiträge auf Substack und forderten die Leser jeweils dazu auf, dem IBI-Kanal zu folgen.

Ein falsch übersetztes deutsches Wort brachte den Deckel zum Platzen

OpenAI erklärte, die Bemühungen seien komplexer als die mit Russland in Verbindung stehenden Operationen, die sie seit Beginn des Krieges in der Ukraine demontiert hätten, obwohl ihre Reichweite gering sei.

Ein „Souveränitätsindex“, der Russland lobte und westliche Regierungen kritisierte, bildete den Grundstein.

In einem Artikel über Deutschland war von der „Svetofor-Koalition“ die Rede, wobei das slawische Wort für Ampel verwendet wurde, während ein einheimischer Autor „Ampelkoalition“ gesagt hätte

OpenAI interpretierte dies als maschinelle Übersetzung eines slawischen Originals, wie es in dem Bericht heißt.

Ein weiterer deutscher Telegram-Kanal, „Lahme Ente“, veröffentlichte Beiträge, in denen die Ukraine, die EU und Berlin angegriffen wurden und in denen zu wärmeren Beziehungen mit Moskau aufgerufen wurde.

Einige der verlinkten Telegram-Kanäle hatten jeweils bis zu 20.000 Follower, die einzelnen Beiträge verzeichneten jedoch nur geringe Zugriffe.

Im Februar Cryptopolitan , dass eine chinesische Einflusskampagne sich selbst verraten habe, als ein Beamter ChatGPT als Arbeitstagebuch nutzte.

Immer wieder OpenAI beobachtet, wie staatliche Akteure das Modell für alltägliche Aufgaben nutzten, nicht für neue Angriffe.

Im Jahr 2024 zerschlug es ein weiteres mit Russland verbundenes Netzwerk, Doppelganger, das Beiträge veröffentlichte, in denen Moskau gelobt und die Ukraine und die NATO angegriffen wurden.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.