ロシア、イラン、北朝鮮、中国の国家ハッカーはAIを基本的なタスクにのみ使用している

テクノロジー企業や政府関係者は、人工知能（AI）が外国の敵にとって危険な武器になりかねないと警告し続けているを呈している。最近の報告によると、国家支援を受けた組織が一般のインターネットユーザーと同じ公開ツールを利用しており、しばしば同様に苦戦していることが明らかになった。

OpenAIは最近、政府関連の団体が自社のプラットフォームをどのようにうとした。

最も注目すべき事例は、中国の法執行機関関係者がChatGPTを個人的な日記のように利用したことで、中国による影響力行使キャンペーンがdent暴露された。この関係者は、海外在住の中国批評家を標的とした作戦について記事を執筆しました。

OpenAIによると、このキャンペーンには数百人の運営者と数千の偽のソーシャルメディアアカウントが関与していた。

この作戦は、米国の入国管理局職員を装い、反体制派の公式発言が米国法に違反していると虚偽の主張をすることで、反体制dent 脅迫しようとした。また、郡裁判所からの文書を偽造し、批判者のソーシャルメディアアカウントを削除させようとしたケースもあった。.

偽の死亡記事と偽造文書は嫌がらせキャンペーンの一環

彼らは偽の死亡記事と墓石の写真を作成し、ある反dentの死に関する虚偽の噂を広めた。これらの噂は実際には現れたと、中国語版のVoice of Americaの記事が確認した。OpenAIで調査を率いるベン・ニモ氏は、この取り組みを複数のチャネルを通じて中国共産党批判者を狙った工業化された嫌がらせだと呼んだ

ChatGPTを記録管理ツールとして使用していたことが、結果的にこの活動の発覚につながりました。ChatGPTは、工作員が秘密ネットワークをtracされた発見した後、このユーザーをBANしました。

OpenAIの調査員は、ChatGPTユーザーの記述と実際のオンライン活動を照合しました。ユーザーは、偽の死亡記事と墓石の写真を作成し、オンラインに投稿することで、中国の反dent活動家の死亡を偽装したと説明しました。.

別のケースでは、ChatGPTユーザーが、アメリカの関税に対する怒りを煽り、新首相に就任した高市早苗氏の評判を傷つける計画を作成するようシステムに依頼しました。ChatGPTはこれを拒否しました。しかし日本のグラフィックアーティストが集まる人気フォーラムに、彼女を攻撃し、関税に不満を訴えるハッシュタグが現れました

OpenAIの報告書では、恋愛詐欺や投資詐欺にこのプラットフォームを利用したカンボジアからの複数の詐欺行為や、ある影響力行使キャンペーンも取り上げられている。

マイクロソフトのレポートは同様の基本的な使用パターンを示している

OpenAIと共同で、北朝鮮、イラン、中国の国家レベルのアクターがサイバー攻撃活動を支援するために大規模言語モデルをどのように試行しているしました。両社は、5つの国家レベルのアクターのアカウントを閉鎖することで、これらのアクターの活動を阻止しました。

Microsoftの報告書によると、これら攻撃者は主に作業のためにサービスを利用しようとしていた。これまでのところ、これらのモデルを利用した大規模または新たな攻撃は発見されていない。

恐怖と現実のギャップは、激しい競争の中で生じていますどのような役割を果たすかが、大きな争点。国防総省は最近、別の企業であるアントロピック社、金曜日までに自社のモデルから特定の安全機能を削除しなければ、防衛契約を失うリスクがあるとtracしました。

マイクロソフトは、国家組織や犯罪組織によるこれらのツールの悪用によるリスクを低減するための原則策定に取り組んでいると述べた悪質なユーザーを発見・阻止する他のサービスプロバイダー通知すること協力すること、そして透明性を確保することなどが含まれる。

あなたのプロジェクトを暗号通貨業界のトップに紹介したいですか？データと影響力が融合する、次の業界レポートで特集しましょう。