UNICEFは、AI生成の児童虐待コンテンツを犯罪とするよう各国政府に要請

国連児童基金（UNICEF）は水曜日、インターネット上で流通するAI生成の性的画像の量が急増しているという報告を指摘した。これらのAI生成画像には、主に子供の写真が加工され、性的表現されたものが含まれていた。.

同機関は、児童性的虐待コンテンツを生成するAI搭載の画像・動画生成ツールの増加により、デジタル技術を通じた児童へのリスクが高まっていると主張した。また、 UNICEFは、AIによって生成された児童性的コンテンツの作成と拡散を防ぐため、政府と業界による緊急の対策を求めた。.

AIが生成した性的コンテンツは、子供たちに長期的な精神的害を及ぼす。

ディープフェイクの乱用は乱用です。.

AIツールを用いて生成または操作された、児童の性的画像、動画、音声は児童性的虐待コンテンツです。dent可能な被害者がいなくても、児童の性的搾取を常態化させてしまいます。.

UNICEFは…を防ぐための緊急行動を求めています

— UNI CEF (@UNI UNI ) 2026年2月4日

国連機関は、わずか5年前までは、高品質の生成モデルには相当の計算能力と専門知識が必要だったと指摘した。しかし、現在のオープンソースモデルは、加害者が性的虐待コンテンツを作成することを容易にしている。. 

UNI は、実在の児童が直接関与していないにもかかわらず、このようなコンテンツは児童の性的描写を常態化し、被害者の特定を困難にしていると考えているdentまた、加害者は児童の関与や認知なしに、児童のリアルな性的画像を作成できるとも主張している

UNICEFは、このようなコンテンツは、子どもの保護権を侵害する可能性があると指摘した。子どもは、それが実際に起こっていることにさえ気づかないままに侵害されている可能性がある。また、子どもたちは、恥辱、偏見、仲間や大人からの批判の増加、社会的孤立、そして長期的な精神的ダメージに直面しているとも指摘した。.

UNI CEFはまた、AIを活用した画像・動画生成ツールへのアクセス性の向上が、児童性的虐待コンテンツ（CSAM）の制作と拡散の急増につながっていることを明らかにした。英国のインターネット・ウォッチ財団（IWF）は、児童性的虐待コンテンツ専用のダークウェブフォーラムにおいて、わずか1ヶ月で約14,000枚の疑われる画像を発見した。報告書によると、これらのコンテンツの3分の1は犯罪であり、児童性的虐待をリアルに描いた初めてのAI動画であった。

IWFはまた、児童性的虐待のAIビデオを3,440件発見した。これは前年に発見された13件から26,362%の増加である。ビデオのうち2,230件（65%）は過激すぎるためカテゴリーAに分類され、さらに1,020件（30%）はカテゴリーBに分類された。.

IWFはまた、dentしました。これには、少女をターゲットとしたピアツーピアの文脈で作成されたディープフェイクヌードが含まれます。また、韓国の法執行機関がと報告した。

AIとディープフェイクの被害者は主に10代の若者で、被告人の大半を占めています。ソーニー氏の調査によると、米国の10代の若者の10人に1人が、友人がAIツールを使って子供の同意のない合成画像を作成した事例を知っていることがわかりました。

UNI CEF、ECPATインターナショナル、インターポールはまた、2025年には11カ国で約120万人の子供たちの画像がAIツールによって性的に露骨なディープフェイクに加工されていると報告している。また、これらの機関は、約11カ国で最大3分の2の子供たちが、AIが偽の性的画像の作成に利用されるのではないかと懸念していると報告している

UNICEFは、親や保護者はAIを活用した性的搾取と虐待について十分な情報を得る必要があると主張した。また、学校に対し、AI関連のリスクとそれが個人に及ぼす危害についてdentに教育を行うよう求めた。.

性的AIディープフェイクを理由にGrokとの提携を断念する国々

UNI CEFの報告書は、イーロン・マスク氏のAIツール「Grok」が、露出度の高い服装で写った人物の実際の写真を編集して、それが禁止されている国でその人物の露出度の高い服装に見せてしまうことを防ぐ機能を実装した直後に発表された。この取り組みは、性的表現を含むAIディープフェイクに対する広範な懸念を受けて行われた。

英国政府はX社に対し、Grokの管理を要請した。一方、規制当局であるOfcomは、問題の解決に24時間体制で取り組んでいると述べた。X社は声明の中で、禁止されている国において、GrokアカウントおよびX社のGrokを通じて、ビキニ、下着、その他類似の衣服を着た実在の人物の画像を生成するすべてのユーザーをジオブロックしたと述べた。

マレーシアとインドネシアも先月初め、性的に露骨なディープフェイクを生成する能力があるとしてGrokへのアクセスをブロックしたCryptopolitan 今月初め、インドネシアは、X社が同国の法律遵守の改善を約束したことを受け、Grok社の事業再開を許可したと報じた

プレミアム暗号通貨取引コミュニティに 30 日間無料で参加できます (通常は月額 100 ドル)。