欧州委員会がxAIのGrok AIチャットボットに対する正式な手続きを開始

欧州委員会は、人工知能チャットボット「Grok」が児童の写真を含む実際の人々の性的な画像を本人の許可なく生成していたことが判明したことを受け、イーロン・マスク氏のソーシャルメディア・プラットフォーム「X」に対し正式な手続きを開始した。.

Xのユーザーは、Grokに作成を依頼することで、実際の写真のAIによる改変版を作成している。デジタルヘイト対策センターが先週発表した調査によると、Grokはわずか数日間で女性や子供のディープフェイク画像を約300万枚作成したという。

この論争を受け、複数の国で調査を求める声が上がっている。アイルランド、複数の政府大臣がこれを受けてXアカウントを閉鎖した。

フィナ・ゲール党所属の欧州議会議員、レジーナ・ドハティ氏は今朝発表した声明の中で、欧州委員会による同社への措置を認め、正式な調査開始の決定を支持すると述べた。.

「AIシステムが女性や子供に危害を加える形で使用されているという信頼できる報告が出てきた場合、EU法を速やかに検討し、施行することが不可欠だ」とドハティ氏は述べた。.

彼女はさらに、今回の事件は、プラットフォームがリスクをチェックし、違法で有害なコンテンツの拡散を阻止するという法的責任に従っているかどうかについて深刻な懸念を提起している、と付け加えた。.

ドハティ氏は、調査は実際の結果をもたらす必要があると強調した。.

「EUで事業を展開するいかなる企業も法の支配を受けない」と彼女は述べた。.

彼女はまた、この状況は新しいAI技術がどのように規制され監視されているかという点でより大きな問題を示していると指摘し、EUレベルでさらなる措置が講じられるよう求めた。.

「今回の事例は、AI法がなぜ生きた法律として存続しなければならないのかを改めて浮き彫りにしています。執行や監督における欠陥が明らかになった場合、それに対処するのは私たちの責任です。EU法は、深刻な被害が発生した際に、リアルタイムで執行可能でなければなりません」とドハティ氏は述べた。.

グリーンランド危機により調査が遅れる

ドイツのニュースソースによると、欧州委員会はEUのデジタルサービス法が、EUがドナルド・トランプ米大統領によるグリーンランド占領の脅しに対処するため、決定は延期されdent。

XがEU規制当局とトラブルに巻き込まれたのは今回が初めてではない。2025年12月、同プラットフォームはデジタルサービス法違反によりEUから1億2000万ユーロの罰金を科された。違反内容には、誤解を招くような青いチェックマークの表示、広告の透明性の欠如、研究者によるプラットフォームへのアクセス妨害などが含まれていた。.

トランプ政権当局者はこの罰金について厳しい言葉をtronた。マルコ・ルビオ国務長官とJ・D・ヴァンス副dent 共に、これをアメリカのテクノロジープラットフォームへの攻撃だと激しく批判した。.

リスク評価とコンテンツ管理に重点を置く

最新の調査は、X社がAIチャットボットのリスクを適切に評価し、有害コンテンツの作成と拡散を防止するための十分な対策を講じていたかどうかに特に焦点を当てています。デジタルサービス法は、大規模なオンラインプラットフォームに対し、違法コンテンツやユーザーへの危害に関連するリスクをdent、対処することを義務付けています。.

これほど短期間にこれほど大量の不適切な画像が急激に生成されたことは、デジタル安全推進派や議員たちの間で警鐘を鳴らした。.

この事態は、EUの規制が新興AI技術をどのように扱うかという試金石となっている。人工知能システムを規制するためにAI法が制定されているが、今回の訴訟はオンラインプラットフォームの責任を規定するデジタルサービス法に基づいて進められている。.

この調査により、X社は追加の罰金を科せられたり、Grokの運営方法の変更を要求される可能性があります。欧州委員会は、デジタルサービス法の重大な違反に対し、企業の全世界の年間売上高の最大6%に相当する罰金を科す権限を有しています。.

規制対応を検討する中、同社の対応は注視されることになる。複数の国が既に、チャットボットが不適切な画像を作成する能力に対処するための緊急措置を求めて

暗号通貨のニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。無料です。