欧州議会は木曜日、同意なしに性的にディープフェイクを生成する人工知能ツールの禁止を承認し、議員らもEUの画期的なAI法の重要な部分を遅らせる投票を行いました。この動きは、イーロン・マスクのチャットボット「Grok」を使用して作成された露骨な偽画像に対する怒りに続くものです。

圧倒的多数によって採用されたこの措置は、AI を利用して実在する識別可能な人物の性的に露骨または親密な画像を、本人の同意なしに作成または操作するいわゆる「ヌーディファイア」システムを対象としています。

この禁止は、急速に成長している技術を規制するためのブロックの主要な取り組みである人工知能法のより広範な変更の一部となっています。EU加盟国はすでに同様の措置を支持しており、交渉はこれから法律の最終版に合意し始めます。

欧州議会は声明で、新たな規則が、同意なしにAIを使用して「性的に露骨または親密で、実在の人物に似ている」画像を作成または操作するヌード画像システムと定義している、と欧州議会は声明で述べました。

保護策が講じられているシステムは影響を受けません。議員は、ユーザーがそのような画像を作成するのを防止する「効果的な安全対策」を備えたAIツールは引き続き許可されると述べました。

ディープフェイクの反発

欧州議会の投票は、賛成が569名、反対が45名で可決されました。

EU諸国はすでに3月初めに同様の禁止措置を承認しており、加盟国と議会との間で最終テキストに関する交渉への道が開かされました。

この動きは、今年初めにXで利用可能なAIチャットボットのGrokが、実際の写真から女性や子供の非常にリアルな偽ヌード画像を生成するために使用されたことを受け、広範な怒りに続いています。

その論争は、進行中のEU調査を引き起こしました。Xは1月に、子どもや女性を性的に描写したディープフェイクの作成を停止するための変更を導入すると述べました。

遅延したAIの規則

議員は、安全や健康、あるいは市民の基本的権利に対する潜在的な脅威とみなされる高リスクAIシステムに関する規則の実施を遅らせることも支持しました。

これらの規則は当初、8月に施行される予定でした。提案に基づき、単独のハイリスクシステムは2027年12月2日からコンプライアンス期限が設けられ、他の製品に組み込まれたAIツールは2028年8月2日までとなります。

議会は単独でEU法を変更することはできません。つまり、27か国の加盟国を代表する欧州理事会との交渉が、規則が正式に採択される前に最終的な結果を決定することになります。

（ニュースワイヤー付き）

https://www.rfi.fr/en/international/20260326-eu-votes-to-ban-ai-nudifier-apps-after-deepfake-outrage