欧州連合（EU）は、実在する人の顔に性的な画像や動画を合成する「ディープフェイクポルノ」を、本人の同意なく生成する人工知能（AI）サービスを禁止する方針を固めた。女性や子どもを中心に被害が拡大している現状を受け、AIを包括的に規制する「AI法」を修正し、事業者に対応を求める。
AI法修正案の内容
欧州議会とEU理事会は7日、AI法の修正案で暫定合意し、本人の同意なしに性的な画像、動画、音声などのコンテンツを生成するAIサービスの禁止を盛り込んだ。児童虐待に該当する性的コンテンツの生成は、同意の有無にかかわらず禁止される。EU関係者によると、医療や捜査を目的とした生成は対象外となる見通しだ。
事業者への影響
事業者は12月2日までに対応が求められる。この措置は、ディープフェイク技術の悪用が深刻化する中、被害防止を目的としている。
—
EUは2024年にAI法を成立させ、リスクに基づく規制を導入したが、ディープフェイクポルノの急増を受け、迅速な修正が必要と判断した。特に非同意の性的コンテンツ生成は、女性や子どものプライバシーと尊厳を著しく侵害するとして、厳しい規制が求められていた。
背景と今後の展望
ディープフェイクポルノは、ソーシャルメディアやオンラインプラットフォームで拡散され、被害者の精神的苦痛や社会的信用の失墜を引き起こしている。EUの新規制は、AI技術の進展に伴う倫理的課題に対応するもので、他国の規制にも影響を与える可能性がある。
EUは今後、AI法の施行状況を監視し、必要に応じてさらなる修正を検討する。事業者は、違反した場合、高額な制裁金を科されるリスクがある。
