スペイン政府が主要SNSの調査を指示 生成AIによる子供の性的画像被害が深刻化
スペイン政府は17日、生成AI（人工知能）を利用した子供の性的画像の拡散に関与した疑いがあるとして、米国のソーシャルメディア大手であるX（旧ツイッター）とメタ（旧フェイスブック）、そして中国発の「TikTok（ティックトック）」の調査を検察当局に正式に指示しました。この決定は、同国内で深刻化するデジタル犯罪への対応を強化するための重要な措置として位置づけられています。
子供の5人に1人が被害に 調査で明らかになった衝撃的事実
政府関係者によれば、スペインにおける最近の調査結果から、同国の子供たちの実に5人に1人が、自身の画像が生成AI技術によって性的に加工される「ディープフェイク」の被害に遭っていることが判明しました。この数字は、デジタル空間における子供の安全が脅かされている現状を如実に示しており、早急な対策が求められています。
ペドロ・サンチェス首相は同日、これらのSNSプラットフォームについて、「子供たちの基本的な権利を侵害し、彼らの心の健康と尊厳を深く傷つけている」と強く非難しました。首相は、テクノロジーの進歩がもたらす負の側面に対処するため、法整備を含む包括的なアプローチが必要であると訴えています。
法的規制の強化へ 16歳未満のSNS利用禁止方針も示す
サンチェス首相は今月3日、既存の法律を改正し、16歳未満の子供によるSNSの利用を禁止する方針を明らかにしています。この提案は、未成年者をオンライン上の危険から保護することを目的としており、教育現場や家庭からの支持を得る可能性が高いと見られています。
政府の指示を受けた検察当局は、各SNS企業が生成AIコンテンツの監視と削除において適切な対策を講じているかどうかを詳細に調査することになります。調査の焦点は、以下の点に置かれると予想されます。
- プラットフォーム上での違法な画像の流通実態
- 企業側のコンテンツモデレーション体制の有効性
- 被害を受けた子供や家族への支援策の不足
今回の動きは、欧州連合（EU）全体で進むデジタル規制の流れと連動しており、他の加盟国にも同様の措置が広がる可能性があります。生成AI技術の急速な普及に伴い、その悪用を防ぐための国際的な協力がますます重要視されています。
