生成AIで偽動画作成、中国で摘発相次ぐ 新たな脅威

中国で生成AI（人工知能）を悪用した偽動画の作成・拡散事件が相次いで摘発されている。公安部は2024年上半期に約2000件の関連事件を処理したと発表。AI技術の急速な普及に伴い、悪用事例が深刻化している。

偽動画事件の手口と被害

摘発された事件では、有名人の顔を無断で合成した動画や、偽のニュース映像がSNSで拡散された事例が目立つ。例えば、著名な実業家が投資を呼びかける偽動画が作成され、視聴者を詐欺サイトに誘導するケースが確認された。公安部の担当者は「生成AIは高品質な偽コンテンツを低コストで量産できるため、従来のフェイクニュースより被害が大きい」と警鐘を鳴らす。

AI技術の悪用防止策

中国政府は2023年から生成AIサービスに対する規制を強化。コンテンツへの透かし挿入や、利用者の身元確認を義務付ける法律を施行した。しかし、専門家は「技術の進歩に規制が追いついていない」と指摘。特に、ディープフェイク検出技術の開発が急務だと訴える。北京のAI研究所は「検出精度は90%以上だが、悪用側も常に手法を改良している」と説明する。

—

社会への影響と今後の課題

偽動画事件は社会の信頼を損なうだけでなく、選挙介入や株価操作など政治・経済への悪影響も懸念される。公安部は「今後も摘発を強化し、AI技術の健全な発展を促進する」と表明。国際的な連携も視野に、対策を進める方針だ。