生成AI（人工知能）を悪用して投資詐欺の広告を自動生成したとして、警視庁は16日、広告制作会社役員の男（42）ら2人を、電子計算機使用詐欺の疑いで逮捕した。発表によると、2人はSNS上で著名人をかたる偽の投資広告を作成し、投資家を募っていたという。
生成AIで偽広告を量産
逮捕されたのは、東京都内の広告制作会社役員の男と、その知人で会社員の男（38）の2人。警視庁の調べに対し、役員の男は「広告制作の依頼を受け、生成AIを使って作成した」と容疑を認めている。
2人は2025年5月ごろから、生成AIを使って著名人の顔写真や発言を合成した偽の投資広告を制作。SNS上で「確実に儲かる投資」などとうたって投資家を募り、複数の被害者から現金をだまし取っていた疑いがある。
—
被害は複数に上る可能性
警視庁は、2人が制作した広告がSNS上で拡散され、全国で被害が広がっている可能性があるとみて調べている。被害総額は数千万円に上る可能性もあるという。
警視庁は、生成AIを悪用した詐欺事件の摘発は全国で初めてとしている。
