画像や動画のディープフェイクが注目されがちだが、実際の業務や日常生活では、音声のほうが入り込みやすい。電話やボイスメッセージに限らず、オンライン会議や社内通話など、音声を利用するケースは多いが、人は聞き覚えのある声に弱いからだ。企業がターゲットとなった事例を見ていこう。
企業が音声フェイクで「約38億円」騙し取られた衝撃
AIを使った音声詐欺は、生成AIブーム以前から報じられている。2019年には、イギリスのエネルギー企業のCEOが、親会社であるドイツ企業のCEOの声をまねた電話を受け、22万ユーロ（約2700万円）を送金した事件が報じられた。電話の声にはドイツ訛りや話し方など、その人物の特徴があり、被害者は上司本人だと信じたという。
ほかにもForbes誌によれば、こんな事例がある。2020年に香港のとある企業の支店長のもとに、聞き覚えのある声から電話が入った。本社の取締役を名乗る男性（実際は音声フェイク）が「会社が買収を行うことになったので、3500万ドル（約38億円）相当の送金を承認してほしい」と話した。電話後には買収手続き等に関するメールもあったことから、信用して送金してしまったという。
「逮捕されたから送金を」家族を装う詐欺
企業だけでなく、一般市民もAIを使った音声詐欺に狙われるおそれがある。例えば、家族を装って「逮捕されたから保釈金が必要」と電話をかけ、音声フェイクで本人の声を再現する手口だ。こうした詐欺は、緊急性を訴えることで冷静な判断を鈍らせる。AI技術の進歩により、声の再現精度は向上しており、数秒の音声サンプルからでも本人そっくりの声を作成できるという。
津田健次郎のTikTok提訴で浮かび上がる声の脅威
声優の津田健次郎氏が、自身の声を無断で使用したTikTok動画に対して提訴した事例は、AI時代の声の権利問題を浮き彫りにした。声は生体情報の一種であり、無断利用はプライバシー侵害や詐欺に悪用されるリスクがある。専門家は「音声フェイクはディープフェイク動画よりも検出が難しく、被害が拡大する可能性がある」と警鐘を鳴らす。
対策と今後の展望
企業は、送金や機密情報のやり取りにおいて、音声だけでなく複数の認証手段を導入する必要がある。例えば、本人確認のためのコールバックや、事前に取り決めた合言葉の使用などが有効だ。一般市民も、不審な電話やメッセージには安易に応じず、相手の身元を確認する習慣が求められる。AI技術の進化に伴い、音声フェイク詐欺はさらに巧妙化することが予想されるため、警戒を怠ってはならない。
