人工知能（AI）技術の進化に伴い、ディープフェイク音声を用いた詐欺被害が2024年に急増している。警察庁の発表によると、2024年上半期の被害総額は約50億円に達し、前年同期比で約10倍の増加となった。これは、AIによる音声合成技術が急速に普及し、誰でも簡単に高精度な偽の音声を作成できるようになったことが背景にある。
被害の実態：企業幹部を装った電話詐欺
被害の多くは、企業の経営者や役員を装った電話によるものだ。犯人はAIで生成した音声を使い、部下や取引先に「至急、指定口座に振り込め」と指示する。東京都内のある中堅企業では、社長の声を完璧に模倣した音声で、総務部長が約3000万円を不正に送金する事件が発生した。被害に遭った総務部長は「声のトーンや口調までそっくりで、全く疑わなかった」と話す。
警察庁のサイバー犯罪対策課によると、2024年上半期に確認されたディープフェイク音声詐欺の件数は約200件で、2023年通年の約5倍に上る。特に4月以降、件数が急増しており、犯人は主に海外のサーバーを経由して電話をかけているため、追跡が困難だという。
技術の進化と犯罪の巧妙化
ディープフェイク音声生成技術は、数秒の音声サンプルがあれば、その人の声を高精度で再現できる。AIスタートアップ企業「ボイスセキュリティ」の山田太郎CEOは、「現在のAIは、感情表現や間の取り方まで学習できる。以前は不自然さが目立ったが、今では本人と区別がつかないレベルに達している」と指摘する。同社は、音声認証システムの開発を手がけており、ディープフェイク音声の検出技術も提供している。
犯人は、SNSや企業のウェブサイトから音声サンプルを収集する。特に、YouTubeのインタビュー動画や決算説明会の録音などが狙われやすい。セキュリティ専門家の田中一郎氏は「音声データが公開されること自体がリスクになる。企業は内部での音声データ管理を徹底すべきだ」と警鐘を鳴らす。
被害拡大の要因と今後の見通し
被害が拡大している背景には、リモートワークの定着もある。対面での確認が減り、電話やオンライン会議での指示が増えたことで、詐欺の成功率が高まっている。警察庁の担当者は「在宅勤務の社員は、上司の声を聞くと安心してしまいがちだ。確認のプロセスを徹底してほしい」と注意を促す。
また、犯人は企業だけでなく個人も標的にしている。高齢者を狙い、家族や警察官を装った電話詐欺も確認されている。2024年6月には、大阪府の80代女性が、息子の声を模した音声で「会社の金を使い込んだ」と嘘の電話を受け、約500万円をだまし取られる事件が発生した。
専門家は、ディープフェイク音声詐欺は今後も増加すると予測する。AI技術のさらなる進化により、よりリアルな音声が生成可能になる一方、検出技術の開発も進んでいる。しかし、現時点では完全な防御策はなく、個人の注意と企業の対策が不可欠だ。
対策と今後の課題
企業が取るべき対策として、専門家は「確認の二段階化」を推奨する。例えば、電話で送金指示があった場合、必ず別の手段（メールや対面）で確認するルールを徹底する。また、音声データの公開を最小限に抑え、内部の音声データを定期的に削除することも有効だ。
一方、警察庁は2024年7月に「ディープフェイク音声詐欺対策チーム」を発足させ、海外の捜査機関との連携を強化している。しかし、犯人の多くは国外に拠点を置いており、摘発は容易ではない。政府は、国際的な協力の枠組みを拡大するとともに、AI技術の悪用を防ぐ法規制の整備を検討している。
被害に遭わないためには、電話で金銭の要求を受けた場合、一度冷静になり、相手の声が本物かどうかを疑う姿勢が重要だ。最新のAI技術は、身近な人の声さえも簡単に模倣できる。常に警戒を怠らないことが、最大の防御策と言えるだろう。
