人工知能（AI）で生成した偽の音声を使った詐欺被害が急増している。警察庁のまとめによると、2025年上半期の被害額は約30億円に上り、前年同期の約10億円から3倍に拡大。被害件数も約2000件と前年同期の約700件から約3倍に増加した。同庁は「AI技術の進歩で音声の精度が高まり、見破るのが難しくなっている」として注意を呼びかけている。
親族や上司を装う手口
手口の多くは、電話で親族や上司を装い、「急いでお金が必要だ」などと偽って振り込ませるもの。AIが生成した音声は、実際の人物の声を短時間の録音データから学習し、自然な会話が可能。被害者は「声がそっくりだった」と話すケースが大半だ。
警察庁の担当者は「AI音声は不自然な間や抑揚がなく、人間の耳では区別がつきにくい。電話で金銭を要求されたら、一度電話を切って相手に折り返し電話するなど、確認を徹底してほしい」と述べている。
海外でも同様の被害
この問題は日本だけでなく、海外でも深刻化している。米連邦取引委員会（FTC）は2024年にAI音声詐欺に関する警告を発出。英国では2025年3月、AIで生成したCEOの声を使って銀行口座から約2億円を詐取する事件が発生した。
専門家は「AI音声詐欺は今後さらに巧妙化する。企業は社内の振り込みルールを見直し、電話だけで判断せず、メールや対面での確認を必須にするなどの対策が必要」と指摘する。
対策技術の開発進む
一方で、AI音声を見破る技術の開発も進んでいる。国立情報学研究所は2025年4月、音声の周波数解析によってAI生成かどうかを99％の精度で識別できるシステムを発表。また、大手通信会社は通話中にリアルタイムでAI音声を検知し、警告を表示するサービスの実用化を目指している。
警察庁は「AI技術の進展に伴い、詐欺の手口も進化している。国民一人ひとりが警戒心を持ち、不審な電話には応じないことが重要だ」としている。
