岩手県矢幡町に本社を置く繊維製品卸売会社「岩手繊維株式会社」が、グーグルの人工知能（AI）を活用した検索サービスにおいて、同社が事業を停止し特別清算の開始決定を受けたとする虚偽の情報を表示されたことが明らかになった。同社によると、今月13日に顧客や取引先から「倒産したとの情報がインターネット上に出ている」との連絡が相次ぎ、確認したところ、グーグル検索で社名を入力すると「『岩手繊維株式会社』は事業を停止し、特別清算の開始決定を受けました」などと表示されていたという。この誤情報は現在は解消されているが、同社は一時的に問い合わせ対応に追われた。
AIの「ハルシネーション」が原因か
この問題は、AIが事実に基づかない情報をあたかも真実のように回答する「ハルシネーション（幻覚）」と呼ばれる現象の可能性が高い。グーグルのAI検索はウェブ上のコンテンツを解析して回答を生成するが、誤った解釈や文脈の見落としが生じることがある。グーグル社は「AI検索はユーザーの満足度向上につながっているが、こうした問題が発生した場合には事例をシステムの改善に役立てている」と説明している。
岩手日報も出典として虚偽引用
誤情報の出典元として「岩手日報の報道によると」と記載されていたが、同紙は一切そのような記事を報じていない。岩手日報の経営企画室長兼総務局長である八重樫卓也氏は「信頼性を重視する新聞社として大変憂慮するとともに、極めて遺憾。グーグル社に対し、誤表示の即時是正および再発防止を強く求めている」とコメントした。
岩手繊維の対応と影響
岩手繊維の渡部義孝専務は「突然のことで驚きと怒りでいっぱい。取引先の方々を不安にさせてしまい申し訳ない」と心境を語った。同社は現在も通常通り事業を継続しており、誤情報による直接的な営業影響は限定的とみられるが、信用問題に発展しかねない事態として警戒を強めている。
AI誤情報の社会的課題
今回の事例は、生成AIがもたらす誤情報拡散のリスクを改めて浮き彫りにした。特に企業の信用に関わる情報が誤って表示されるケースでは、風評被害が生じる可能性がある。専門家は、AI検索の利用者側も情報の真偽を確認する習慣が重要だと指摘している。グーグル社はシステム改善を進める方針だが、再発防止策の実効性が問われている。
