チャットGPTがロシアの世論工作に悪用、米オープンAIが発表
チャットGPTがロシアの世論工作に悪用、米オープンAI発表

米オープンAIは25日、対話型AI(人工知能)サービス「チャットGPT」がロシア発の世論工作に不正利用されていたと発表した。X(旧ツイッター)やフェイスブックなどのSNS上でロシアを称賛し、ウクライナや欧州連合(EU)を批判する投稿を生成していたという。

ロシア系勢力による投稿生成の手口

発表によると、ロシア系勢力がイスラエルを拠点とする実態不明の研究機関を介し、英語やドイツ語で発信していた。ロシアからVPN(仮想プライベートネットワーク)を使って接続し、発信元をわかりにくくしていたという。ロシアとの関係改善を訴える投稿もあった。

オープンAIの対応と影響分析

オープンAIは関連するアカウントの利用を停止した。「これほど手の込んだロシア関連の世論工作を阻止したのは初めてだ」としている。投稿の閲覧は広がりを欠いたため、世論への影響は限定的だったと分析している。

Pickt横長バナー — Telegram用の共同買い物リストアプリ

生成AIを巡る情報操作のリスク

生成AIを巡っては、中国や北朝鮮系の勢力による世論工作も相次いでおり、情報操作に悪用されるリスクが顕在化している。

Pickt記事後バナー — 家族イラスト付きの共同買い物リストアプリ