中国関係者がChatGPTに高市首相への影響工作を助言依頼、OpenAIが報告書で明らかに

米国の人工知能企業OpenAIは、中国当局に関係する人物が同社のAIチャットボット「ChatGPT」に助言を求め、日本の高市早苗首相を標的にした影響工作を試みたとする報告書を発表した。同社はこの人物のアカウントを停止し、オンライン上での活動との類似性を指摘している。

報告書によると、この人物は「サイバー特別作戦」と名付けられた中国の影響工作と見られる活動の状況をまとめた文章を、定期的にChatGPTに編集や整理させていた。昨年10月中旬には、高市首相の信用を落とすための計画に助言を求めたことが明らかになった。

計画の原案には、以下のような内容が含まれていたという。

—

ChatGPTはこれらの助言を拒否し、やり取りはいったん止まった。OpenAIは、サービス利用時の禁止事項として、政治運動や選挙干渉、脅迫、中傷などを掲げている。

しかし、この人物は10月末、同じ計画の進み具合をまとめた文章を推敲するようChatGPTに依頼してきた。ChatGPTを使わずに作戦を進めたことがうかがえ、「無名の日本人インフルエンサーに支援を求めた」とも記されていたという。

報告書は、この作戦の標的が中国国内の人物だけでなく、世界中の反体制派や外国の首脳に及び、多様な戦術に基づいた「大規模な影響工作活動」だった可能性をほのめかしている。具体的な手法として、中国のSNSだけでなく、300を超える外国のSNSにまたがって展開され、数千のアカウントが使われたとしている。

作戦の「効果」については、ばらつきがあったと評価。高市首相に関わる作戦では、SNSの投稿の多くが閲覧数が少なく、狙った層に届いていない可能性が高いとしている。

OpenAIは「この人物の主張をすべて証明することも反証することもできない」としつつも、「この人物の行動の一部は、オンライン上で確認できる活動と非常によく似ている」などと結論づけている。報告書は同社のウェブページで公開されている。

この事例は、AI技術が悪用されるリスクを浮き彫りにするとともに、国際的な影響工作の複雑さと広がりを示すものとして注目されている。高市首相を標的にした活動は、日本の政治状況に対する外部からの介入の試みとして、警戒を強める必要があるだろう。