メタ・プラットフォームズが運営する写真共有SNS「インスタグラム」で、同社のカスタマーサポート用AIエージェントのバグを悪用したアカウント乗っ取り事件が発生した。被害にはバラク・オバマ元大統領や米軍関連のアカウントが含まれており、サイバーセキュリティ上の重大な脅威が明らかになった。
オバマ元大統領のアカウントが突如“復活”
5月下旬、オバマ氏がホワイトハウス在任中に使用していた旧ソーシャルメディアアカウントが、インスタグラム上で突如として不審な投稿を開始した。このアカウントは2017年の退任以降、休眠状態にあった。投稿内容には、ドナルド・トランプ大統領を揶揄するメッセージや「ホワイトハウスがイスラム教シーア派の支配下にある」といった虚偽の主張が含まれており、オバマ氏の従来のソーシャルメディア活動とは明らかに異なるものだった。
これらの投稿はオバマ事務所によるものではなく、ハッカー集団による犯行であることが判明した。ハッカーらはメタのカスタマーサポート用AIエージェントに存在するバグを発見。このバグにより、第三者がインスタグラムのパスワードをリセットできる状態になっていた。AIチャットボットに対して特定の指示を与えるだけで、対象アカウントのパスワードを変更し、乗っ取ることが可能だったという。
AIチャットボットの脆弱性が招いたセキュリティホール
今回の事件の核心は、メタが導入していたAIエージェントの設計上の欠陥にある。通常、パスワードリセットにはメール認証や二段階認証など複数の確認ステップが必要だが、このAIチャットボットは適切な認証プロセスを経ずにリセットを実行してしまった。ハッカーはこの脆弱性を悪用し、オバマ氏のアカウントだけでなく、米軍関係者や複数の著名人のアカウントにも不正アクセスしたとみられる。
セキュリティ研究者によれば、このバグはAIがユーザーからのリクエストを過剰に信頼し、悪意のある入力を適切にフィルタリングできなかったことに起因する。メタは事件発覚後、該当のAIエージェントを一時停止し、バグの修正に乗り出したが、被害が拡大する前に発見された点は不幸中の幸いだった。
大手テック企業のAI導入リスクを浮き彫りに
メタは最先端AIの開発に巨額の投資を行っており、AI技術をカスタマーサポートやコンテンツモデレーションに積極的に活用している。しかし、今回の事件は、AIシステムの導入が新たなセキュリティリスクを生む可能性を如実に示した。専門家は「AIが自律的に重要な操作を実行する場合、人間による監視や厳格な認証プロセスが不可欠だ」と指摘する。
また、この事件はSNSプラットフォームにおけるアカウントセキュリティの重要性を再認識させるものとなった。特に公人や政府関連アカウントは、乗っ取られた場合に誤情報拡散や社会的混乱を引き起こすリスクが高い。メタは再発防止策として、AIエージェントの権限を制限し、パスワードリセットなどの重要操作は人間のオペレーターが確認するプロセスを導入すると発表している。
被害拡大と今後の影響
現時点で、このバグを悪用したハッカー集団の特定や、被害を受けたアカウントの全容は明らかになっていない。しかし、オバマ氏や米軍のアカウントが標的となったことから、政治的な動機を持つグループの関与が疑われる。また、一般ユーザーのアカウントも同様の手法で乗っ取られた可能性があり、メタは影響範囲の調査を進めている。
今回の事件は、AI技術の進展に伴うセキュリティ課題を浮き彫りにし、業界全体に警鐘を鳴らしている。メタを含む大手テック企業は、AIの利便性と安全性のバランスをどう取るか、今後も厳しい問いかけに直面することになりそうだ。
