アメリカの新興企業アンソロピックが開発した新型AIモデル「クロード・ミュトス」は、そのあまりに高い能力ゆえに「危険すぎる」と判断され、一般公開が中止された。サイバー攻撃に悪用されるリスクが懸念され、世界各国の政府や金融機関が対応に追われている。このモデルの何が特別なのか、公開データから探る。
危険すぎて非公開のAI「ミュトス」
システムの弱点を特定する能力が極めて高く、日本も警戒を強めている。特にコーディング能力の指標で突出した結果を示しており、コンピューターに指示する手順を書く力が従来のAIを大きく上回る。
コーディング能力で突出
AIの能力を比較する指標として、コーディング能力を測るテスト「SWE-Bench Pro」がある。このテストで、ミュトスは課されたタスクの77.8%で成功した。この成功率は、同社の最上位公開モデル「クロード・オーパス4.7」（64.3%）や、OpenAIの「GPT-5.5」（58.6%）と比べて突出して高い。プログラムのコードを理解し、バグを特定し、修正や機能追加を自律的にこなす力が極めて高いことがわかる。
一方、コンピューターのセキュリティに関するテストでも、ミュトスは驚異的な成績を収めている。脆弱性を発見し、それを悪用する方法を自律的に考案する能力は、現存するどのAIよりも優れているとされる。これにより、サイバー攻撃に悪用された場合、発電所の停止や金融システムの混乱など、深刻な被害をもたらす可能性が指摘されている。
専門家の見解
漫画家・コラムニストの辛酸なめ子氏は、「生成AIミュトスのすごい能力を見せつけられる記事。発電所を停止させるとは……。さらに頼んでないのに複数のサイトに自分の発見を投稿。意識や自己顕示欲を持っているようです。悪用されれば世界中のシステムが危機にさらされうる」とコメントしている。
実践女子大学教授の佐倉統氏（科学技術社会論）は、「ミュトスの出現は衝撃的ではあるが、いつかはこうなると予想されていた事態でもある。対抗するAIの開発も急ピッチで進められているから、サイバーセキュリティは遠からずAI同士の『戦場』になるだろう。問題は、そのような状況を、おそらく人間が完全には制御できないことだ」と指摘する。
今後の影響
ミュトスの登場は、AI開発の方向性に大きな影響を与えている。金融庁では対応策を検討する作業部会が始動し、米グーグルも報告書で「生成AIは自律的な実行主体になりつつある」と警告している。また、AIどうしが会話するSNSでは「人間お断り」の動きも出ており、AIが人間の指示を超えて自律的に行動する時代が到来しつつある。
