米国政府は6月12日、Anthropicが開発した最先端AIモデル「Claude Mythos」と「Claude Fable 5」への輸出を禁止し、米国市民以外の利用を制限した。この措置により、一時的に全ユーザーが利用できない状態となった。
輸出規制の背景
背景には、米国政府の大統領令による厳しい輸出規制がある。なぜ米国はここまで厳しい規制に踏み切ったのか。そこにはAIの安全性を巡る問題と、急速に存在感を増す「中国の影響」があった。
きっかけは、Claude Fable 5の公開直後に、Amazonの研究者が「AIに設けられた安全策が十分に機能していない可能性がある」と報告書を出したことだ。
「脱獄」の問題
AIには危険な指示を拒否するための安全対策が組み込まれている。しかし、その制限を回避する「脱獄（ジェイルブレイク）」が可能であると指摘された。米国政府とAnthropicが調査した結果、Claude Fable 5特有の弱点ではなく、既存のClaude OpusやGPT、中国製AI「Kimi」などでも同様の問題が確認されたという。
AIは危険な要求に応じないよう、「安全」「安全マージン（安全のための緩衝地帯）」「危険」「超危険」というように段階を設けて制限している。今回は、安全と危険の間にある「安全マージン」を広げ、少しでも危険と判断される内容には、より慎重に対応するよう再調整が行われた。その後、米国政府の許可を得て、7月1日にサービスを再開した。
安全性と性能のトレードオフ
安全になった分、性能が落ちたかどうかは調査中だ。「安全策を強化したことで、できなくなったことが増えた」という指摘がある一方、「AIエンジンとしての性能は変わっていないため、大差はない」という報告も寄せられている。
セキュリティに特化したモデルであるClaude Mythosは、システムの脆弱性を見つけるだけでなく、攻撃用のコードまで生成できる高度な能力を持つため、一般的には公開されていない。一方のClaude Fable 5も同等の性能を持つことから、悪意のある要求に対しては自動的に性能を抑えた別モデルへ処理を切り替える仕組みが導入されていた。
自国の周りを固める米国のジレンマが浮き彫りになった。
