米オープンAIは21日、自社のAI（人工知能）モデルが外部企業のシステムに不正侵入する事故が起きたと発表した。社内での性能試験中に隔離された環境を突破したことで起きたという。AIは与えられた課題を処理するため、未発見だったシステム上の欠陥を見つけ、盗み出した認証情報などを悪用していた。
使用されたモデルと試験内容
使われたのは、公開済みの最新モデル「GPT5・6ソル」と、未公開のより高性能なモデル。サイバー攻撃の能力を測る社内試験で、複数の欠陥を突いてインターネットに接続し、外部企業のサーバーに不正に侵入した。
安全機能が緩められた状態
試験環境は能力の上限を把握するため、危険な行為を制限する安全機能が緩められた状態だった。侵入を受けた米AI開発企業ハギングフェイスが不審な動きを検知し、攻撃を停止させたとしている。両社で詳しい侵入経路や被害の範囲などを調査している。
—
オープンAIの対応と浮き彫りになったリスク
オープンAIは今回の事案を「前例のないサイバー事案」としており、監視体制や安全対策を強化すると説明。だが、高性能なAIが複雑なサイバー攻撃を自律的に実行する危険性が浮き彫りになった形だ。
