AIエージェントの失敗、責任は誰に? 経営陣までインシデント到達は8割:IBM調査
AIエージェント失敗時の責任は誰に? IBM調査で8割が経営陣まで到達

IBMが2026年10月14日(現地時間)に発表した調査結果によると、欧州と中東の企業の8割で、AI(人工知能)に関連するインシデント(障害や事故)が経営陣や取締役会にまで到達していることが分かった。しかし、それを受けてガバナンス(統治)の見直しを行った企業は4割にとどまる。自律化が進むAIエージェントが失敗した場合、誰が責任を負うのかが問われている。

調査の概要とインシデントの実態

この調査は、英国やドイツ、サウジアラビアなど8カ国の経営幹部3200人超を対象に実施された。回答者の80%が「過去1年間にAI関連のインシデントが自社の取締役会や経営幹部にまで達した」と答えている。インシデントには、AIエージェントの障害やデータ漏えい、AIによる判断の誤り、AIのセキュリティ被害が含まれる。

インシデントを受けてAIガバナンスの方針や体制を変更した企業は、そのうちの40%だった。体制面では、回答者の98%が「自社の取締役会レベルでAIリスクの責任を正式に割り当てている」と回答した。一方で、2027年までにAIエージェントが判断にある程度の自律性を持つと見込む回答者は75%に上る。

責任の所在は明確でない

AIエージェントが不利益な結果を招いた場合に誰が責任を負うのかについて、回答者の間で明確な合意は見られなかった。最も多く挙がった役職はCIO(最高情報責任者)またはCTO(最高技術責任者)だが、選んだ回答者は全体の17%にとどまる。IBMが公開した調査レポートによると、2番目に多かったのは経営陣全体で責任を共有するという回答(14.5%)だった。

IBMは同レポートで、取締役会にAIリスクの責任を割り当てても、AIエージェントが不利益な結果を招いた際に誰が責任を負うのかは決まらないとしている。AIシステムが重大な損害を引き起こした場合の法的責任についても、回答は分かれた。AIを導入した企業とベンダーで応分に負担すべきだとする回答は20%、一般論では答えられないほど複雑だとする回答と、適切な規制の枠組みがまだ存在しないとする回答がそれぞれ19%、特定の経営幹部個人が負うべきだとする回答は15%、AIベンダーや技術の提供者が負うべきだとする回答は14%だった。

必要な対策と今後の展望

2027年までに、人間が各段階で確認しなくても判断を下すAIエージェントを管理するために、経営幹部は次の4つが必要になると見込んでいる。

  • AIエージェントの障害に対するAIベンダーの責任を定める、法的または契約上の枠組み(33%)
  • 人間にエスカレーションする基準の明確化(32%)
  • AIエージェントの判断と行動のリアルタイム監視と監査証跡(30%)
  • 全社でAIエージェントの活動を即座に停止できる機能(29%)

IBMは、経営陣に報告されたインシデントがどう扱われたかも調査した。調査レポートによると、インシデントが取締役会や経営幹部に達したと答えた回答者のうち、そのレベルで正式に審議されたとする回答は43%、非公式に伝えられたとする回答は37%だった。インシデントの主な結果としてガバナンス方針の変更を挙げた回答は40%で、投資計画や導入計画の変更(38%)や外部アドバイザーの起用(37%)、規制当局への通報(35%)も同程度だった。

AIの導入ペースがガバナンスやコンプライアンスの枠組みの準備を上回った場合の対応を尋ねた設問では、56%が合意済みのリスク許容範囲内で導入を続けると答えた。ガバナンスが整うまで導入を見送るとした回答は33%だった。エージェンティックAIを既に本番環境で運用している回答者は35%だった。現在のガバナンスの仕組みがエージェンティックAIの開発規模の拡大に対応できるように設計されていると答えた回答者は37%だった。

その他の主な調査結果は次の通り。

リスク管理の体制と定量化

54%が生成AIツールとエージェンティックAIを別のリスク区分として扱い、それぞれ個別の体制で管理している。38%は共通の体制を使い、エージェンティックAIには追加の管理策を適用している。一方、AIガバナンスの不備が生む財務リスクを正式に定量化し、取締役会の審議を経ているのは37%だった。

サプライチェーンのリスク

54%が、主要ベンダーや技術パートナー、サプライチェーンの参加者が使うAIシステムやモデルを、自社のガバナンスの体制で十分にカバーできていないと認めた。第三者によるAIリスクを継続的に監視しているのは21%、独立した保証や認証を要件にしているのは13%だった。

地域による違い

EUでは、2027年12月に適用が始まる「EU AI法」(AI Act)の高リスクAIに関する主要な義務を前に、41%がガバナンスへの投資を前倒ししている。35%は体系的なコンプライアンス計画に沿って準備を進めている。EU以外の地域でガバナンス投資の動機として最も多く挙がったのは、英国では業界ごとの規制当局の要請(27%)、サウジアラビアとアラブ首長国連邦(UAE)では国家AI戦略の要件(61%)だった。

調査は、市場調査会社CensuswideがIBMの委託を受けて2026年9月14日から24日に実施した。英国、フランス、ドイツ、イタリア、スペイン、オランダ、サウジアラビア、UAEの従業員1000人以上の組織を対象に、Cレベル(CxO)を含む経営幹部3221人が回答した。調査結果の詳細は、IBMが2026年10月に公開した調査レポート「The New Realities of AI Governance」にまとめられている。