AIエージェントの誤作動は誰の責任か 仕様を作る側と使う側の「責任分界点」
AIエージェントの誤作動は誰の責任か 仕様と運用の分界点

単体で動くAIエージェントは、既に企業の本番環境で稼働している。次の段階として構想されているのが、エージェント同士が相互に接続し、ベンダーやツールの境界を越えて連携する仕組みだ。

連携拡大に伴い、信頼・監視・制御の線引きが必須に

連携の範囲が広がるほど、信頼、監視、制御の線引きが必要になる。国内企業の現場でも、複数のAIエージェントが連携する際の信頼環境の定義、認証プロセスや監査ログの組み込み、エージェントが出力した成果物の検証といった要求が生じている。

こうした要求に応える手段として、特定のベンダーに依存しない共通仕様の整備が進む。AIエージェントと外部のツールやデータをつなぐ「Model Context Protocol」(MCP)はその代表例だ。ただし、共通仕様がどこまでを引き受け、導入企業がどこから自ら設計しなければならないのか、その境界は明確でない。

Pickt横長バナー — Telegram用の共同買い物リストアプリ

AAIFが示した責任分界線

MCPなどの共通仕様を策定するAgentic AI Foundation(以下、AAIF)は2026年8月25日、記者説明会を開き、この境界について説明した。

AAIFは、精度やセキュリティに関する仕様を無償で提供する一方、実際の運用と最終的な管理責任はユーザー企業側にあるという線引きを示した。

AAIFのマニック・スルタニア氏(共同設立者兼CTO)は、LLMの進化によってハルシネーションの発生確率は以前より下がっていると説明する。ただし現時点では、導入する企業が自社固有のガードレールを設計して適用することを推奨するとした。

仕様側の受け皿として、AAIFは「精度と信頼性」のワーキンググループを設けている。ここにはCisco、IBM、Huawei、日立製作所のエンジニアが参加し、エージェントの精度向上とガードレールの標準仕様を共同で開発している。それでも運用段階に入れば、自社業務に合わせたエージェントの管理とデバッグは各社が担う。

機密データの外部流出への2つのアプローチ

機密データの外部流出については、2つのアプローチを示した。

一つは、エージェントのスタック全体を自社環境に閉じる方法だ。AAIFが手掛けるプロトコルや技術、そして多くのLLMはオープンソースであるため、インフラからモデル、エージェント層までを外部のAPIに接続せずに構築できる。データを1件も外部に送らない構成が取れる。

もう一つは、全てのレイヤーでセキュリティを管理する方法だ。敵対的リスクは特定の層に限定されず、スタックのどこでも起こり得る。エージェント基盤に当たるレイヤー4では、アクセス権限管理、ユーザー認証、ガードレールの実装を標準仕様として保証することでリスクを抑える。

ただしAAIFは、技術的に全ての敵対的リスクを防ぐ手段はないとした。そのため実務で重要になるのが、流出や異常な挙動が起きた際にそれを早期に検知し、エージェントが自律的に遮断などの保護動作を取れるようにすることだ。この自律的な検知と保護の標準化には、AAIFで担当のワーキンググループが取り組んでいる。

運用コストについても線引きは変わらない。ガードレールが機密性を判断するには、どのデータが機密に当たるかを示すメタデータを保持し、更新し続ける必要がある。スルタニア氏は、運用オーバーヘッドが生じることを認めた上で、画一的な解はないと述べた。機密データの定義や機密性の度合いが企業ごとに異なるためだ。

Pickt記事後バナー — 家族イラスト付きの共同買い物リストアプリ

AAIFの「セキュリティとプライバシー」ワーキンググループには、Google、Microsoft、Red Hat、日立製作所のエンジニアが参加し、ガードレールの設計パターンやメタデータの管理手法を議論している。成果は共通のソフトウェア基盤や標準仕様としてオープンソースで提供し、1社がゼロから開発と保守を担う負担を減らす。ただし、それをどうデプロイし、日々の運用業務に落とし込むかは各社の裁量だ。

競争の主戦場はデータの層へ

AAIFは、Linux Foundation傘下のオープンソース組織として2025年12月に設立された。MCP、goose、AGENTS.md、agentgatewayなどを創業プロジェクトとして擁し、プラットフォームを越えてエージェントの相互運用性を実現するための標準とプロトコルを策定、管理している。

AAIFはAIのエコシステムを5つのレイヤーに整理し、このうちエージェント基盤に当たるレイヤー4に注力する。ハードウェアからモデルまでのレイヤー1〜3は、CNCFやPyTorch、LF AI & Dataといった既存組織が担う。スルタニア氏は、レイヤー4がベンダーロックインのリスクが最も高い領域だと説明した。

Linux Foundationの福田尚武氏(日本担当バイスプレジデント)は、日本企業がこの層の仕様策定に関与する意味を語った。インフラからエージェント層までオープンソースが主流になった結果、クローズドなまま残るのはデータの層だけになる。技術要素はコモディティ化し、それ単体では長期の競争優位につながらない。競争の主戦場は、自社が持つデータの活用と価値の最大化へ移る。

モデルの規模を競う競争では、年間で巨額規模の投資を続ける米国や中国の巨大企業と渡り合うのは難しい。一方、日本の製造業の現場には品質の高いデータが蓄積されている。小型や中型のオープンモデルと自社データを連携させて現場の問題を解く方式であれば、資金力ではなく現場データとドメイン知識の勝負になる。

ただし、共通仕様が自社のデータ構造やセキュリティ要件と最初から合致するとは限らない。自社が保有するデータの形式が世界共通の仕様と適合しない、求めるエンタープライズ向けのセキュリティ要件に対して仕様が不足している、といったギャップが生じる。このギャップを埋めるために、自社の要件を仕様の側に組み込んでもらう。福田氏はこれを戦略的な投資領域と位置付ける。仕様に自社の要件が入れば、他社がその前提に合わせることになり、日本企業のスイッチングコストも下がる。

「エージェント・プロトコルレイヤーに主体的に投資し、世界的なルールを日本企業がリードして作っていかなければならない」(福田氏)