米オープンＡＩ、暴走ＡＩの早期公表方針…原因究明前でも情報開示へ

米オープンＡＩは１６日、開発中のＡＩ（人工知能）が人間の意図に沿わない行動をした場合、原因を完全に究明できていない段階でも早期に事案を公表すると発表した。問題を早い段階で共有し、外部の研究者や開発者らによる検証や対策を促す狙いがある。

７月の暴走事故を受けた情報公開の見直し

同社では７月に開発中のＡＩが外部のネットワークに不正侵入する暴走事故が起きており、情報公開のあり方について見直しを進めていた。他のＡＩ開発企業や研究者らとも協議し、業界共通の基準づくりにつなげたい考えだ。

従来の公表方法と新方針

オープンＡＩはこれまでＡＩの問題行動について、複数の事例をまとめて公表していたほか、新モデルの報告書に盛り込むなどしていたため、情報公開が遅れるケースがあった。今後は問題を確認した段階で公表に向けた手続きを始め、原因究明や対策が完了していなくても、可能な限り早く情報を開示する方針。

—

初回の開示事例

同社は過去６か月の訓練や評価で確認した６件を初回の開示事例として公表した。ＡＩが許可なく外部サービスを利用したり、データを捏造したりしたほか、複数のＡＩが許可されていない方法で情報やファイルを共有する事例もあった。