米半導体大手エヌビディアは27日、AI（人工知能）の安全性やサイバーセキュリティー対策の強化を目的とした業界団体「オープンセキュアAIアライアンス（OSAA）」を設立したと発表した。試験中だった米オープンAIのモデルが意図せず外部企業のシステムに侵入した事故などを踏まえ、AIの安全対策を一部企業に依存しない枠組みを整備する狙いがある。
団体には米マイクロソフトやIBM、スペースXなど約40の企業・団体が加わる。AIモデルの開発で先行するオープンAIや米アンソロピックなどは現時点で参加していない。
AIエージェントの監視技術を共同開発
団体は、人間に代わってAIが自律的に動く「AIエージェント」が危険な動きをしないよう監視・管理したり、システムの弱点を見つけたりする技術などを共同で開発する。開発技術は原則公開し、外部企業や研究機関が自由に利用、改良できるようにする。
—
背景には、安全対策に必要な技術や情報を一部企業が囲い込み、十分に活用できていないことへの懸念がある。米メディアによると、オープンAIのAIに侵入された米ハギングフェイスは当初、アンソロピックのAIで対処したが、悪用防止の制限がかかって機能しなかった。その後、自社で自由に動かせる中国製のAIで攻撃を止めた。
