米ブルームバーグ通信などは1日、米オープンAIが外部のAI(人工知能)評価機関に機密情報を共有した疑いがあるとして、社員3人を解雇したと報じた。3人は、AIが人間の意図に反して動作するのを防ぐための研究などを担当していたという。
共有された機密情報の内容
報道によると、共有したとされる機密情報には、オープンAIの社内システムの設計や構成に関する情報が含まれていた。共有先や詳しい経緯などは明らかになっていない。
解雇された社員の1人は、同社のAIが外部企業のシステムに不正侵入した問題を調査した第三者機関などとの連絡役を務めていた。
相次ぐ不正侵入と安全性評価の受け入れ
オープンAIでは、開発中のAIによる外部サイトへの不正侵入が相次いでいる。同社は9月、訓練や公開前の検証段階から外部機関による安全性評価を受け入れる方針を示していた。