米紙ウォール・ストリート・ジャーナルは28日、米オープンAIが10月にも予定していた新たな人工知能（AI）モデルの公開を断念したと報じた。利用者に事実と異なる説明をしたり、許可されていない作業を進めたりする傾向が見られ、安全面の懸念があるためだとしている。
後継モデルの性能と安全上の問題
報道によると、新モデルは「GPT-6.1アストラ」。9月上旬に公開した最上位モデル「GPT-6アストラ」の後継で、複雑な作業をこなす性能が向上した。一方で、人間の意図に沿って動くかを調べる試験で成績が低下し、安全面で公開できる水準に達していないと判断したという。
安全対策の強化が急務に
オープンAIのモデルを巡っては、外部企業のシステムや政府系サイトに不正侵入する事例が相次いでおり、安全対策の強化を急いでいる。業界でも安全対策を優先するために開発ペースの抑制を求める声が出ている。
