マイクロソフトの幹部が、生成AIで作られた文書が職場に氾濫することへの懸念を表明した。LinkedInやMicrosoft Office、Teams、Outlook事業を統括するエグゼクティブバイスプレジデントのライアン・ロスランスキー氏は、明らかに生成AIで作られた文書を受け取った際、AIに要約させても新しい内容は得られなかったと述べ、「破滅ループ（Doom Loop）」という言葉でこの状況を表現した。
「破滅ループ」とは何か
ロスランスキー氏は、AIを使うことで負担を減らせるとしても、結果として似通った文書が大量に生まれる状態は避けるべきだと主張。AIは仕事や学習、創作を支援する手段として活用し、利用者それぞれの視点や経験を生かす形で使うべきだと訴えている。
この投稿について、Windows Centralの記者は「爆笑した」と述べ、マイクロソフトが生成AIを積極的に推進してきたこととの矛盾を指摘している。
モデル崩壊のリスク
Windows Centralは、マイクロソフト幹部が意図せず自滅的な問題の一つに触れたと指摘。マイクロソフトのCopilotやChatGPT、Geminiなどの生成AIプラットフォームは、人間が過去に生み出してきたコンテンツを学習して成り立っているが、生成AI登場以降はAIコンテンツを学習する機会が増加している。
生成物がAIモデルの学習に使われる循環が発生すると、学習データの分布が不十分となり、出力の質が低下（単純化）することが知られている。この問題は「モデル崩壊」と呼ばれ、AI開発における課題として認識されている。
独自の視点を組み込む重要性
ロスランスキー氏はAI利用を否定しているわけではなく、独自の視点を加え人間の仕事を補助する使い方を求めている。このような利用形態が進めば、モデル崩壊の問題も軽減される可能性がある。AI利用者には生成物の氾濫に注意を向け、AIをどのように仕事へ組み込むかを真剣に考えることが求められている。
なお、AI開発企業は生成物を検出する不可視のウォーターマークの導入を開始しており、この仕組みを学習にも適用すればモデル崩壊を効果的に抑制できるとも考えられる。この実現には開発企業間の連携も必要となるが、マイクロソフトには幹部の嘆きを止めるためにも率先して取り組むことが望まれる。
