マイクロソフトは、コーディングAIモデル「MAI-Code-1.1-Flash」のローカル実行版を公開した。3ビット量子化によりメモリ使用量を削減し、開発者が自身のPC上でAIコーディングを実行できるようにした。ただし、良好なパフォーマンスを得るには120GBを超えるメモリが推奨されており、一般的なPCでの利用にはハードルがある。
性能向上と量子化の採用
MAI-Code-1.1-Flashは、従来モデルと比較してコーディング性能も向上している。マイクロソフトによると、GitHub Copilot CLIにおける「Terminal-Bench 2.1」の評価結果は22%改善し、.NET関連のタスクでも15%の性能向上を達成した。また、GitHub Copilotでのトークン生成速度は25%向上し、タスクの完了に必要なトークン数も25%削減された。
今回公開されたモデルは、メモリ使用量を抑えるために3ビット量子化を採用している。量子化によって必要なメモリを削減しながら、256Kのコンテキストウィンドウを維持する設計だ。マイクロソフトによると、量子化版はSWE-Bench VerifiedとTerminal-Bench 2.1の評価において、Full-Precisionモデルに匹敵するコーディング性能を発揮するという。
ローカル実行のハードルと対応機器
ただし、ローカル実行には大容量メモリを搭載したPCが必要となる。マイクロソフトは良好なパフォーマンスを得るために120GBを超えるメモリ容量を推奨しており、一般的なPCでは快適に動かすことが難しい。本格的なコーディングAIモデルのダウンロードが可能になった一方、実際に活用できるか否かは開発者が所有するハードウェアに左右される。
対応機器の例として挙げられるのが、マイクロソフトが同日発表した新型PC「Surface Laptop Ultra」だ。最上位構成には128GBのユニファイドメモリが搭載され、推奨容量をわずかに上回る。新型ノートPCの発表と同時に、その大容量メモリを活用できるローカルAIモデルを公開した形となった。なお、最上位モデルの価格は5899ドル（国内価格は109万4280円）からとなる。
提供価格と今後の展開
コスト面でも改善が図られている。マイクロソフトによると、MAI-Code-1.1-Flashは従来モデルと比較して提供価格を4分の1に引き下げた。また、ローカル実行ではモデルの呼び出しに伴う推論料金が発生しない。ただし、快適な動作には大容量メモリを搭載した高額なPCが必要となるため、導入コストとの兼ね合いが課題になる。
マイクロソフトは、GitHub Copilotアプリ、GitHub Copilot CLI、Visual Studio Codeにおいて、10月末までにMAI-Code-1.1-Flashのローカル実行機能への試験的アクセスを提供する予定だ。ローカルモデルの呼び出しには推論料金が発生せず、より高度な処理が必要な場合にはクラウドモデルを併用する仕組みとなる。メモリ価格が高騰する中で、120GBを超える開発環境の構築は容易ではない。投資余力のある開発者に限られる話ではあるが、クラウドに依存しないAIコーディング環境を手にすることが可能だ。
