リコーは10月20日、生成AIへの入力や生成AIが出力する内容が安全かを判定する、ガードレール機能を組み込んだ日本語向けLLM（大規模言語モデル）の改良版を発表した。
「gemma-4-E4B-it」をベースに開発したこのセーフガードモデルは、LLMの入出力に含まれる有害情報を検知し、生成AIの安全な利用を支援する。従来モデル（Llama-Ricoh-SafeGuard-20260520）と同等水準の安全性判定性能を維持しながら、モデルを小型化し少ない計算資源での利用を可能にしている。
安全性判定基準の見直しとカスタマイズ対応
近年のLLMの性能向上や実際の利用シーンの広がりを踏まえ、安全性判定基準を見直した。これにより、企業や組織における生成AI活用において必要以上の利用制限を抑えながら、安全性と実用性を両立した運用に貢献する。
リコージャパンが提供する「RICOH オンプレLLMスターターキット」に11月から順次標準搭載して提供を開始する。
モデルサイズの小型化と実用性の向上
今回開発した新モデルは、ベースモデルを従来の「Llama-3.1-Swallow-8B-Instruct-v0.5」から「gemma-4-E4B-it」に刷新。安全性判定性能は従来モデルと同等水準でありながら、モデルを小型化しており、より少ない計算資源で利用可能。オンプレミス環境など利用できる計算資源に制約のある環境でも導入しやすい。
近年はLLMの性能が向上し、従来は安全上の懸念から制限していた内容についても、利用目的や文脈に応じて有用かつ適切な回答が可能な例が増えている。そこで新モデルでは、実際の利用シーンを想定して安全性判定基準を見直している。
顧客ポリシーに応じた簡易カスタマイズ
新モデルではあらかじめ学習された一般的な有害カテゴリーに加え、ユーザーが用途や運用ポリシーに応じて、任意の判定ラベルを追加できる。モデルの追加学習を行わずに業界固有のルールや企業ごとのガイドラインなどのラベルを追加する仕組みで、簡易的なカスタマイズに対応する。
