大規模言語モデル（LLM）は、自然な文章で質問に答える一方で、ときにもっともらしい誤りを返すことがあります。なぜ、流暢な応答と事実の正しさは一致しないのでしょうか。書籍『Pythonによるディープラーニングと生成AI・LLM』（François Chollet、Matthew Watson著）を手がかりに、LLMのハルシネーション（もっともらしい誤り）を「文脈」と「補間」という2つの視点から読み解きます。
LLMは何を手がかりに、もっともらしい答えを作るのか
LLMを日々の業務で使っていても、その中身は多くの人にとってブラックボックスのままです。淀みなく回答が返ってくる一方で、なぜそう答えたのかは見えません。
手がかりになるのは、モデルが言葉をどう捉えているかという「文脈」の扱いと、蓄えた知識をどう引き出しているかという「補間」の考え方です。これらをたどると、LLMが賢く見える理由と、もっともらしく間違える理由とが、実は同じ仕組みから派生していることが見えてきます。
Attentionとは何か - 言葉の関係から文脈を捉える仕組み
私たちが使う言葉は、同じ単語でも周囲の語によって意味が変わります。たとえば「station」という英単語は、鉄道の駅を指すこともあれば、文脈によってはラジオ局や物流拠点などの施設を意味することもあります。
人間は前後の語から、その都度ふさわしい意味を選び取っています。この「周囲の語との関係から意味を捉える」処理を担うのが、Transformerの中核にあるAttention、とりわけSelf-Attentionと呼ばれる仕組みです。
Attention は、シーケンスが自分自身に注意を向ける目的でも利用できるのです。
multi_head_attention(key=source, value=source, query=source)これは Self-Attention と呼ばれる非常に強力な仕組みです。Self-Attention により、各トークンは自身を含むシーケンス内のすべてのトークンに注意を向けることができ、その結果、文脈を考慮した単語表現を学習できるようになります。
このように、Self-Attention は、単語を孤立した存在として表現する段階から、シーケンス内の他のすべてのトークンを条件として単語を表現する段階へと移行するための手段を提供します。
同書はこの仕組みを、Pythonで翻訳モデルを動かしながら説明しています。上で引用した1行のコードは、同じ入力に3つの役割を与えることで、文が自分自身に注意を向けるようにする指定です。ここで大切なのは、各単語が文中の他のすべての語との関係のなかで表現されるという設計です。LLMが文脈をふまえた自然な応答を返せる背景には、この「文脈を考慮した表現」があります。
著者の見方 - Transformerは「補間するデータベース」
では、こうして文脈を捉えたモデルは知識をどのように蓄え、引き出しているのでしょうか。同書の著者はTransformerを一種のデータベースになぞらえています。ただし、私たちがふだん使うデータベースとは情報の持ち方が根本的に異なります。
1つ目の違いは、Transformer が連続的かつ補間的なデータベースであることです。データは離散的な要素の集合として保存されるのではなく、ベクトル空間――つまり、曲線として保存されます。
通常のデータベースは、保存された候補のなかから条件に一致するものを探し出す用途で使います。いわば、決まった引き出しを開けて、目的の中身を取り出すような検索です。
一方、著者が示すTransformerの姿は、情報をベクトル空間という連続した「地図」の上に配置し、その座標の間をなめらかにたどって答えを組み立てるものです。地図上の2点の中間を取れば、その中間的な意味を持つ点が得られる――これが「補間」という考え方です。
補間はなぜ、汎化とハルシネーションの両方につながりうるのか
この補間という性質はLLMに大きな柔軟性を与えます。学習時と同じ形ではない問いにも、近い意味の点をたどることで、それらしい答えを組み立てられるからです。同書は、補間について次のように述べています。
この性質により、Transformer は与えられた情報以上のものを引き出すことができます。ただし、そのすべてが正確で意味のあるものとは限りません。補間は汎化をもたらすことがありますが、同時にハルシネーションを引き起こす原因にもなります。
汎化とハルシネーションが同じ「補間」から生じうる、というのが著者の見立てです。地図の空白地帯にも座標は引けてしまうため、モデルは実在しない情報を、まるで実在するかのような流暢さで示すことがあります。著者は、章の締めくくりで次のように記しています。
しかし忘れてはならないのは、これらのモデルは本質的に補間的であることです。Attention のおかげで、Transformer は英語で書かれたテキストの大部分をカバーする、補間的な埋め込み空間を学習します。この埋め込み空間を探索すると、興味深く予想外の汎化につながることがありますが、まさに人間レベルの知能に匹敵するような、根本的に新しい何かを合成することはできません。
ここから見えてくるのは、ハルシネーションが単なる故障ではない、という著者の視点です。未知の入力にも応答できる汎化の力と、もっともらしい誤りとは、同じ補間という性質の表と裏にあると考えられます。これは、ハルシネーションに対処できないという意味ではありません。
ただ、LLMの文章を読むときには、自然に読めることと、内容が事実であることを分けて考える必要があります。LLMは正解をそのまま取り出す箱ではなく、学習した関係からもっともらしい応答を組み立てる仕組みでもある――その見方が、出力との向き合い方を変える出発点になります。
