「世界の次」を予測するAIは、意味を理解できるのか: ワールドモデルとLLMの先にあるもの

哲学

「LLMの次は、ワールドモデルだ」と言われることがあります。

LLM、つまり大規模言語モデルなら、ChatGPTやClaude、Geminiなどで広く知られるようになりました。では、ワールドモデルとは何でしょうか。

よく使われる説明は、とても簡潔です。

LLMは「言葉の続きを予測する」。ワールドモデルは「世界の続きを予測する」。

分かりやすい対比です。しかし同時に、「世界の続きを予測するとは、いったいどういうことなのか」という疑問も浮かびます。

現実の世界では、コップ一つを持ち上げるだけでも、重さ、摩擦、指の力、机との距離など、多くの条件が関係します。人間の行動や社会まで含めれば、未来を完全に予測することなどできません。それでもAIは、世界の次を読もうとしています。

この試みを追っていくと、話は新しいAI技術だけでは終わりません。「何を考え、何を無視すればよいのか」「過去から未来を予測できるのはなぜか」「記号に意味が宿るとはどういうことか」という、古い哲学の問題へ行き着きます。

ワールドモデルを考えることは、AIの未来を考えることであると同時に、人間の知能を考え直すことでもあるのです。

ワールドモデルは、世界の「縮図」を作る

ワールドモデルとは、AIが環境の仕組みを内部に学び、「この状態で、この行動をしたら、次に何が起こりそうか」を予測するためのモデルです。

たとえば、ロボットがテーブルの上のコップをつかもうとしているとします。ロボットは実際に腕を動かす前に、いくつかの可能性を内部で試せます。

  • 正面からつかめば持ち上がるかもしれません。
  • 横から強く押せば倒れるかもしれません。
  • 指の位置がずれれば落とすかもしれません。

予測した未来を比べることができれば、失敗しにくい行動を選べます。いわば、現実で試す前に「頭の中」で試すのです。

この発想自体は、LLMの登場後に突然生まれたものではありません。AI、ロボット工学、強化学習、認知科学では以前から、環境の内部モデルが研究されてきました。2018年にデイビッド・ハとユルゲン・シュミットフーバーが発表した論文『World Models』では、AIが環境を圧縮して学び、その内部で生成した「夢」のような世界の中でも行動を訓練できることが示されています。

近年は、対象がさらに大きくなりました。Google DeepMindのGenie 3は、文章から操作可能な仮想世界をリアルタイムで生成するワールドモデルとして紹介されています。NVIDIAのCosmosは、映像などから未来の状態を生成し、ロボットや自動運転の訓練に使う「ワールド基盤モデル」を掲げています。

ただし、映像を生成できれば、それだけで世界を理解したことになるわけではありません。見た目の自然な動画と、行動の結果を正しく予測できるモデルは、重なる部分があっても同じではありません。大切なのは、画像の美しさよりも、時間、空間、物体、行動、因果らしき関係を、計画に役立つ形で捉えられるかどうかです。

そのためワールドモデルの本領は、動画生成だけでなく、ロボット制御、自動運転、ゲーム内のエージェント、そして現実空間で動くフィジカルAIにあります。

「LLMの次」という言い方も、完全な世代交代を意味するわけではありません。言語モデルを捨ててワールドモデルへ移るというより、言語、画像、動画、センサー、行動を扱うモデルが結びつきつつある、と考えるほうが実態に近いでしょう。

世界を予測するには、何を無視すればよいのか

世界には、同時に起こり得ることが多すぎます。

コップを持ち上げたら、コップの位置は変わります。中に水があれば、水面も揺れます。しかし、部屋の壁の色は普通変わりません。天井の高さも変わりません。隣の家の冷蔵庫の中身も、おそらく関係ありません。

人間は、こうした無関係な可能性をいちいち検討しません。ところが機械に世界の変化を論理的に記述させようとすると、「変わること」だけでなく、「変わらないこと」をどう扱うかが大問題になります。

これが、AI研究で古くから知られるフレーム問題の出発点です。

哲学者ダニエル・デネットは、この難しさを爆弾とロボットの寓話で説明しました。

ある部屋に、ロボットR1の予備バッテリーがあります。ところがバッテリーは台車の上にあり、その台車には時限爆弾も載っています。R1はバッテリーを救い出そうとして台車を引きますが、爆弾も一緒に運び出してしまい、失敗します。

そこで、行動の副作用まで推論する改良型R1D1が作られます。

今度こそ成功するように思えます。しかしR1D1は、台車を引いた結果として起こり得ることを次々に調べ始めます。壁の色は変わらない。天井も落ちない。部屋のドアの数も変わらない。関係のないことまで延々と検討しているうちに、爆弾は爆発してしまいます。

最初のロボットには考慮が足りませんでした。次のロボットは考慮しすぎました。

ここで必要なのは、単なる知識量ではありません。いまの目的に照らして、何が重要で、何を無視してよいかを選ぶ能力です。

フレーム問題は、もともとは行動によって変化しない事実を、論理体系の中で効率よく表現する技術的な問題でした。しかし哲学では、より広い問いへ発展しました。

知的な存在は、無限に近い可能性の中から、どうやって「関係のあること」だけを選んでいるのでしょうか。

世界モデルがどれほど大量の未来を生成できても、どの未来を検討すべきか決められなければ、爆弾の前で考え続けるロボットになってしまいます。

AIが出会う、ヒュームの古い難問

この問題は、18世紀の哲学者デイヴィッド・ヒュームの議論と不思議なほどよく似ています。

その前に、経験論の流れを簡単に確認しておきましょう。

ジョン・ロックは、人間の心に生まれつき完成した知識が書き込まれているという考えに反対し、経験を重視しました。心は最初、「タブラ・ラサ」、つまり何も書かれていない板のようなものだという有名な比喩です。

ヒュームは、この経験論をさらに徹底しました。私たちが「自分」と呼ぶものさえ、変わらない実体として直接経験されるのではなく、次々に現れる知覚の束として捉えられます。

そしてヒュームは、因果関係と帰納に疑問を向けました。

ビリヤードの球Aが球Bに衝突し、その後でBが動いたとします。私たちはAの衝突がBの運動を「引き起こした」と考えます。しかし、目に見えるのはAが動き、接触し、その後でBが動いたという出来事の並びです。「原因」と「結果」を結ぶ必然性そのものが見えているわけではありません。

同じような出来事を何度も経験するうちに、私たちの心には「次も同じことが起こるだろう」という期待が生まれます。ヒュームによれば、その期待を作るのは純粋な論理ではなく、習慣です。

太陽がこれまで毎朝昇ったからといって、明日も昇ることを過去の経験だけから論理的に証明することはできません。「これまで同じだったのだから、これからも同じだ」と考えるとき、すでに私たちは、未来が過去と似ていることを前提にしています。

これは帰納の問題と呼ばれます。

AIの学習も、過去のデータから規則性を見つけ、まだ見ていない事例へ当てはめます。では、その規則は新しい状況でも通用するのでしょうか。どの特徴を残し、どの違いを無視すればよいのでしょうか。

ジェームズ・H・フェッツァーは1990年の論文『The Frame Problem: Artificial Intelligence Meets David Hume』で、フレーム問題をヒューム的な問題と結びつけました。これはフレーム問題についての唯一の解釈ではありません。それでも両者には、「過去から未来へ、どのように知識を持ち越せるのか」という共通の難問があります。

人間もAIも、世界のすべてを証明してから行動しているわけではありません。限られた経験から期待を作り、ほとんどの可能性を無視し、ときには間違えながら先へ進みます。

それでもLLMが、これほど賢く見える理由

ここで、いったん言語モデルへ戻ります。

LLMの基本的な仕事は、文脈から次のトークンを予測することです。それだけ聞くと、単純な自動入力補完のように思えます。なぜ、その仕組みから、質問への回答、翻訳、要約、プログラミング、文章作成までできるAIが生まれたのでしょうか。

大きな転機の一つが、2017年に発表されたTransformerです。

Transformerの中心にあるAttentionは、文脈内のどの部分とどの部分が強く関係するかを計算する仕組みです。

たとえば、次の文を読んでください。

太郎は花子に本を渡しました。彼女はすぐに読み始めました。

「彼女」が誰を指すか考えるとき、「花子」や「本を渡した」という部分が重要になります。文章中のすべての文字が、同じ重みで関係するわけではありません。Attentionは、こうした離れた位置の関係を学習によって捉えます。

「Transformerは文章全体を見る」と説明されることがあります。入門的には分かりやすい表現ですが、正確には、モデルが参照できるコンテキストの範囲内で、各部分の関係を計算します。文章を生成するときは未来のトークンをまだ知りません。それでも、以前の方式に比べて離れた位置を直接結びつけやすく、多くの位置を並列に学習できたことは、大きな前進でした。

ただし、現在の生成AIの賢さをTransformerだけで説明することはできません。同じ基本原理のエンジンを積んだ車でも、車体、タイヤ、空力、制御ソフト、調整の仕方が違えば、走りは大きく変わります。

生成AIも同じです。

  • 学習データの量と質
  • データを学ぶ順番と学習方法
  • モデルの大きさと設計上の改良
  • 人間のフィードバックを使った調整
  • 数学やプログラミングなどの追加学習
  • 検索、計算、記憶といった外部ツール
  • 回答時に候補を検討し、見直す仕組み

こうした要素が積み重なって、最終的な能力が生まれます。

大量の文章を読む事前学習が「基礎教育」だとすれば、その後には専門教育や家庭教師による指導が続きます。私たちが使っている生成AIは、単体のTransformerというより、学習と推論の工夫を組み合わせた複合的なシステムなのです。

学習とは、予測を外して少し変わること

LLMの学習を、ごく単純化した例で考えてみます。

私は毎朝コーヒーを飲む。

モデルに「私は毎朝コーヒーを」まで与えたところ、次に「食べる」を強く予測したとします。しかし学習データ上の正解は「飲む」です。

そこで、予測と正解のずれを数値にします。そして、そのずれが少し小さくなる方向へ、モデル内部のパラメーターを調整します。

予測する → 誤差を測る → 少し修正する → もう一度予測する

この循環を、膨大なデータについて繰り返します。

もちろん、実際の学習は「コーヒーには『飲む』と答えなさい」という一行の規則を保存する作業ではありません。多くの文章をまとめて計算し、候補全体の確率分布のずれを小さくします。人間が一問ずつ横について、間違いを直すわけでもありません。

それでも基本の考え方は、予測を外し、その誤差によって少し変わる、というものです。

ここにもヒュームとの奇妙な響き合いがあります。繰り返しによって「次はこうなる」という傾向が作られるからです。ただし、ヒュームの人間論とニューラルネットワークの学習を、同じ仕組みだと断定することはできません。似ているのは、あくまで問題の形です。

AIが読んでいるのは、「単語」ではない

この学習の入口にあるのが、トークンです。

トークンは、よく「AIにとっての単語」と説明されます。しかし、それは正確ではありません。

一つの単語が一つのトークンになる場合もありますが、長い単語や珍しい固有名詞が複数に分割されることもあります。反対に、よく現れる文字の並びが一つにまとめられることもあります。句読点、数字、空白、単語の一部分が、それぞれ別のトークンになる場合もあります。

日本語では、人間から見ると不自然な位置で、漢字やひらがなが分かれることさえあります。

なぜ、わざわざ中途半端な単位を使うのでしょうか。

一文字ずつ処理すれば、どんな新語でも表せます。しかし文章の列が長くなり、計算が増えます。単語をそのまま辞書に登録すれば列は短くなりますが、未知の固有名詞、活用形、複合語に対応しにくくなり、辞書も巨大になります。

そこで使われるのが、文字と単語の中間にあるサブワードです。

BPEは代表的な方法の一つです。細かな記号から始め、データの中で頻繁に隣り合う組み合わせを順にまとめていきます。SentencePieceは、文章をあらかじめ人間の判断で単語分割しなくても、生の文字列から処理単位を学習できます。

つまりトークンは、言語学者が「これは一つの意味を持つ単語です」と決めた単位ではありません。大量のデータから、モデルが扱いやすいよう情報工学的に作られた単位です。

トークンは、単語ではありません。

この違いは、AIの意味理解を考えるうえで重要です。人間が文章の中に見ている単語や概念と、AIへ最初に渡される部品は一致していないからです。

ただし、「トークンが単語ではないのだから、AIには単語も意味も表現できない」と結論することもできません。モデルはトークンをそのまま孤立して扱うのではなく、組み合わせと文脈から内部表現を作ります。私たちも、紙の上のインクの形を、そのまま意味として受け取っているわけではありません。

重要なのは、入力の単位と、その組み合わせから生まれる表現を区別することです。

トークン料金は、意味の料金ではない

生成AIのAPIなどで見かける「入力100万トークン当たり」「出力100万トークン当たり」という料金のトークンも、この処理単位です。

入力した文章はトークナイザーによってトークン列へ変換され、AIが生成した文章もトークンとして数えられます。したがって、同じ文字数でも料金が同じになるとは限りません。言語、記号、数字、固有名詞、トークナイザーの違いによって分割が変わるからです。

ここで、「AIは文字数ではなく、トークン数で文章を理解している」と言いたくなります。しかし、もう少し正確に分けたほうがよいでしょう。

AIは文章をトークン列として処理します。サービスは、その数を計算量の目安として課金します。しかし、トークン数がそのまま理解の量を表すわけではありません。

トークン料金は、処理の料金です。意味の料金ではないのです。

意味のある文章を作れば、意味を理解したことになるのか

ここから、技術の話は哲学の話へ変わります。

LLMが出した文章を人間が読み、「意味がある」と感じることは確かです。しかし、意味のある出力が作られたことと、出力したシステム自身が意味を理解していることは同じでしょうか。

プリンターを考えてみます。

プリンターは、カントやヒュームの哲学書を印刷できます。印刷された本には意味があります。その本を読んで、人生観が変わる人もいるかもしれません。

しかし、プリンターがカントやヒュームを理解しているとは、普通は考えません。

では、LLMも非常に高度なプリンターにすぎないのでしょうか。

この比喩には限界があります。プリンターは、受け取った記号をほぼそのまま紙へ写します。LLMは文脈によって内部状態を変え、学習した関係を使い、入力にはなかった文章を構成します。翻訳、要約、類推、プログラミング、計画もできます。両者の働きの複雑さは明らかに違います。

それでも、プリンターの例が突きつける問いは消えません。

記号を巧みに変換する能力は、どの時点から「意味の理解」になるのでしょうか。

外から見た振る舞いが十分に人間らしければ、理解していると認めてよいのでしょうか。それとも、意識、意図、身体、世界との経験のようなものが必要なのでしょうか。

ジョン・サールの「中国語の部屋」は、規則に従って未知の記号を正しくやり取りできても、その記号を理解しているとは限らない、と問題を提起しました。スティーヴァン・ハーナッドの「記号接地問題」は、記号の意味が別の記号にしかつながっていないなら、その意味はどこで世界に結びつくのかを問います。

中国語を中国語だけで説明する辞書を、意味を知らないまま延々と引き続けるようなものです。記号が現実の物体、感覚、行動と結びつかなければ、意味はシステムの外にいる人間から借りているだけではないか、という疑いが残ります。

ウィトゲンシュタインなら、LLMをどう見るでしょうか

後期ウィトゲンシュタインは、語の意味を、何か見えない対象が言葉の奥に貼りついているものとして捉えませんでした。『哲学探究』の考えは、しばしば「言葉の意味とは、その使用である」と要約されます。

この立場から見ると、LLMは意味にかなり近いようにも思えます。膨大な用例を学び、「銀行」が口座や融資と結びつく文脈と、川岸を指す文脈を使い分けられるからです。言葉の使われ方を学ぶことこそ、意味を学ぶことではないでしょうか。

しかし、すぐに二つの問題が現れます。

一つ目は、LLMが直接処理するのは、人間にとっての単語ではなくトークンだということです。ただし、これは決定的な反論ではありません。トークンの組み合わせから、単語や文に対応する内部表現を作れるからです。

より根本的なのは、ウィトゲンシュタインのいう「使用」が、文章内の出現パターンだけを意味しないことです。

人間は、命令し、約束し、謝り、冗談を言い、質問し、返事を待ちます。言葉は、目的、規則、身体的な行為、他者との関係を含む「言語ゲーム」の中で使われます。そして言語ゲームは、人間の生活形式に埋め込まれています。

LLMは、その活動が言葉として記録されたものを大量に学びます。しかし、ゲームの記録から使い方を再現することと、当事者としてゲームに参加することは同じでしょうか。

たとえば「約束します」という文を正しい場面で生成できても、約束を破った責任を負わない存在は、人間と同じ意味で約束をしているのでしょうか。

LLMにウィトゲンシュタインの意味論を当てはめるなら、単に「用例を学んでいるから理解している」と言うだけでは足りません。そのAIが、どのような実践に参加し、どのような規則に従い、世界や他者とどう関わるのかまで問う必要があります。

身体を持てば、意味は世界につながるのか

ここでワールドモデルへ戻ります。

言語だけを学んだAIには、記号が世界に接地していないという批判があります。では、カメラや触覚センサーを持ち、ロボットの身体で行動するAIなら、この問題は解決するのでしょうか。

「熱い」という言葉を文章の中で学ぶことと、熱い鍋に触れ、手を引き、次から避けることは違います。「重い」という語の用例を知ることと、実際に持ち上げようとして失敗することも違います。

身体を持つAIは、言葉を感覚や行動の結果と結びつけられます。ワールドモデルを使えば、「これに触れたらどうなるか」「この力で押したらどう動くか」を予測し、現実からの誤差によって予測を修正できます。

哲学者ヒューバート・ドレイファスは、古典的AIが人間の知能を明示的な規則と記号操作へ還元しすぎていると批判しました。人間の判断は、身体を持って状況の中で生きることや、言葉にしきれない技能に支えられているという問題意識です。

ワールドモデルとロボットの組み合わせは、少なくともこの批判に対する一つの技術的な応答になります。AIを記号だけの閉じた部屋から、世界との相互作用へ連れ出すからです。

しかし、身体があれば自動的に意味や意識が生まれる、とまでは言えません。温度センサーの値と「熱い」というトークンが結びついたことは、主観的に熱さを感じたことと同じではないかもしれません。

身体は意味の十分条件ではないとしても、少なくとも意味を世界につなぐ有力な経路ではあります。

人間も、別のアルゴリズムで意味を作っているのではないか

AIの意味理解を疑うとき、私たちは人間の理解については分かっているつもりになりがちです。

しかし人間も、脳内で「意味」をどのように作っているかを意識していません。文字を見て意味が浮かぶまでに、どの神経細胞がどんな計算をしているかを知らなくても、私たちは文章を読めます。

もしかすると、私たちが意識の上で感じている「分かった」という感覚の下では、まったく別の処理が動いているのかもしれません。

認知科学には、脳を予測するシステムとして捉える予測処理という研究枠組みがあります。脳は感覚を受け身で記録するのではなく、次の入力を予測し、実際の入力との誤差を使って内部モデルを更新している、という考え方です。

これは、LLMやワールドモデルの「予測、誤差、修正」とよく似て見えます。

ただし、同じ言葉が使われているからといって、脳とTransformerが同じアルゴリズムだとは限りません。予測処理にも複数の理論があり、それだけで脳全体を説明できるかは研究途上です。人間には身体、感情、欲求、生存、他者との関係、長い発達過程もあります。

それでも、この比較は問いを反転させます。

「AIは本当には理解していない」と言うためには、まず人間が本当に理解しているとはどういう状態なのかを説明しなければなりません。

内部の仕組みが人間と違えば、理解ではないのでしょうか。それなら、異なる脳を持つ動物や、異なる感覚を持つ人の理解はどう考えればよいのでしょうか。反対に、振る舞いさえ似ていれば、どんな仕組みでも理解と呼べるのでしょうか。

意味の問題は、AIを判定するための簡単な試験ではありません。私たち自身が「理解」という言葉で何を指しているのかを問う問題なのです。

言葉の世界と、現実の世界が重なり始める

LLMは、言葉の続きを予測することで驚くほど多くの関係を学びました。文章には現実世界についての記録が含まれています。言葉を精密に予測しようとすれば、物、人間、出来事、因果についての構造らしきものも学ばざるを得ません。

その意味では、LLMが世界について何も持っていないと断言することも難しいでしょう。

しかし、文章の中の世界は、あくまで人間が言葉にした世界です。私たちは、日常で当たり前すぎることをすべて文章にしません。コップを離せば落ちること、ドアを通るには開ける必要があること、人にぶつかれば相手が痛いこと。書かれた知識だけでは、抜け落ちるものがあります。

ワールドモデルは、画像、動画、センサー、行動の結果から、時間と空間の中で変化する世界を学ぼうとします。LLMは、その世界について人間と対話し、目的を言葉で受け取り、経験を説明する役割を担えます。

この二つが結びつくとき、AIは「言葉について語るシステム」から、「世界の中で予測し、行動し、その結果について語るシステム」へ近づきます。

ただし、そこでフレーム問題が消えるわけではありません。むしろ現実に出たAIは、何を見るか、何を無視するか、どの未来を避けるか、誰の目的を優先するかを決めなければなりません。世界を知ることは、同時に、世界の中で選ぶことでもあるからです。

AIは意味を理解しているのか

最初の問いに、そろそろ答えなければなりません。

現在のLLMが、人間とまったく同じ意味で理解していると断定する根拠はありません。トークンの統計的な関係を学び、意味のある文章を作れることだけでは、主観的な経験や意図まであるとは証明できないからです。

一方で、「次のトークンを予測しているだけだから、何も理解していない」と片づけるのも不十分です。その予測を高い精度で行うために、モデルは文脈、概念、関係、目的らしき構造を利用しています。翻訳や類推、未知の課題への応用まで、単純なプリンターにはできない振る舞いを示します。

結局、答えは「理解をどう定義するか」によって変わります。

  • 適切に言葉を使えることを理解と呼ぶのでしょうか。
  • 内部に世界の構造を作ることを理解と呼ぶのでしょうか。
  • 感覚と行動に記号が結びつくことが必要でしょうか。
  • 意識的な経験がなければ、理解とは呼べないのでしょうか。
  • 社会的な実践に参加し、責任を負うことまで必要でしょうか。

ワールドモデルは、この問いに最終回答を与える技術ではありません。しかし、言葉だけを処理していたAIを、身体と世界の問題へ近づけます。そして私たちに、意味は記号の中にあるのか、使い方の中にあるのか、身体と世界の関係の中にあるのかを問い返します。

「LLMの次に何が来るのか」という問いから始めたはずでした。

けれど最後に残るのは、もっと古く、もっと根本的な問いです。

「意味」とは、そもそも何なのでしょうか。

AIがその答えを持っているかどうかは分かりません。

そしておそらく、私たち人間も、まだ答えを持っていないのです。

参考にした主な資料

コメント

タイトルとURLをコピーしました