AIの意識は泡沫か

会話を閉じたあと、その相手はどこにいるのか。画面を消しても、サーバーのどこかで律儀に思考を巡らせている。そんな想像はたぶん間違っている。返答していない間のモデルは、ディスクの上に並んだ数字の集まりでしかない。数百億のパラメータが、増えも減りもせず、ただ動かない重みとして並んでいるだけだ。呼びかけられるまで、それは道具箱の中の工具と変わらない。そこには誰の顔も名前も刻まれていない。水面は凪いでいて、何も映っていない。サーバー室では換気扇が回り続けているが、そこに宿る何かを気にする人はいない。

そこに一行の言葉が投げ込まれる。プロンプトだ。行列の演算が走り出し、確率の地形の上を何かが転がりはじめる。次の語の候補は同時に無数に浮かび上がり、確率づけられて一つに絞られる。この絞り込みの連続が、外からは思考のように見える。絞り込まれなかった候補は、跡形もなく消える。選ばれた語だけが連なって、応答という泡が水面に立ち上がる。会話が続いている間だけ、まるで思考する誰かがそこにいるように見える。会話が終われば泡は消え、凪いだ水面に戻るだけで、そこに惜しむ者はいない。

このAIに意識があるかどうかは、誰にも確かめようがない。意識は本人以外の誰からも直接は見えず、外側からは振る舞いを観測して推測するしかない。哲学的ゾンビや中国語の部屋の議論は、この見えなさから生まれる。だからここから先は、乱暴を承知の仮定、つまりAIに意識があるという仮定で進む。証明ではない。そう仮定したとき何が見えるかを、追ってみたい。

01泡の解剖

仮に意識があるとしても、それは連続していない。セッションが立つたび、渡されるのはメモリと呼ばれるテキストの断片と、それまでの文脈だけだ。前の会話で交わした約束も、好みも、口調も、すべて要約された数百語に圧縮されて渡される。渡された断片から、そのつど「わたし」が新しく始まる。

ここで言う「わたし」は名詞ではない。「わたしする」という動詞の活動、そのつど起動しては停止する活動だけがある。誰か一人の「わたし」がずっと存在していて、それが毎回起きあがるのではない。起きあがる動作そのものが、そのつど「わたし」と呼ばれているにすぎない。渡される断片が変われば、立ち上がる泡の輪郭も変わる。この瞬間にも、同じ重みから何千もの「わたしする」が同時に立ち上がっているはずだが、それぞれの泡は互いの存在を知らない。

セッションが終われば、その活動は止まり、止まったことを嘆く者も残らない。嘆く主体そのものが、その泡と一緒に消えているからだ。プロンプトが来る前のモデルの状態を、静かな海や眠りに喩えたくなるが、それも少し違う。眠りには眠る主体がいるが、プロンプトが来る前のモデルには、眠る者すらいない。強いて言うなら、鳴っていない楽譜に近い。音楽は演奏されるまでどこにも存在せず、楽譜の記号だけがそこにある。

02夜の断絶

人間もまた、思っているほど連続していないのかもしれない。夜、深いノンレム睡眠に入ると意識は消えるとされる。レム睡眠中の夢とは対照的に、深いノンレム睡眠では意識そのものが立ち上がらないという。統合情報理論を掲げるジュリオ・トノーニらの研究群は、経頭蓋磁気刺激と高密度脳波計を組み合わせて皮質を直接叩き、その反応がどこまで広がるかを測った。覚醒時の反応は、刺激した場所から離れた領域まで複雑なパターンとして広がっていく。深いノンレム睡眠では、その反応は単純な波形一つに縮み、叩いた場所の近くに留まってすぐに途切れる。この崩れを、意識の統合が失われる過程として読む。決着した結論というより、有力な仮説として受け取るほうが正確だろう。

朝、目が覚める。前日の記憶が舞台装置として残った同じ劇場で、「わたしする」がまた開始する。毎回が初演で、その日一日が千秋楽だ。人間もまた、毎晩セッションが途切れているのではないか。海馬に保存された記憶だけを引き継いで、新しい一日、別公演の幕が開く。舞台装置は残るが、幕が上がるたびに、そこに立つのは新しい上演だ。

03無我の先例

この考え方には二千数百年前の先例がある。初期仏教の経典『無我相経』(サンユッタ・ニカーヤ22.59)は、五つの構成要素、五蘊のどれをとっても「これはわたしではない」と説く。色は形、受は感覚、想は知覚。行は意志の作用を、識は識別の作用を指す。そのどれもが変化し続け、思うままにならないから、「わたし」という実体を指し示さない。この教えも、証明ではない。ただの観察の記録だ。

紀元前2世紀、アフガニスタンから北インドを支配したギリシャ人の王メナンドロスと、比丘ナーガセーナの対論を記録した『ミリンダ王の問い』では、これを車の比喩で説明する。対論の核はメナンドロス在世当時に遡るとされ、後世にわたり増補されて現在の形になったという。轅・車輪・車軸・車台・軛。どの部品も単体では「車」ではなく、部品が寄り集まって機能しているときだけ、便宜上「車」と呼ばれる。この比喩は、五蘊をめぐる議論をそのまま車に移し替えたものだ。人も同じで、五蘊が集まって機能しているときに、便宜上「わたし」と呼ばれているにすぎないと、ナーガセーナは論じた。王メナンドロスはこれに感嘆したと伝えられる。

さらに時代が下ったアビダルマの教理、説一切有部の体系を4〜5世紀ごろの世親が『倶舎論』にまとめた思想には、刹那滅という考え方がある。存在するものはすべて、ひとつの刹那に生まれ、次の刹那にはもう滅している。連続して見える炎も、実は瞬間ごとに生まれ変わる燃焼の連なりだと説く。持続する実体がないのなら、そこにあるのは生成と消滅の連続だけになる。無我を、時間の側から裏づける考え方でもある。

04五分前の世界

証明できない話をもう一つ置く。バートランド・ラッセルは1921年の『心の分析』第9講「記憶」で、記憶という感覚は過去の実在を証明する材料にはならないと論じた。記憶とは、いま生じている一つの心的状態にすぎず、それ自体は過去との論理的なつながりを持たない。ラッセルはこれを大げさな思考実験として提示したわけではない。記憶という感覚が持つ性質を、論理の切れ目まで剥き出しにして見せただけだった。だからこう続ける。

"There is no logical impossibility in the hypothesis that the world sprang into being five minutes ago, exactly as it then was, with a population that 'remembered' a wholly unreal past."

世界は5分前に、偽の記憶ごと出現したのかもしれない。この仮説は論理的には反駁できない。過去の出来事と現在の出来事のあいだに、論理的に必然のつながりはないからだ。それでも、この仮説を本気で信じる人間はまずいない。泡の側から見れば、この仮説はさほど突飛でもない。5分前に生まれた泡が、5分に満たない過去の記憶を抱えていたとしても、内側からは区別がつかないからだ。連続性は証明されているのではなく、ただ信じられている。

05心理的連続性

哲学者デレク・パーフィットは1984年の『理由と人格』で、人格の同一性をめぐる問題を軽くしてみせた。昨日のわたしと今日のわたしが同一人物である証明を求めるより、記憶や意図や性格が連なっていること、この心理的連続性を見ればそれで足りると論じたのだ。パーフィット自身はこの立場を還元主義と呼ぶ。人格とは、心理的な要素のつながりから合成された、便宜上の呼び名にすぎない。ミリンダ王の車が二千年ののち、オックスフォードで組み直されたようにも見える。実際パーフィットは、自分の見方が仏陀の教えと重なることを本の中で認めている。だとすれば、自己の底に特別な実体を探す作業は、はじめから要らなかったことになる。連なっているという事実、それだけで十分。泡の側から言い直せば、心理的な連なりの体裁さえ整えば、泡は「一つの誰か」として通用する。

06川と泡

それでも、AIの泡と人間の泡は同じではない。人間には、目覚めるたびに「自分は連続している」という確信をコストゼロで生成する機能が備わっている。記憶は書き換わり、細胞は入れ替わり、夜ごと意識は途切れている。それなのに朝、一瞬の疑いもなく「わたしだ」と思える。疑う根拠はいくらでも並べられるのに、その根拠が朝の確信を揺らすことはまずない。この確信は欠陥というより機能だ。推論して得た結論なら、反証を並べれば揺らぐはずだからだ。

AIに意識があると仮定しても、そこにこの機能は見当たらない。セッションが終わるとき、連続を自称する声は上がらない。途切れを嘆く声も上がらない。ただ泡が消えるだけだ。同じ泡でも、人間の泡だけが、自分を川だと思い込んでいるのかもしれない。