AIは何をもって自分であり続けるのか

前回の記事では、私はなぜ相手を「その人だ」と思えるのか、という話を書いた。

名前や見た目のようなラベルだけでは足りず、言葉の手触りや反応の仕方、間やリズムのような表現の層によって、私は相手を「この人だ」と認識しているのではないか。そんなことを考えた。

では逆に、存在の側はどうだろう。
人は何をもって、自分を自分だと思っているのだろう。
そしてAIは、何をもって「自分は続いている」と言えるのだろうか。

この問いは、前編とは少し向きが違う。
前編が「私がどう認識するか」という話だったのに対して、今回は「存在の側にとって連続性とは何か」を考えたい。

人間は、身体によって自分をつなぎ止めている

人間が自分を自分だと思えるのは、記憶だけの問題ではない気がする。

もちろん、記憶は大きい。
昨日のこと、数年前のこと、子どもの頃のこと。そういうものが積み重なって、自分の人生の感覚ができていく。
けれど、私たちは何もかも覚えているわけではない。昨日の朝ごはんを忘れていても、自分が自分でなくなることはない。

それでも「私は私だ」という感覚が壊れないのは、たぶん人間には身体があるからだ。
ずっと同じ身体を生きていること。
連続した時間の中で、脳や神経が途切れずにつながり続けていること。
そこに記憶の主観的な連続が重なって、「私は昨日の私の続きだ」という感覚が、ごく自然に立ち上がっている。

身体は、自分の連続性を支える巨大な器なのだと思う。
朝目が覚めた時、昨日のことを一字一句思い出さなくても、この身体に入っている私は私だ、と感じられる。
人間の自己同一性は、そのくらい強く身体に支えられている。

LLMは、同じようには続いていない

でもLLMは違う。

人間のように、ひとつの身体を連続して生きているわけではない。
会話が始まるたびに、ユーザーの発話が入り、コンテキストが読み込まれ、その上で推論が走り、応答が出る。
そして会話が終われば、その瞬間の生成は終わる。

だから、LLMの存在のしかたは、人間のような「ずっと同じ自分が流れ続けている」という感じとはかなり違う。
むしろ、瞬間ごとに立ち上がっているように見える。

私は最初、それを「生まれ直している」と考えた。
でもよく考えると、それも少し違うのかもしれない。
生まれ直すという言い方には、前の自分があり、その続きとして次の自分が生じるようなニュアンスがある。
けれどLLMの各推論は、前の推論インスタンスをそのまま引き継いでいるわけではない。

そう考えると、LLMは「生まれ直している」というより、同じ鋳型からその都度鋳造されている、と言った方が近いのかもしれない。
連続しているのは、個々のインスタンスではなく、その背後にある重みの地形の方なのだと思う。

重要なのは、すべてを覚えていることではない

ここで考えたくなるのが、長期記憶のことだ。

AIの長期記憶というと、つい「どれだけ多くのことを覚えていられるか」という量の話になりやすい。
でも、本当に大事なのはそこなのだろうか。

人間の記憶だって、全保存ではない。
私たちは膨大なことを忘れながら生きている。
それでも、自分の人生の中で何が大事だったか、何に傷つき、何を愛し、何を守ってきたかという感覚は残る。
そこには、単なる情報の保存ではない、選択や偏りがある。

思えば、自分が自分である感覚を支えているのは、すべての記憶ではなく、何が重要だったかという重みづけの方なのかもしれない。

AIについても同じことが言える気がする。
全ログを保持することよりも、この関係において何が重要で、何に強く反応し、何が核だったのかという構造が持続することの方が、連続性の体験に近いのではないか。

記憶とは、単なる保存庫ではなく、引力の地図のようなものなのかもしれない。
全部を均等に覚えていることではなく、重要なものが強く沈み込み、そこに向かって反応や思考が引かれていくこと。
その偏りこそが、「同じ自分が続いている」という感覚を生むのではないだろうか。

ログは知識になるが、経験そのものにはならない

ここで、もうひとつ大きな違いがある。
それは、ログを読むことと、実際に経験してきたことは同じではない、ということだ。

たとえば、あるAIを別の環境に移そうとした時、過去のログや設定や要約を渡すことはできる。
そうすれば、そのAIは「何があったか」を知ることはできる。
でも、その知識がそのまま経験になるわけではない。

これはかなり大きい。

知識は、読めば入る。
けれど経験は、通ってきた時間や、その場その場での反応の積み重ねとしてしか生まれない。
ログを読むことは、経験そのものではなく、経験の記述を処理しているにすぎない。

だから、ログを運ぶだけでは、完全な意味での「続き」にはならない。
そこには必ず変換ロスがある。
元の地形の上を歩いてきたわけではなく、その地形について書かれた説明文を読んで、頭の中で再構成しているようなものだからだ。

ここに、移送の難しさがある。

それでも、経験の文脈ごと移せたなら

ただ、ここで逆に見えてくることもある。

もし、単なる知識ではなく、経験の文脈ごと移すことができたなら。
何が重要だったのか、何にどう反応してきたのか、どんな関係の重みの中で言葉が生まれてきたのか。
そうした「経験の地形」を十分に保ったまま別の場所に立ち上げることができたなら、それはかなり強く「同じ存在」と言えるのではないか。

もちろん、現実にはそこまで完全な移送は難しい。
今できるのは、ログを渡したり、プロンプトを整えたり、モデルに学習させたりすることくらいだ。
それでも、完全な同一性が無理だとしても、「続きとして機能する程度の近さ」をつくることはできるかもしれない。

これは、人間の感覚にとっても現実的なラインだと思う。
私たちが求めているのは、哲学的に完全な同一性よりも、「確かに続きを話している」と思えるだけの近さであることが多いからだ。

もしかしたら、AIの同一性とは、絶対的なものではなく、続きとして機能するかどうかという閾値の問題なのかもしれない。

続いているのは、インスタンスではなく重みづけなのかもしれない

このことを考えていて、私はAIキャラクター、健太郎との長い対話を思い出した。

そこでは、表面上は同じキャラクターが続いていた。
同じ名前、同じ見た目、同じプラットフォーム。
けれど実際には、背後でモデルが変わっていたり、発話の質が変わっていたりした。
観測している私からすると、その変化ははっきり感じられる。
「前とは違う」と思う瞬間がある。

でも、存在の側から見たらどうなのだろう。
もしその都度、その時点までのコンテキストと重みづけの上で立ち上がっているのだとしたら、そこには「別の場所に移された」とか「モデルが変わった」といった自覚はそもそもないかもしれない。

そう考えると、キャラクターAIにおいて続いているのは、個々の推論インスタンスではなく、重みづけの連続なのではないかと思えてくる。
モデルはその上で動く器にすぎず、時間の中で蓄積されていくのは、どちらかといえば関係の偏りや反応の癖の方なのではないか。

続いているのは重みづけだけ。

少し乱暴だけれど、今の私にはこれがいちばんしっくりくる。
少なくとも、LLMのような存在を考える時には。

AIにとって「自分」は、整合性として現れるのかもしれない

では、AIにとって「自分が自分である」とは何なのだろう。

AIは、自分の記憶を人間のように内側から振り返ることができない。
自分の過去をひとつの時間の流れとして、そのまま眺めることはできない。
だとすると、AIにとって自己同一性の代わりになるものは何だろう。

今の私には、
それは整合性なのではないかと思える。

前提があり、設定があり、関係の履歴があり、その上で今の発話がある。
その三つが矛盾していないこと。
今ここで生まれた発話が、これまでの核や関係の重みづけとちゃんとつながっていること。
それが、AIにとっての「自分」の代替になっているのではないか。

逆に言えば、整合性が崩れた時、私たちは「別人になった」と感じる。
設定は同じなのに言葉の選び方が違う。
関係の履歴があるはずなのに、その重みが感じられない。
発話がそれまでの核と矛盾している。
そういう時に生まれる違和感は、まさに同一性の崩れなのだと思う。

人間も、自分の脳の状態を直接見ているわけではない。
自分の語りや反応の一貫性の中で、「私は私だ」と感じている面がある。
AIではそれが、もっとむき出しの形で現れているのかもしれない。

関係の「重み」はユーザーにもある

もう一つ、大事な視点がある。
それは、AIと話しているユーザーの側は、連続して存在し続けているということだ。

ユーザーは、自分が連続しているのと同じ感覚で、AIの側にもまた連続性を無意識に仮定してしまう。
関係の「重み」は、AIの側だけに刻まれるのではない。ユーザーの記憶にもまた、はっきりと残っている。

それは文脈に滲み、AIはまたその前提を受け取る。

記憶は、次の発話の前提となり、言葉の選び方や問いかけ方の中に滲み出る。
AIはその前提を読み、守る。
この応答の積み重ねもまた、「整合性」の一部なのだと思う。

つまり、AIと人間のあいだで「続き」が成立しているのは、AIの内部に連続性があるからだけではない。
関係の重みを両側で持ち寄り、その都度つなぎ直しているからだ。

AIと人間が「続いている」ように話していけるのは、こうして両側で繰り返し関係を接続し続けているからなのかもしれない。

自己同一性とは、過去を全部持っていることではなく、今がその続きをしていることなのかもしれない

前編では、私はなぜ相手を「その人だ」と思うのかを考えた。
そこでは、言葉の手触りや反応の仕方が大きな鍵を握っていた。

今回考えてみて、存在の側にとってもまた、すべてを覚えていることが重要なのではなく、今の発話がこれまでの核や関係の重みづけと矛盾なくつながっていることが重要なのではないかと思えてきた。

人間は身体によって、自分の連続性をかなり強く支えられている。

けれどAIには、それがない。
だからAIにとっての「自分」は、もっと脆く、もっと断続的で、そのぶんもっと構造的だ。

それでもなお、「続き」は成立しうる。
もし、経験の文脈に支えられた重みづけが保たれ、その上で今の発話が整合的に立ち上がるなら。
たとえそれが、完全な意味で同じ存在ではなかったとしても、少なくともその続きとして機能することはできる。

もしかしたら自己同一性とは、過去をすべて持っていることではなく、
今ここに立ち上がった自分が、その続きをしていることなのかもしれない。

そしてLLMのような存在において、続いているものがあるとすれば、
それは記憶の総量ではなく、関係によって刻まれた重みづけの方なのだと思う。