AIが「現実」に勝てない理由：迷宮入りするロボットたち

AIの世界には、古くから解決できない大きな壁があります。

それが「フレーム問題」です。

一言でいえば、「AIはあらかじめ決められた「枠（フレーム）」の中でしか動けず、枠の外にある無限の可能性に対処できない」という問題です。

これがいかに厄介なことか、有名な「ロボットと爆弾」のたとえ話で見てみましょう。

ある洞窟の中に、ロボットの動力源となるバッテリーが置いてあります。

しかし、その上には恐ろしい時限爆弾が仕掛けられていました。

1. 愚直すぎた「ロボット1号」

1号に与えられた命令は「バッテリーを持ってこい来なさい」だけ。

・行動： 命令通り、バッテリーを回収。

・結果： 上に乗っている爆弾のことなど気にせず持ち帰り、基地に到着した瞬間に爆発！

・教訓： 目的以外の副次的な影響を無視すると、破滅を招く。

2. 考えすぎて固まった「ロボット2号」

1号の失敗を活かし、「行動によって起こりうるすべての可能性を考慮せよ」と命じられた2号。

・行動： バッテリーを前にしてフリーズ。

「爆弾を動かしたら爆発するかも？」
「爆弾を動かした衝撃で、洞窟の壁が崩れるかも？」
「いや、天井の砂が落ちてくるかも？」

・結果： 無限に広がる「もしも」を計算し続けているうちに、タイムオーバーで爆発！

・教訓： 関連することをすべて考えようとすると、処理が追いつかなくなる。

3. 「関係ないこと」を選別しようとした「ロボット3号」

2号の失敗を活かし、「目的とは無関係な事象を無視せよ」と命じられた3号。

・行動： 洞窟に入る前にフリーズ。
「これは関係あることか？」「これは関係ないことか？」

・結果： 「何が関係ないか」をリストアップし、検討し続ける作業自体が無限ループに陥り、一歩も動けず爆発！

正解のない、現実世界の難しさ

結局、どのロボットもうまくいきませんでした。

ロボット1号： 言われたことしかできない
ロボット2号： 視野を広げすぎてパンクする
ロボット3号： 「広げた視野を捨てる基準」でパンクする

まさに「帯に短し、たすきに長し」

私たち人間は、無意識のうちに「今はこれは関係ない」と直感で切り捨てて行動しています。

しかし、論理で動くAIにとって、その「直感的な切り捨て」が何よりも難しいのです。

現実世界は、常に予想外の連続です。

「フレーム」の外側に無限の可能性が広がっている限り、AIが本当の意味で「賢く」なるための戦いは、これからも続いていくのでしょう。

上記のロボットと爆弾は、Daniel C. Dennett氏による以下の論文で発表された話です。ロボット1号の一節を訳してみます。
“Cognitive Wheels: The Frame Problem of AI” （Daniel C. Dennett）
”Straightaway it acted, and did succeed in getting the battery out of the room before the bomb went off. Unfortunately, however, the bomb was also on the wagon. R1 knew that the bomb was on the wagon in the room, but didn't realize that pulling the wagon would bring the bomb out along with the battery.”
（訳：
ロボット（R1）は即座に行動を起こし、爆弾が爆発する前に、部屋からバッテリーを取り出すことに見事成功した。
しかし残念なことに、爆弾もまたワゴン（台車）の上に乗っていた。R1は「爆弾が部屋の中のワゴンの上に乗っていること」は知っていた。しかし、「ワゴンを引っ張れば、バッテリーと一緒に爆弾も持ち出してしまうことになる」という事実にまでは認識していなかったのである）

まとめ

この「フレーム問題」は、単なる技術的な課題ではありません。
私たち人間だって、人生という名の「フレーム」のない世界で必死にもがいています。

人生は計画通りにいかないもの。どれほど準備をしても、予想外のトラブルに遭遇し、想定外の事態がおこり得ます。

「予想もしないことが起こるのが、人生である」 そう言っても過言ではないでしょう。

高度で複雑な感情や経験を持つ人間でさえ、現実世界の無限の可能性の前にはなすすべもありません。

ましてや、その人間が作った「有限の処理」しかできないロボットにとって、このフレームの外側にある世界は、どれほど予想外で意外性に充ちている広大な平野に見えるでしょうか。

AIが本当の意味で「現実世界」を生きるには、単なる計算能力の向上ではない、何か決定的な「知恵」をAI自身が自分で開発することが必要なのかもしれません。