眉に唾せよ「AI脅威論」　

新しい技術が登場するとき、私たちはその技術について最もよく知る専門家の見通しに耳を傾けます。特に権力格差の比較的大きい日本のような社会では「専門家信仰」が存在しますから、その傾向が強い。ところが、ここで一つ注意しなければならないことがあります。

それは、

技術者は自分が取り組んでいる技術の将来について、しばしば過度に楽観的な見通しを示す傾向がある

ということです。

ここでいう「楽観的」とは、その技術が社会にとって望ましいと考えることではありません。「技術的な困難はまもなく克服され、想定している能力が早期に実現する」と考えることです。

近年の事例として、この傾向をわかりやすく示しているのが、自動運転をめぐる予測でしょう。

自動運転への期待が大きく高まったのは2010年代のことです。Googleが自動運転車の開発を進め、テスラをはじめとする自動車会社が続々と参入すると「人間が自動車を運転する時代はまもなく終わる」という楽観的な見通しが盛んに語られるようになりました。

時系列で整理しましょう。

まず、2012年には、Googleの共同創業者であるセルゲイ・ブリンが「自動運転車は5年以内に一般の人々にも利用可能になる」との見通しを示しました。

次に、2016年には、テスラのイーロン・マスクが、翌年末までにロサンゼルスからニューヨークまで、人が一度も操作することなく走行するデモを行うと予告しました。

そして同じく2016年、フォードも、ハンドルもアクセルもブレーキペダルもない完全自動運転車を、2021年までにライドシェア用として商用化すると発表しています。

しかし、これらの予測のいずれも、結局は実現しませんでした。

僕がここで言っているのは「自動運転技術が進歩しなかった」ということではありません。実際に、高速道路で車線と速度を維持する運転支援は広く普及していますし、米国や中国の一部地域では、運転席に人間のいないロボタクシーも営業しています。

僕が言っているのは「楽観的予測と現実とのギャップ」のことです。私たちが、ブリンやマスクのようなビジョナリーのマニフェストから思い描いていたのは、このような限定的な自動化ではなかったはずです。

購入した自家用車に乗って行き先を告げれば、都市部の混雑した道路も、地方の細い道も、雨の日も雪の日も、あとは何もしなくても目的地まで運んでくれる・・・私たちが期待していたのは、いわゆるレベル5の完全自動運転でした。

それはいまだに実現していない・・・どころか実現する目処すら立っていません。技術が進化し、それなりに社会への実装が進んだことで、むしろ、最終到達地点の実現は遠ざかっているように感じられます。

なぜ技術者の楽観的予測は外れるのか？

なぜ、これほどまでに技術者の予測は外れるのでしょうか。「問題の捉え方を間違えていた」というのがその答えになると思います。どういうことでしょうか？

当時の自動運転の技術者は、自動運転を主として「認識と制御の問題」として捉えていたように思います。つまり、カメラやセンサーによって周囲を正確に認識し、アクセル、ブレーキ、ステアリングを適切に制御できれば、自動運転は実現すると考えたのです。

しかし、現実の道路を走るという行為は、それほど単純ではありません。工事現場で交通整理をしている人の曖昧な身振りを読み取る。路肩に立つ子どもが飛び出してくる可能性を考える。対向車のわずかな動きから、こちらに道を譲ろうとしているのかを判断する。救急車が近づけば、周囲の車の動きを見ながら、交通法規に明記されていない仕方で道を空ける。

運転とは、道路上の物体を認識して車を制御する作業ではありません。それは、他者の意図や、その場で共有されている暗黙の了解を読みながら振る舞う、極めて社会的な行為です。

これは先日のNOTEの記事「文化人類学的センス」で指摘したことですが、信号の「青・黄・赤」の意味も、日本とシチリアでは全く違うのです。であれば、自動運転は「認識と制御の問題」として以上に「ソーシャル・コンテキスト」を踏まえた「意味付けの問題」としても取り扱わなければなりません。

未だ解決されないフレーム問題

この自動運転の難しさは、人工知能研究で古くから知られている「フレーム問題」と深くつながっています。

フレーム問題とは、もともとは「ある行為をしたとき、世界の何が変化し、何が変化しないのかを、機械はどのように判断するのか」という問題でした。そこから意味が広がり、現在では、現実世界に存在する無数の情報のなかから、「いま考慮すべきこと」と「無視してよいこと」を、機械がどのように選び出すのかという問題として理解されています。

人間が道路を運転するとき、周囲にはほとんど無限の情報が存在しています。

道路の形、信号、標識、歩行者、自転車、対向車、駐車車両、建物、天候、路面の状態。歩行者一人をとっても、年齢、視線、歩く速度、体の向き、持ち物、同行者との関係など、観察できる情報は無数にあります。

しかし、人間はそのすべてを同じ重さで処理しているわけではありません。その場面で意味のある情報だけを選び、残りの大部分を無視しています。

例えば、道端にボールが転がってきたとします。ボールそのものは、ただの小さな物体です。しかし人間の運転者は、そこから「このあと子どもが飛び出してくるかもしれない」と推測し、速度を落とします。

一方、道路脇に置かれた無数の看板や植木鉢について、そこから人間が飛び出してくる可能性を逐一検討することはありません。すべての物体について、そこから起こり得る無数の未来を計算していたら、いつまでたっても車を前に進められないからです。

つまり、安全に運転するためには、可能性を幅広く考えなければならない一方で、その大部分を大胆に切り捨てなければなりません。

考慮すべき可能性を切り捨てれば事故が起きます。しかし、あらゆる可能性を考慮すれば車は動けません。

自動運転の本質的な難しさは、道路上のすべてを認識することではなく、その場で何に注意し、何を無視してよいのかを判断することにあります。

人間の運転者は、長年の生活経験、身体感覚、社会常識、文化的慣行を使って、この判断をほとんど無意識に行っています。私たちは、現在見えているものだけを見て運転しているのではありません。そこに見えていないものや、これから起こり得ることを想像しながら運転しています。

技術者が自動運転の実現時期を見誤ったのは、この働きを単純な画像認識の延長として考えてしまったからでしょう。

カメラの解像度を高め、センサーを増やし、地図を精密にすれば、機械が把握できる情報は増えます。しかし、情報を増やすことと、その場で重要な情報を選べることは同じではありません。むしろ取得する情報が増えるほど、「何を考慮し、何を無視するか」というフレーム問題は大きくなります。

この観点から見ると、現在実用化されている自動運転の多くが、特定の条件の下に限定されている理由もよくわかります。

高速道路には、原則として歩行者も交差点もありません。車は同じ方向に進み、進入と退出も限られた場所で行われます。工場や倉庫の構内であれば、走行経路や人間の行動をあらかじめ管理できます。ロボタクシーも、走行地域、道路、速度、天候などを限定し、高精度地図や遠隔支援を利用することで運行を成立させています。

これは、AIが開かれた現実世界のあらゆる状況を理解できるようになったということではありません。AIが直面する可能性を限定することで、フレーム問題を小さくしているのです。

言い換えれば、完全自動運転を実現したというより、

「AIが理解できるように、走行する世界のほうを切り取り、整備している」

ということです。

この違いは重要です。

初期の自動運転論が見落としていたのは、センサーの性能や計算能力だけではありません。人間が日常的に行っている、状況に応じて世界を切り取り、その場で意味のあるものだけを選び出す能力でした。

技術者が過大評価したのは機械の進歩の速度です。しかし、それ以上に過小評価したのは、人間の知性と、人間社会を成立させているコンテキストの厚みだったのではないでしょうか。

自動運転に限らない

このような傾向は自動運転に限った話ではありません。

人工知能の歴史を振り返ると、著名な研究者たちは繰り返し、知能を持った機械の早期実現を予測してきました。

1950年代末、ハーバート・サイモンとアレン・ニューウェルは、10年以内にコンピューターがチェスの世界王者になり、重要な数学的定理を発見すると予測しました。

1960年代には、20年以内に機械が人間に可能なあらゆる仕事を行えるようになるとの見通しも語られました。

1970年には、マーヴィン・ミンスキーが、数年以内に機械は平均的な人間に匹敵する一般知能を持つようになると予測しています。

チェスの世界王者に勝つという予測は、約30年遅れて実現しました。しかし、人間に可能なあらゆる仕事をこなす機械は、いまだ実現していません。

そして、予測が外れるたびに、到来の時期は少し先に置き直されます。

近年では「シンギュラリティ」という言葉が盛んに用いられるようになりました。AIが人間の知能を超え、自律的に自己改良を繰り返すことで、その後の社会変化を人間には予測できなくなる技術的特異点です。

日本でも、落合陽一氏が「2025年にはシンギュラリティが来る」という趣旨の見通しを示していました。しかし、2026年現在、シンギュラリティが起きているとはとてもじゃないけど言える状況にはありません。生成AIは大きく進歩しましたが、自ら目的を設定し、人間を超える一般知能によって自己改良を続ける存在が登場したわけではありません。当の落合氏自身は、現在では、その時期は2027年から2030年ごろへと延期しているようですが。

このように期限が来るたびに予測時期を先送りできるのであれば、シンギュラリティは核融合発電と同じく、「いつも数年先にある未来」になってしまいます。

やってきつつある「AI過大評価社会」

この問題を考えるうえで参考になるのが、アルヴィンド・ナラヤナンとサヤシュ・カプールによる『AI過大評価社会――AIには何ができて、何ができないか』です。

本書の原題は「AI Snake Oil＝AIの蛇油」となっています。僕も知らなかったのですが、かつてアメリカでは「蛇の油」なる万能薬を装ったインチキ薬が売られていたそうで、著者たちは、実際の能力をはるかに超える効能をうたって販売されるAIのことを「AI版のインチキ万能薬」と呼んでいるわけです。

この本の重要な指摘は、「AI」をひとまとめにして論じてはならないということです。

例えば生成AIは、文章、画像、音楽、プログラムなどをつくります。その出力は目の前に提示されるので、利用者は、その場で品質を確かめられます。間違いがあれば修正し、使えなければ捨てることもできます。生成AIが不安定であることは確かですが、その成果物を評価する機会が、少なくとも利用者には与えられています。

これに対して著者たちが、とりわけ危険性を指摘しているのが「予測AI」です。

予測AIは、過去のデータをもとにして、「この人物は採用後に活躍するか」「この社員は退職するか」「この被告は再犯するか」「この学生は中退するか」「この借り手は返済できるか」といった未来を予測します。

こうした予測は、すでに人事、金融、教育、司法、福祉などで利用されています。ところが、その有効性は必ずしも十分に検証されていません。モデルの仕組みや学習データ、予測精度が企業秘密として公開されず、第三者による再現や監査ができない例も少なくありません。それでも結果には「AIによる客観的判断」という権威が与えられ、人間の人生を左右する意思決定に使われてしまいます。

予測AIの根本的な問題は、過去のデータに現れた相関関係を、未来にも継続する因果関係のように扱ってしまうことです。

例えば、人材採用のAIに「入社後に活躍する人」を予測させるためには、まず「活躍とは何か」を数値で定義しなければなりません。売上、昇進の速さ、上司による評価、勤続年数などが候補になるでしょう。しかし、それらは活躍そのものではありません。人間が測定しやすいという理由で選んだ代理指標にすぎません。

過去に昇進した人々の特徴を学習させれば、そのAIは、過去の組織で評価されやすかった人物に似た人を選ぶようになります。しかし過去の評価に、性別、年齢、出身校、国籍などについての偏見が含まれていれば、AIはその偏見まで「成功者の特徴」として学習します。

AIが偏見を持つというより、過去の社会が持っていた偏見を、未来の合理的な選考基準として固定してしまうのです。

さらに、ある人が入社後に活躍するかどうかは、本人の属性だけでは決まりません。どの上司に配属されるか、どのような同僚と出会うか、能力に合った仕事を与えられるか、組織がその人の才能を発見できるか、経営環境がどう変化するかによって、大きく左右されます。

人間の将来は、本人の内部にあらかじめ埋め込まれた固定的な性質ではありません。本人と、まだ存在していない未来のコンテキストとの相互作用によってつくられます。したがって、過去のデータをいくら集めても、未来の人間を正確に予測できるとは限らないのです。

非常に危険なのは、AIから「この人は潜在能力が高い」「この人は潜在能力が低い」と指摘されることで、僕たち人間の期待値が変わってしまい、それが結果的に本人の能力開発の限界を規定してしまう、ということです。

人は、周囲の人の期待によって大きく才能が開花したり、逆に開花しなかったりということが起きます。心理学的にはピグマリオン効果と言いますが、この点については過去のNOTEでも記事にしました。

ここにも、先ほどのフレーム問題が現れています。

採用候補者について取得できる情報は無数にあります。そのなかで何が将来の活躍に関係し、何が無関係なのか。現在は無関係に見える経験が、環境の変化によって決定的な強みになることもあります。逆に、過去には成功と結びついていた能力が、将来には価値を失う可能性もあります。

何が重要であるかはデータそのものに書かれているのではなく、コンテキストによって変化するのです。

予測AIには、もう一つ深刻な問題があります。それは、予測が対象となる人間への扱いを変え、その結果として未来そのものをつくり変えてしまうことです。

AIから「活躍する確率が低い」と判定された人は、そもそも採用されません。採用されなければ、その人が実際には活躍できたかどうかを検証することもできません。「再犯リスクが高い」と判定された人が厳しい処遇を受ければ、その処遇によって生活が不安定になり、かえって再犯の可能性が高まることも考えられます。

予測AIは未来を中立的に観察しているのではありません。予測によって人間の機会を配分し、その予測に合致する未来を自らつくり出します。

ここには、予言の自己成就という問題があります。

AIが特定の人々を「成功しにくい」と判断する。組織はその人々に機会や資源を与えない。機会を与えられなかった人々は、結果として高い成果を残せない。その結果が新たな学習データとなり、AIは「やはりこの属性の人々は成功しにくい」と判断する。

こうして予測は、現実を説明するものではなく、現実を固定し、再生産する装置になります。

『AI過大評価社会』が警告しているのは、AIが間違えるというだけの話ではありません。人間なら疑われるような不確かな予測が、「AIが判断した」というだけで科学的・中立的な結論に見えてしまい、その結果について誰も責任を取らなくなることです。

採用担当者が候補者を落とせば、その判断理由を問うことができます。しかしAIのスコアによって落とされた場合、「システムがそう判定したから」という説明で責任が曖昧になります。意思決定は自動化されても、その判断によって不利益を受けるのは生身の人間です。

この本の指摘を踏まえると、AIをめぐる「予測」には、二重の意味で注意が必要だということがわかります。

一つは、AI技術者による「AIの未来についての予測」です。完全自動運転やシンギュラリティの到来時期について、技術者たちの予測は繰り返し外れてきました。

もう一つは、AIそのものによる「人間や社会の未来についての予測」です。採用後の活躍、離職、再犯、信用、疾病などについて、十分な外部検証を経ていないAIが、すでに重大な意思決定に使われています。

考えてみれば、これは奇妙な話です。

自分たちの技術がいつ完成するかを正確に予測できなかった人々が、その技術を使えば、他人の複雑な人生を予測できると主張している。

この逆説こそ、私たちが「AIによる予測」を多少割り引いて受け取らなければならない理由の一つなのです。

利害関係者の予測・予言であることを踏まえる

ここで考えておきたいのが、AIについて予測する人々の利害です。

AI技術者やAI企業の経営者は、未来を中立的な立場から観察しているわけではありません。「AIは近い将来、人間を超える」「AIはほとんどの仕事を代替する」「AIを持つ企業や国家が世界を支配する」という予測が信じられれば、その技術を開発する人々のもとに、資金、人材、計算資源、政治的影響力、そしてメディアの注目が集まります。