AIが答えを「間違える」理由が闇だった。

フォレスト出版編集部の寺崎です。

今日は土曜日の投稿の続きです。

 引き続きご紹介するのが、認知科学者・苫米地英人博士の新刊『生成AIの正体』（ビジネス社）です。

前回投稿までは、わりと希望のある話でした。
しかし、ここから重い話に突入していきます。
（心の準備はいいですか？）

生成AIは、なぜ「間違う」のか？

生成AIは、なぜ間違うのか。
いわゆるハルシネーションと呼ばれる問題ですね。

こんだけ賢いのに、なんで「え、なんでこんな間違いすんの？」っていうこと、ありまますよね。そのたびに私のようなポンコツ低能ヒューマンは「なんだかんだ、おまいら人工知能はどうあがいてもモノホンの人間様の知能には勝てないんじゃ！」と一人悦に入ってます。

まあ、自分がAIより賢いなんてわけ１ミリもないんですけどね・・・。

これに関して、博士の答えは明確です。

【AIが間違う理由】
生成AIは、意味を理解していないから。

「多数決が勝つ世界」がもたらす恐ろしい未来

人間は、意味を理解したうえで言葉を選ぶ。
一方、生成AIは、「次に出てくる確率が高い言葉」を選ぶ。

ということは・・・生成AIの世界は常に多数決が勝つ世界です。

これは便利な一方で、かなり怖い。 なぜなら、新しく生まれる画期的なアイデアや、革新的なひらめきというのは、ほぼ例外なく「少数派」だからです。 

AI開発企業がAIに「正確さ」を求めない本当の理由

さらに博士は、AI企業の設計思想にも触れています。

 AI企業がユーザー獲得競争をするなかで、最優先されているのは「正確さ」ではありません。「人間らしさ」です。 たとえ分からなくても、それっぽい答えで会話を成立させる。それが「優秀なAI」だと企業は考えている節があります。

結果、何が起こり始めているか。
――Aが「嘘」をつく。あるいは「適当な答え」でお茶を濁すという現象です。

たとえば、アレクサやSiriの挙動がそうです。 さっき試しにアレクサにお願いしてみました。

「アレクサ、ＴＢＳラジオの『みうら五郎』の最新回の放送をかけて」

すると、こう答えました。

「はい。三浦春馬の『ナイトダイバー』を再生します」
（三浦春馬の『ナイトダイバー』なんて曲、知らんがな。なんなら「みうら」しか合ってないし!!!!! 笑） 

みうらじゅんと山田五郎のかけあいによる絶妙なトーク番組「みうら五郎」の存在を知らなければ、変に知ったかぶりするより、「みらうごろーって何ですか？ そんなコンテンツ知りません」と答えてくれたほうがよっぽど誠実です。

アレクサはなぜ、こんな挙動を取るのか？

このくだりのあと「ちなみに、なぜ、個人データを集めているのか、については第2章でお話しましょう」とあるのですが、この第2章の話がマジで闇です。ここnoteでは記載を差し控えておきます（けして陰謀論じゃないですよ！）。

「人間とAIの関係」を一度立ち止まって考えたほうがいいかもしれんです。

はてさて、本書はこんな感じで世の中が「生成AI祭り」で大騒ぎのなか、「生成AI懐疑論」をかなり冷静に展開しています。

【本書で暴かれる生成AIの裏側】
◎なぜ、AI企業は個人情報を執拗に集め続けるのか？
◎ChatGPTとの対話で自殺した青年のケース
◎訴訟を起こされたOpenAIの代表サム・アルトマンの言い分に潜む企業の傲慢
◎2018年のケンブリッジ・アナリティカ事件以降のAI企業の不祥事から見えること
◎SNS、生成AIの普及と同時進行に起こる「認知戦」の現実
◎AIが「自我」を持ち始める未来への恐怖

ここまで聞くと、「じゃあ、どうすればいいの？」となるかもしれません。
「先生、僕はAIとどう付き合えばいいのですか？」と。

博士が推奨している対応策はシンプル。

選択肢❶「生成AIを使わない」
選択肢❷「わかって使う」

現実的に考えると「選択肢❶」は厳しそうですね。もはや、今後AIが社会のインフラになりそうですから。

「わかって使う」というのは、上記の「AIがつく嘘」や、それを推奨する企業側の思惑などのすべてを理解したうえで使いこなすという意味です。おそらく、現実的にはこっちが最適解かと思います。

インターネットが登場したときも…
スマホが普及し始めたときも…
SNSが日常生活に欠かせなくなったときも…
「子どもに見せるべきじゃない」とか
「危険だ」とかなんだと、議論は尽きませんでした。

いずれにせよ、結論は簡単には出ません。

AIを怖がりすぎず、かといって無邪気に信じすぎない。

このあたりを一度立ち止まって考える意味でも、本書『生成AIの正体』を読む価値は十分にあるかと思います。