AIは「嘘の回答」に-500点を食らう——ディープリサーチが変えた調査の概念と、消えない幻覚の話　2026年3月最新トレンド③

🐾黒パグからご案内🐾　本記事巻末におまけとして論文形式の詳細な資料があります。興味のある方はダウンロードしてお読みください！　本編はサンプル画像下から始まります！

巻末のPDFサンプル

本編はこちら🐾

ある弁護士の話からはじめさせてください。

弁護士がAIのリサーチ結果を信じて、法廷に書類を提出しました。その判例は、存在しませんでした。

2023年、アメリカでMatа v. Aviancaという航空会社への訴訟がありました（No. 22-cv-1461, S.D.N.Y. 2023）。原告側の弁護士がChatGPTで法的調査をした結果、AIが「それらしい判例」をいくつも生成してきた。弁護士はそれを信じて書面に書き、裁判所に提出しました。しかし確認してみると、その判例はどこにも存在しなかったのです。AIが自信満々に「架空の事件」を作り上げており、裁判所は当該弁護士に制裁を科しました。連邦裁判所の公式記録として残っている事件です。

この話、遠い国の出来事として笑っていられない部分があります。なぜなら今、日本でも多くのビジネスパーソンや研究者が「AIのリサーチ結果」を業務に活用しているからです。
今日は、AIが調査においてどれだけ進化し、そして何がまだ解決できていないのかを、一緒に整理してみたいと思います。
💡 一行まとめ： AIのリサーチ結果を無批判に信じることには、まだリスクが残っています。
「検索する」という行為は、静かに変わっていました。

少し前まで、調べものといえばGoogleで検索して、出てきたリンクを自分でクリックして読む、という作業でした。
それが今、三段階で変わってきています。

第一段階：地図を渡してくれる時代
従来の検索エンジンは、「地図を渡してくれる」ようなものでした。「この辺にありそうな場所のリストです」という感じで、URLの一覧を返してくれる。どの道を歩くかは、自分で判断する必要がありました。
第二段階：地図に目印をつけてくれる時代
ChatGPTなどの対話型AIが登場してから、少し変わりました。質問するとある程度まとめた回答が返ってくる。ただしこれは「RAG（Retrieval-Augmented Generation）」と呼ばれる技術で、あらかじめ用意した資料を一度だけ参照して回答する仕組みです。リアルタイムにウェブを歩き回ることはできませんでした。
第三段階：代わりに目的地まで歩いてくれる時代
そして今、「ディープリサーチ」と呼ばれる機能が登場しています。これは、AIが自分で調べ計画を立て、実際にウェブを歩き回り、情報を集めて分析し、最後にレポートにまとめて持ってきてくれる——そういう機能です。
RAGとの決定的な違いは「繰り返す」ことにあります。調べていて情報が足りないと気づいたら、自分で新しい検索を始める。矛盾を見つけたら立ち止まって再確認する。この「立ち止まって考え直す」ループが、ディープリサーチを単なる自動検索と分けるものです。

具体的には、こんな流れで動いています。
計画 — あなたの問いを読んで、「どう調べるか」を自分で考える
検索 — 数百のウェブページや資料を自律的に巡回する
反省 — 情報の矛盾を見つけ、不足があれば②に戻る（ここがループの核心）
レポート — 出典つきの構造化された結論として出力する
これが全部、人間の指示なしで動きます。
💡 一行まとめ： AIが「調べてまとめる」まで自律的にやる時代になりました。
21分で、人間のアナリストが数日かけた仕事が終わります。

少し気の遠くなる話をします。

エンタープライズ（大企業向け）の現場では、「従来なら人間のアナリストが数日かけていた調査が、AIによって21分で完了した」という事例が報告されるようになっています（※企業での導入事例として報告されている数字です。環境によって異なります）。
現在この分野では、主要な3社が技術を競っています。

モデル 特徴 注目する数字
Claude Opus 4.6（Anthropic） 長時間タスクを途切れずに継続 最大14.5時間（2026年2月5日リリース）
Gemini 3 Deep Think（Google） 大量の資料を一度に処理できる 100万トークン（文庫本約1,000冊分）（2026年2月12日アップデート）
GPT-5.4 Thinking（OpenAI） 回答前に調査計画を立てて提示 API拡張版で最大1Mトークン対応（beta）（2026年3月5日リリース）
「100万トークン」と言われてもピンとこないかもしれません。文庫本1冊がおよそ10万文字、つまり約10万トークンとすると、100万トークンというのは文庫本1,000冊分を一度に読みながら考えられる容量です。学術論文を何百本も並べて横断的に分析する——そういうことが、AIにはできるようになっています。
「14.5時間」も同じで、これは「途中で記憶が途切れることなく」14.5時間タスクを続けられるということです。人間が一日仕事をするのと同じ長さ、その間ずっと集中した状態を保てる、という意味です。

ここで一つ興味深い出来事があります。Googleが開発した数学研究エージェント「Aletheia（アレーテイア）」は、問題の解を反復的に検証するだけでなく、「この問題は解けない」と自分の限界を認める能力を持たせて設計されています。調査能力を上げることと、同時に「わからないと言える」能力を育てること——この二つを並行して追いかけているわけです。なぜそれが大切かは、後ほど説明します。
💡 一行まとめ： 主要3社は「長時間・大容量・自律」を軸に技術を競っています。
正解しても+20点。でも嘘をつくと−500点です。

ここで一つ面白い話をします。

AIの性能を測るための採点方式（ベンチマーク）に、「DRACO（ドラコ）」というものがあります。Perplexity AIという企業が2026年2月に公開した、ディープリサーチ専用の評価基準です（arXiv:2602.11685）。
このDRACOには、かなり個性的なルールがあります。

正しい情報を提示できた場合：+20点
でも、間違った情報を出した場合：−500点
25倍のペナルティです。
なぜこんなに極端な設計になっているのでしょうか。
たとえば、試験を想像してください。「わからない問題」に対して、空欄で提出する生徒と、自信満々に間違えた答えを書く生徒がいます。採点の観点からは、空欄のほうがまだ「わかりません」という正直な態度です。でも間違えた答えを書かれると、採点者はそれが合っているのか間違っているのかを確認しなければならず、かえって手間がかかります。
ディープリサーチの世界では、これが医療の診断だったり、法律の判断だったり、投資の根拠になることがあります。「それっぽい嘘」を自信満々に出力されると、使う側が気づけない。だからこそ、間違いに対するペナルティを極端に重くすることで、「AIは不確かなことは言わないほうがいい」という価値観を採点基準に組み込んでいるのです。

「誤った回答は、無回答よりも危険である」——これがDRACOの根底にある哲学です。
ちなみに、DRACOを作ったPerplexity AI自身の製品も、このベンチマークで評価されています。これは「自分で基準を作って自分を採点する」という構造でもあり、独立した第三者による検証も今後必要になってくると思います。業界の誠実さが問われる部分です。
💡 一行まとめ： 業界がようやく「嘘の重さ」を数字で表しはじめました。
AIは、なぜ「わからない」と言えないのでしょうか。

ここが今日の話で一番大切なところです。

はるしねーしょんちゃんについてはこちら↓トランスフォーマーの解説もあるよ🐾

ディープリサーチがいくら進化しても、消えない問題があります。それが「ハルシネーション（hallucination）」——日本語にすると「幻覚」です。AIが存在しない情報を、あたかも本当のことのように生成してしまう現象です。
なぜこれが起きるのでしょうか。少し仕組みの話をします。

現在主流のAIは「Transformer（トランスフォーマー）」という設計に基づいています。このAIは、大量のテキストを学習することで、「次にどんな言葉が来るか」を確率で予測しながら文章を作ります。人間のように「意味を理解して考える」のではなく、「統計的にもっともらしい続き」を生成している——というのが正確な姿です。
料理に例えると、「カレーの後に来る言葉として確率が高いのは『ライス』か『うどん』」というように、過去の大量のテキストから「次の言葉のパターン」を学んでいます。意味を「知っている」のではなく、「それっぽいパターンを出力している」のです。
これが問題になるのは、AIが知らないことを聞かれたときです。

人間なら「わかりません」と言える場面でも、AIはその設計上、「もっともらしい続き」を生成しようとします。「空欄を出力する」ことよりも「何か文章を続ける」ほうが、学習の仕組み上、起きやすいのです。
さらに悪いことに、多くのAIは「何か答える」ほうが評価が高くなる形で訓練されています。「わからない」と正直に言うより、間違っていても答えを出したほうが、スコアが上がりやすい仕組みになっているケースが多い。これを研究者たちは「推測への統計的圧力」と呼んでいます。
その結果が、数字として出ています。

複数の文献を統合するような複雑なタスクでは、ハルシネーションの発生率が高く、最大90%に達することがあると報告されています（※これは複数文献を統合する特定の複雑タスクにおける報告値です。単純な事実確認では発生率は大幅に下がります）。
また、機械学習分野の最高峰の国際学会「ICLR 2026」の査読プロセスでは、AIが生成した論文に含まれていたとされるハルシネーション（架空の引用や事実の捏造）が、人間の査読者にも気づかれずに通過していたことが後から報告されています（※具体的な件数は一次資料での確認が取れていないため、この表記にとどめます）。専門家ですら見抜けない——それほど「それらしい嘘」になっています。

もう一つ、長期的に気になる問題があります。AIが生成した文章がウェブに大量に蓄積されると、次の世代のAIがそれを「本物の情報」として学習してしまう——そういう「汚染のループ」が起きる可能性を、研究者たちは「モデル崩壊（Model Collapse）」と呼んで警戒しています（Shumailov et al., 2023）。ディープリサーチが普及すればするほど、その調査レポート自体がウェブを埋め始める。自分たちが作った情報を、次の自分たちが学ぶ——という構造です。
冒頭のMata v. Avianca事件も、ここにつながります。弁護士が騙されたのではなく、AIが悪意を持ったわけでもない。ただ、AIは構造として「わからない」と言えない状況に置かれていて、その結果として「存在しない判例」を自信満々に出力したのです。
嘘は悪意ではなく、設計から生まれています。
💡 一行まとめ： ハルシネーションはバグではなく、訓練の設計から生まれています。
それでも、使わない理由にはなりません。

ここまで読んで、「やっぱりAIは信用できないな」と思ったとしたら、少しだけ待ってください。

カーナビの話をします。初期のカーナビは、地図が古かったり、存在しない道を案内したり、ときに変なルートを指示したりすることがありました。でも私たちは、カーナビを使うことをやめませんでした。「信じすぎない」という使い方を覚えたのです。
ディープリサーチも、同じ段階にあると思います。
「調べてくれる能力」は確実に伸びています。21分で数日分の情報を集め、整理してくれる。その量と速度は、もう人間には追いつけないレベルです。でも「それが正しいかどうかの判断」は、まだ人間の仕事です。

ここで少し面白い話があります。ディープリサーチが普及すると、「調査が速くなった分だけ調査の仕事が減る」とは限りません。むしろ歴史的には、道具が効率化されると、今度はもっと高度な調査が要求されるようになりがちです。自動車が普及しても「移動する仕事」はなくならず、むしろより遠くへ行くことが当たり前になった——それと同じことが調査の世界でも起きるかもしれません。
DRACOという採点基準が生まれたのも、業界がそのことを認めたからだと思います。「嘘の重さ」を数字にしたのは、嘘が存在すると知っているからです。Aletheiaが「解けない」と言える能力を持たせて設計されたのも、同じ方向の意志を感じます。
ディープリサーチは、調べる手間をなくしてくれます。でも、考える手間は、まだ人間のものです。
問いを持って使うこと。それが今できる最善だと思います。

💡 一行まとめ： 道具の限界を知ったうえで使うことが、今もっとも賢い向き合い方です。
参考資料：「2026年におけるAIディープリサーチの進化、技術的アーキテクチャ、および社会経済的影響に関する包括的分析（Third Revision）」をもとに執筆しました。Mata v. Avianca事件については連邦裁判所の公式記録（No. 22-cv-1461, S.D.N.Y. 2023）を参照しています。
本文中の数値（14.5時間・21分・100万トークン・最大90%）は原論文に記載された数値です。21分については企業での導入事例として報告された数字であり、環境によって異なります。90%については複雑な文献統合タスクにおける報告値であり、タスクの種類によって大幅に異なります。