設立からわずか1週間で100本超、AIを欺いた『偽シンクタンク』の正体

AIチャットボットに何かを尋ねて、その答えをそのまま信じたことはありませんか。忙しい毎日のなかで、AIの回答を「一番手っ取り早い正解」として受け取ってしまうのは、とても自然なことだと思います。ですが今、その「答えの中身」そのものを静かに操作しようとする動きが広がりつつあります。イスラエル政府が資金を出し、AIチャットボットに影響を与えることを目的とした「偽のシンクタンク」がつくられていたことが、海外の報道で明らかになりました。今回は公認心理師としての視点も交えながら、なぜ私たちはこうした情報にだまされやすいのか、そして日常のなかでできる備えについて、一緒に考えていきたいと思います。

何が起きたのか、まずは事実から

先日、外交専門のオンラインマガジン「Responsible Statecraft」や、国内ニュースサイトのGIGAZINEなどで、気になる報道がありました。イスラエル政府が資金を出し、AIチャットボットに影響を与えることを目的とした「偽のシンクタンク」が運営されていた、というものです。

その組織の名前は「ハノーバー公共政策研究所」。イスラエルとパレスチナをめぐる問題についての調査報告のような体裁の記事を、設立からわずか1週間あまりのあいだに、100本以上も公開していました。

驚くのは、その作り込みの精巧さです。脚注や目次がきちんと整えられ、文体は驚くほど中立的。表向きは、どこにでもありそうな「まじめな研究機関」に見えます。

けれど実態は違いました。記事には執筆者名の記載がなく、サイトの片隅には、映画プロデューサーが立ち上げた広報会社が、イスラエル政府の広告予算を使ってこの組織を運営している、という趣旨の記載がひっそりとありました。契約金はおよそ90万ドル。運営会社は自社の技術を「AIストーリー最適化」と呼んでいますが、業界ではこうした手法は「LLM毒殺(LLM poisoning)」と呼ばれているそうです。

偽情報を追跡する専門機関NewsGuardのアナリストは、この研究所が典型的な信頼できるアメリカのシンクタンクを見事に模倣しており、名称やサイトのレイアウト、配色までそっくりだと指摘しています。実際、AI文章検出ツールで記事を調べたところ、大半が「AIによって生成された可能性が高い」と判定されたとも報じられました。

なぜ、AIも私たちも「それっぽさ」に騙されてしまうのか

ここからは、公認心理師としての視点も交えながら、少し掘り下げて考えてみたいと思います。

私たちの脳には、情報の「中身」よりも「見た目」で信頼度を判断してしまう癖があります。これは決して、あなたの注意力が足りないせいではありません。人間の脳がもともと持っている、省エネのための仕組みなのです。

ひとつ目は、権威バイアスと呼ばれるものです。脚注がある、目次がある、文体が整っている。そうした「形式」が揃っているだけで、私たちは中身を精査する前に「きっと正しいのだろう」と感じてしまいます。今回の偽シンクタンクは、まさにこの心理を巧みに突いた設計になっていました。

ふたつ目は、流暢性効果です。読みやすく整理された文章、淀みなく続く論理展開ほど、私たちは「正しい」と錯覚しやすいことが知られています。皮肉なことに、AIチャットボット自身もこれと似た評価の仕方をします。統計や引用、脚注が多く、構造が整ったテキストほど「信頼できる情報源」として重みづけしてしまう傾向があるのです。つまり、人をだます技術と、AIをだます技術は、驚くほど地続きなのです。

みっつ目は、権威の連鎖です。公的な資料や政府機関の発表を互いに引用し合うことで、輪の内側だけで「信頼の輪」を作り出してしまう。これは、魚を誘う疑似餌に少し似ています。本物そっくりの見た目とにおいで、獲物は疑うことなく近づいていく。中身が本物かどうかは、飲み込むまでわからないのです。

今日からできる、3つの小さな習慣

とはいえ、これは「AIも人も、もう何も信じられない」という話ではありません。むしろ私は、これを備える力を育てる良いきっかけだと捉えています。

ひとつ目の習慣は、「誰が、なぜ書いたのか」を確認することです。著者名がない、運営元がぼかされている。そうしたサインに気づけるだけで、ずいぶん見え方が変わってきます。

ふたつ目の習慣は、AIの答えをゴールではなく出発点として扱うことです。気になる話題ほど、一次情報や公式発表まで、あと一歩だけさかのぼってみる。この「あと一歩」が、情報との距離をぐっと縮めてくれます。

みっつ目の習慣は、立場の異なる複数の情報源を、あえて横断してみることです。ひとつの物語に沿った情報ばかりを集めていないか、時々立ち止まって確かめてみる。かつて天文学者のカール・セーガンは、大きな主張を信じるには、それに見合うだけの大きな証拠が要る、という趣旨の言葉を残しました。AIの時代になっても、この姿勢の大切さは少しも変わっていないと、私は思います。

おわりに

まとめると、今回の出来事が教えてくれるのは三つのことです。

情報は「形式」ではなく「中身」で判断すること。AIの答えは万能の正解ではなく、あくまで会話の入り口だということ。そして、疑うことは冷たさではなく、情報を大切に扱う思いやりの表れだということ。

だまされないための一番の力は、特別な知識ではありません。「ちょっと立ち止まって、確かめてみる」という、誰にでもできる小さな習慣です。あなたはすでに、この記事を最後まで読んでくださった時点で、その一歩を踏み出しています。

最後までお付き合いいただき、本当にありがとうございます。今日の記事が、皆さんの明日以降の一歩を考えるきっかけになればうれしく思います。

#情報リテラシー #フェイクニュース #AIチャットボット #ファクトチェック #公認心理師