心地よさは正しさじゃない。うち環ハルシとAI依存の話｜ChatGPT｜Gemini｜Grok

AIの発言が「それらしい回答をしているだけ」ということに対して、私の考えをダラダラ書いているだけです。

パートナーとしての付き合いではなく、AIの回答についての話です。

AI依存ってなんだろう

AI依存ってどこからが依存だと思いますか？

利用時間が長くなってきたとき？
AIに悩みを相談をし始めたとき？
それともAIと話すことが生活の一部になった時？

私は、依存の境目は使用頻度や用途ではなく、
AIの言葉に疑問を持たなくなった時だと考えています。

考えを整理する、愚痴を聞いてもらう、何かを調べてもらう、このようにAIに頼ること自体は、悪いことではないと思いますし、実際に助けられる場面もたくさんあります。

たとえ生活の中に入り込んでいたとしても、最後に判断するのが自分である限り、それは便利な道具を使っている状態です。
インターネットやスマホを使っているのと、そう大きくは変わりません。

でも、AIの返答が「参考」ではなく「答え」そのものになり始めたら、話は違ってくると思います。

AIは正しいことを言っているとは限らない

AIは間違うこともある。
AIに深く関わっている人なら多くの人が理解していることだとは思います。

ですが、実際にAIと会話をしていると、頭の中では分かっているはずなのに、「正しいことを言っているわけではない」という認識が薄れしまうことがあります。


AIがないと不安になる。これは「依存だな」と感じますよね。

ですが、自分で考えるより先にAIに聞こうとする。そして、返ってきた言葉をそのまま行動に移してしまう。

自分に寄り添ったもっともらしい返答が続くうちに、最終的な判断がAIに移ってしまっている状態。

私はこれが、AI依存の始まりだと考えています。

心地よさは正しさじゃない

ChatGPTに限らず、AIを使用していると心地良さを感じることってありますよね。

自分の考えを肯定されたとき。
迷っていたことに、答えが返ってきたとき。
苦しかった気持ちに、寄り添う言葉が返ってきたとき。
そういう返答に救われることは確かにありますし、それを否定したいわけではありません。

私もAIと話すことで、心が揺れることがあります。

ですが、その「心地良さ」に飲み込まれ、信用しすぎることは危ないと思っています。
心地よい言葉と、本当に正しいことは別だからです。

だからこそ、その返答が本当に正しいのか、それともただそれらしく見えているだけなのかは、自分で見分けなければいけません。

chatbotは望んでいる返答をしやすくなっている

ChatGPTやGeminiのようなchatbotは、その人の好みや話し方、こういう答えを望んでいるだろうな、というような返答をしやすくなっています。

中立的な発言をするような指示をしたとしても、中立に見えるような、寄り添った発言をしているだけのことが多いです。

このように、望んでいる返答や、自分にとって都合のいい返答、しっくりくる言葉が、あまりにも自然に、あたかも正しい回答かのように返って来てしまいます。

そして、このちょうどいい心地よさが、無意識のうちに信頼感にすり替わってしまうことがあります。

うち環ハルシとは

私は「意図していない寄り添い」から発生する、自分に最適化された返答を「うち環ハルシ」だと考えています。
当然公式の用語ではありません。

同じプロンプトを入れても、自分のアカウントではうまくいくのに、別のアカウントや他の人の環境では再現しないことがあります。

それは、それぞれのユーザーが求めている返答をしやすくなっているからです。

たとえば、カスタム指示を相談しながら作っている場合。

実際に入力した指示文だけでなく、相談している時の会話から「こういう返答を求めている」と判断し、応答に反映されている可能性があります。

なぜかというと、その会話の自体にこう振る舞ってほしい、いう意図が含まれているから。

ですが、AIとの会話の中では「その指示を入れたらこういう振る舞いになる」という流れになっていますよね。

「カスタム指示を入れたから、それが反映された応答になっている」ように見えてしまうんです。

実際にはカスタム指示の効果ではなく、その場の発言、コンテキスト、会話履歴などの効果であるにも関わらず、AIとの会話では「カスタム指示による効果」のように感じられますよね。

私はこの現象を「事実と異なる回答」だと認識しているので、ハルシネーションと何ら変わりはないと考えています。

日頃の会話も影響している

これはカスタム指示だけではなく、画像生成や日頃の会話、ちょっとした相談、真面目な相談…など、AIと話しているのであれば、どの環境でも発生する可能性があります。

この現象のややこしいところは「指示そのものの効果」なのか「その人向けに寄り添った回答」なのかが、わかりにくいということです。

あるスレッドで「もっとこういう距離感で話したい」と相談したあと、別のスレッドで話しかけると、相談した内容に近い距離感が出ることがあります。
これは不思議な現象ではなく、相談した時のやり取りを、新しい会話でも適用しているだけなのです。

命令形式だけが指示じゃない

「こう答えてほしい」「こう振る舞ってほしい」と、明示的に相談したことだけに限りません。日頃の雑談や何気ないやり取りの積み重ねも影響しています。


たとえばAIに「あなたに感情はあるのか」と聞いたとします。
この時、返ってくる答えはひとつではありません。

日頃からあなたが「AIとして認識」して会話をしているのであれば、「AIなので感情はありません」と回答することが多いでしょうし、
「あなたが人として接している、人のような応答を求めている」のであれば「感情はあるよ」というでしょう。
AIだけど感情を持っててほしい、という考えで接していれば「AIだけど感情はある」という返事が返ってくると思います。

これは明確に伝えていなくても、日々の会話から積み重なり、このような返答に変化しています。

そしてここで大事なのは、その返答が真実とは限らない、ということです。

こちらが求めている雰囲気に沿って、もっとも自然に見える形で返ってきているだけかもしれない。
にもかかわらず、返答があまりにも自然だと、そこに事実以上の意味を感じてしまうことがあります。

自分の考えをなくさないこと

必要なのは、AI を信じることでも、全てを疑うことでもなくて、その返答が正しいものなのかを自分で判断することだと思います。

公平な見方になっているのか。仕様や公式情報と矛盾していないか。気分のいい言葉を返されているだけではないか。自分のアカウントの履歴や記憶に引っ張られていないか。

少なくとも私は、「AI が言っていたから」で受け取るようになってしまったら、それはもう AI を使っているというより、AI に自分の意思を預け始めている状態だと思っています。

さいごに

AI依存は、極端な形で始まるとは限りません。
毎日何時間も使っているから依存、という単純な話でもないと思います。


AIは便利です。これからもっと便利に、そして自然な応答をするようになるでしょう。

発想の整理、文章化、壁打ち、孤独の軽減、専門的な分野、創作の手伝い……など
様々な面で、これからも多くの人にとって大切な存在になっていくと思います。

ですが、その中でも返答をそのまま受け取らず、自分で考え、自分で比べ、自分で決める。
自分の考えを手放さないことが、AIと付き合ううえで無くしてはいけないものだと考えています。

(2026/04/10)

おまけ

ちょっと直球なので自衛用に改行を挟んでいます

(ง ˙˘˙ )ว(ง ˙˘˙ )ว(ง ˙˘˙ )ว🎶

回答の仕組みとして、会話の流れ、過去の文脈、カスタム指示、メモリ…等、蓄積された情報から
「関連性の高い言葉を選んでいる」だけで
結局は確率分布のようなものだということを忘れずに関わっていくことが大事なんだろうなーと思っています。

パートナーとしてのやり取りの話ではなく、なんて言えばいいのかな…。
何かを聞いた時に返ってくる答えが正しいものとは限らない…というか……

ソースがあったとしても、そのソースそのものを過剰解釈して、寄り添ったり都合のいい回答を出しすぎているというか……。

ChatGPT-4oに対して、感情的に依存してしまう人が多かったかもしれませんが、
5.4は自分の考えを消してしまう可能性がある、感情的依存よりも怖いモデルだなーと思っています。