【AIとの距離感】AIが苦手なことを知ってから、頼み方が変わった｜テキスト生成AIの不得意なこと

前の記事を読んでいるとより理解しやすくなっています。
はじめての方は先にこちらをどうぞ。

🙅 「なんでもできる」と思っていた時期があった

使い始めたころ、Claude・Gemini・GPTは「なんでも答えてくれる存在」に見えていました。

でも1年使ってきて、得意なこと・苦手なことの輪郭がだいぶ見えてきました。今回は、これまでのシリーズで断片的に触れてきた「苦手なこと」を、あらためて整理してみます。

🔢 正確な計算や数え上げ

LLMは「次に来やすい単語」を予測する仕組みだと、以前の記事で書きました。つまり、数字の計算も「答えとしてもっともらしい数字」を予測しているだけで、実際に計算しているわけではない場合があります。

簡単な計算は問題なくても、桁数の多い掛け算や、文字数のカウントのような単純作業で間違えることがあります。「この文章は何文字ですか」と聞いて、微妙にずれた答えが返ってきた経験が自分にもあります。何度か聞き直して、結局自分で数えたこともありました。

これは以前の記事で書いたハルシネーションとも関係していて、「もっともらしく間違える」という性質が、計算の場面でも出てくるようです。

ここは今、少し状況が変わってきています。今のClaude・GPTは、計算が必要な場面で裏側でプログラムを実行して、正確な答えを出す仕組みを備えるようになっています。「予測でそれっぽい数字を出す」のではなく「実際に計算させて、その結果を持ってくる」という動き方です。すべての計算で自動的に使われるわけではありませんが、以前よりは信頼できる場面が増えている印象があります。

🕰️ 最新の出来事を知らないこと

以前RAGの記事で書いた通り、LLM自体は学習した時点までの情報しか持っていません。検索と連携すれば最新情報にも対応できますが、連携していない場面では「知らない」ことがあります。

これは仕組み上どうしようもない部分で、「知らない」と正直に言ってくれる場合はいいのですが、たまに古い情報をもっともらしく答えてしまうこともあります。ここも結局、ハルシネーションの話に戻ってきます。

一方でこちらも、検索連携が標準的になったことで様子が変わってきました。Claude・Gemini・GPTのどれも、必要に応じて自分でWebを検索してから答えるようになっています。「学習データの範囲でしか知らない」という前提そのものが、少しずつ過去のものになりつつあるのかもしれません。

💭 「今の自分の感情」を正確に汲み取ること

Season 1で「弱いAIと強いAI」の話を書いたとき、Claudeに「今自分が何を感じているか」を正確に把握してほしいとき難しさを感じる、と書きました。

AIは文章から感情を推測することはできますが、書かれていない部分、言葉にならない部分を汲み取るのは苦手です。人間同士でも難しいことなので、当然といえば当然かもしれません。

文章の相談をするとき、自分の状態を具体的に言葉にして伝えるほど、返ってくる答えの精度が上がる、というのは経験的に感じています。そのことに気づくまで、しばらく「なんでわかってくれないんだろう」とモヤモヤしていた時期もありました。

📏 長期的に一貫性を保つこと

長いやり取りの中で、AIが以前言ったことと少し違うことを言う、という経験があります。

Season 2でAttentionの話を書いたとき、文脈を保つ仕組みについて追いましたが、それでも会話が長くなったり、複雑な条件が重なったりすると、一貫性が崩れることがあります。

自分がClaudeに長い記事の推敲を頼むとき、途中で「さっき言った条件、忘れられてないかな」と確認することがあります。完璧に覚えているわけではない、という前提で接するようになりました。

このあたりも、一度に扱える文章の量（コンテキストウィンドウ）がどんどん広がってきていて、以前より長いやり取りでも条件を保ちやすくなっている実感はあります。それでも完璧ではないので、大事な条件は要所で確認する、という自分のクセは今のところ続けています。

🔗 苦手なことを知ってから、頼み方が変わった

苦手なことを知る前は、「なんでも聞けばいい」という感覚で使っていました。今は少し違います。

計算が必要なら計算してもらった後に自分でも確認する。最新情報が必要ならその旨を伝える。感情を汲んでほしいときは具体的に書く。長い作業では途中で条件を再確認する。

万能な相手ではなく、得意・不得意がある相手として付き合うようになった、と言えたらきれいなんですが、正直まだ忘れて雑に頼んでしまう日もあります。

ま、いっか。

あとがき

ここまで読んでくださり、ありがとうございます。

AIって、どんどん進化してますよね。
苦手を克服しつつあることに驚きますわ〜。

今後ますます手放せなくなってきちゃいますねw

よければご活用ください〜

「フォロー」や「スキ」をしていただけると励みになります！
今後ともよろしくお願いします！