AIに細かく指示するほど、出力の質が落ちていく | 業界プロが解説するAIの正しい運用方法

AIに、自分の長期記憶を持たせた。

過去の案件も、仕事の進め方も、こちらの好みも、ぜんぶ覚えている。会話を始めるたびに自分が何者かを一から説明する、あの作業から解放される。最初の数日は、本当に感動する。これでようやく、毎回ゼロからやり直さなくて済む、と。

ところが一週間も経つと、気づく。前と同じことをしている。AIが出してきたものを一つずつ点検して、自分で直している。頼んでいないことを勝手にやられる。こちらの意図とは、どこかずれている。結局、いちばん手を動かしているのは自分だ。いい値段を払って最高の設定で使っていても、「こいつ、頭が悪いな」と思う瞬間が何度もある。

ここで多くの人は、こう考える。AIがまだ賢くないんだ、と。あるいは、自分の設定がまだ足りないんだ、と。違う。あなたは社員を雇って、その社員のマイクロマネージャーになっている。記憶を持ったAIに、いまだに「道具を操作する言葉」で話しかけている。つまずきの原因は、それだけだ。

（AIとの協働の基礎は、動画で一通り話している。そのうちの「上司として振る舞う」という部分だけを、ここでは検証しながら深掘りした。）

AIに長期共有記憶を持たせる意味

ふつうのAIは、会話が切れると全部忘れる。昨日詰めた話も、先週決めた方針も、次に開いたときには残っていない。だから人は毎回、自分の状況を一から説明し直すことになる。これを解決するのが、AIの外側に「長期記憶」を置く仕組みだ。自分のプロフィール、いま動いている案件、仕事のやり方を、AIがいつでも引っ張ってこられる場所にためておく。会話が変わっても、AIがそこを読みにいけば、前提を共有した状態から話が始まる。

その作り方は、動画と記事で詳しく解説している。日々のAI活用で記憶をどう持たせるか、その全体像はこの動画にまとめた。

この記事が扱うのは、その先だ。記憶を持たせた「後」で、多くの人がつまずく。「で、結局どう話しかければ、こいつは育つのか」。記憶の置き場所を作っただけで満足して、止まっている人が驚くほど多い。でも、文脈エンジンを組んだだけでは、まだ何も始まっていない。本当に差がつくのは、ここからだ。記憶は前提条件であって、成果じゃない。成果は、そのあと、AIをどう育てるかで決まる。

「設定」するだけでは何故不十分なのか

道具は「操作」するものだ。命令して、出てきた結果を受け取って、違ったら自分で直す。電卓やExcelなら、それでいい。同じ入力には同じ出力が返ってくる。決まりきっているから、操作という関わり方が正しい。

ところが、長期記憶を持たせたAIは、決まりきった道具ではなくなる。過去を覚え、こちらの文脈や意図を踏まえて返してくる。記憶を持てば持つほど、その振る舞いは人間に近づいていく。判断の余地を持った、人に近い相手になる。そこに操作のやり方をそのまま当てると、噛み合わない。手順を最初から最後まで全部こちらが指定するのは、相手から判断の余地を奪うということだ。会社で働いた経験があれば、わかると思う。上司が「まずこうやって、次にこうやって、そのあとこう」と全部の手順を指定してくる。自分で考える余地がない。あれは部下の成長をいちばん殺してしまう管理のやり方で、マイクロマネジメントと呼ばれて嫌われる。記憶を持ったAIに対して、多くの人がまさにそれをやっている。

そして操作モードには、もっと致命的な問題がある。間違いを、自分で直してしまうことだ。AIが変な出力を出す。あなたが手元で直す。早い。その場は片づく。でも、AIは何も学んでいない。次も同じ間違いをする。あなたはまた直す。これが永遠に続く。「便利なんだけど、結局いつも自分が後始末している」というあの疲れの正体は、これだ。あなたが黙って直すたびに、AIは「これは直さなくていいのだ」と学んでいる。そして皮肉なことに、AIを使う量が増えるほど、あなたの後始末も増えていく。手間を減らすために入れたはずなのに、気づけば、AIの出力を点検して直す係になっている。

だとしたら、どうすればいいのか。もっと賢いモデルに乗り換える。もっと細かく指示を書き込む。多くの人は、AIの出力を良くする方法を、そう考えている。実際に効くのは、その逆のほうだ。コントロールを手放すほど、出力は良くなる。いちばん強く手綱を握ろうとしている人が、いちばん悪い結果になっている。

なぜ、逆なのか。

手順を全部こちらが指定すると、出力の上限は、指定した本人の想像力で決まってしまう。意図だけを渡すと、相手の知性がその上限になる。コントロールを手放すほど出力が良くなるのは、単純にそういう仕組みだからだ。

統制か自律か、裁くのか伸ばすのか。同じ問いを、実際のデータで何十年も検証してきた場所がある。

現実のマネジメント手法から学ぶ

Googleには、こんな出発点を持つ調査がある。2000年代なかば、社内で「そもそもマネージャーは要るのか」という疑問が上がった。優秀なエンジニアを昇進させてマネージャーにする、という自分たちの仕組み自体が、本当に機能しているのか。Project Oxygenと名付けられたこの調査は、何千件ものパフォーマンス評価と社内アンケートを統計チームに読み込ませ、評価の高いマネージャーと低いマネージャーの間に、何が違うのかを洗い出した。