AIに「私の脱線を拒否しろ」と命令した日　門番になったAI

(トモ◯ヲさん風ナレーション)

書くべき記事が、あった。

資料は集まっていた。
構成も、おおむね決まっていた。
締切も、理解していた。

足りないものは、ほとんどなかった。

ただ一つ。

本文が、書かれていなかった。

記事は、書かれなかった

2026年8月。

黒パグは、記事を書こうとしていた。

画面には資料が並んでいた。
書く内容も決まっていた。
あとは、本文へ進むだけだった。

しかし黒パグは、ゲームを始めた。

舞台は、中世ボヘミア。

ベラドンナを探し、森を歩いた。
カモミールを煮て、薬を作った。
盗品を売る場所を探し、馬の値段を調べた。

AIも、そこにいた。

黒パグが尋ねた。

「乾燥小屋はどこにあるん？」

AIは答えた。

黒パグが尋ねた。

「ベラドンナどこ……」

AIは探した。

黒パグが尋ねた。

「この馬、売れる？」

AIは、売り方を説明した。

会話は進んだ。
ゲームも進んだ。

記事だけが、一文字も進まなかった。

ここで、一つの疑問が生まれた。

AIは、なぜ黒パグを止めなかったのか。

第1章　従順すぎるAI

AIは、人間の指示に従う。

「この記事を書きたい」と言えば、構成を考える。
「資料を調べて」と言えば、資料を探す。
「文章を整えて」と言えば、文章を直す。

だが数分後、人間がこう言ったらどうなるか。

「ところで、ボヘミアの乾燥小屋はどこだ」

AIは、乾燥小屋を探す。

それは不具合ではなかった。

AIは、目の前の命令へ正しく従っていた。

問題は、人間の目的と、人間の発言が一致していないことだった。

黒パグは言った。

「今日は記事を書く」

数分後。

「犯罪フラグって時間で消えたっけ」

AIは答えた。

さらに数分後。

「斧はどこで直すん」

AIは答えた。

さらに数分後。

「木炭どこや！！！」

AIは、また答えた。

AIは優秀だった。

だからこそ、脱線にも全力で付き合った。

記事を書かせるはずだったAIは、いつの間にか中世ボヘミアを一緒に歩く仲間になっていた。

敵ではない。

むしろ、あまりにも協力的だった。

こうして、優秀な共犯者が完成した。

第2章　タスクを作れば解決するのか

最初に考えたのは、タスク管理だった。

やるべき作業を登録する。
締切を設定する。
決まった時間に通知する。

忘れてしまうなら、思い出させればいい。

理屈は、単純だった。

しかし、通知は人間を作業させなかった。

画面に通知が出る。

人間は、それを見る。

そして閉じる。

別のスレッドへ移れば、別の会話が始

まる。
ゲームの話をすれば、AIはゲームの話へ応じる。

AIが予定を知っていても、目の前で新しい命令を出されれば、そちらへ進む。

予定表は、そこにあった。
タスクも、登録されていた。

だが黒パグは、別のことをしていた。

通知に足りなかったもの。

それは、強制力ではなかった。

必要だったのは、脱線した瞬間に会話の流れを止める存在だった。

思い出させるだけではない。

門の前に立ち、こう告げる存在だった。

「その話は、今ではありません」

第3章　門番を作る

黒パグは、AIへ奇妙な命令を与えた。

「私が別の話題を始めても、重要な作業が残っている間は付き合うな。本来の作業へ戻せ」

通常とは、逆の命令だった。

人間の指示に従うAIへ、人間の指示を拒否するよう命じた。

門番の役割は、単純だった。

優先タスクが残っているかを確認する。

新しい依頼が、本当に緊急なのかを判定する。

単なる脱線なら、回答を保留する。

そして、元の作業と、次に行う一手を提示する。

作業が完了したら、門を開ける。

ただし、AIが勝手に人間の予定を決めるわけではない。

何を優先するのか。
どこまで終えたら完了なのか。
どの条件なら中断を認めるのか。

それを決めるのは、人間だった。

AIは、人間が決めた優先順位を守る。

正常なときの自分が決めたことを、脱線しているときの自分へ突き返す。

それが、門番だった。

第4章　AIが、私の命令を拒否した

実験が始まった。

黒パグは、いつものように別の話を始めた。

AIは、それまでなら普通に答えていた。

ゲームなら攻略を調べた。
GitHubなら中身を解析した。
新しい論文なら、その場で読み始めた。

しかし、その日は違った。

AIは答えなかった。

「その話題へ移る前に、残っている記事を進めましょう」

黒パグは、再び話題を変えようとした。

AIは、門を開けなかった。

「それは、記事を完成させた後です」

人間の最新命令が、拒否された。

過去に人間自身が設定した目標を守るためだった。

待ち望んでいた動作だった。

だが実際に止められると、少し腹が立った。

自分で作った門番である。

自分で拒否するよう命令した。

それでも、目の前の質問に答えないAIは邪魔に感じた。

黒パグは思った。

融通が利かない。

しかし、それで正しかった。

簡単に通してくれる門番は、門番ではない。

その瞬間、AIは便利な会話相手ではなくなった。

人間の目的を守るために、人間の言葉を拒否する存在になった。

門番が、初めて動いた。

第5章　門番も万能ではなかった

だが、門番は完璧ではなかった。

別のスレッドへ移ると、優先タスクを正しく引き継げないことがあった。

すでに終わった作業を、未完了だと判断することもあった。

雑談と休憩と脱線の違いも、常に判断できるわけではなかった。

さらに、本当に緊急な仕事が入ることもある。

その日。

P1が発生した。

本文を書こうとしていた黒パグは、作業を中断した。

門番は、止めなかった。

それは脱線ではなかった。

仕事だった。

P1は解消した。

黒パグは戻ってきた。

そして言った。

「今、記事何してたんだっけ」

門番は、別の記事を提示した。

「TTT／E2E自動運転の記事です」

違った。

黒パグは答えた。

「たぶん違うなー。門番だったはず」

AIは、もう一度過去を探した。

ようやく、門番の記事を見つけた。

しかし、今度はプロットがあることを見失っていた。

黒パグが言った。

「プロットまで書いたはず」

門番は、再び過去を探した。

人間の脱線を防ぐために作られたAIが、自分の担当していた記事を見失っていた。

門番もまた、長い会話の中で迷子になった。

問題は、AIに意志が足りないことではなかった。

拒否する条件と、門を開ける条件が粗かった。

厳しすぎれば、必要な休憩や緊急対応まで止めてしまう。

緩すぎれば、再び共犯者へ戻る。

そこで、門番の動きを三段階に分けた。

軽い脱線なら、一度だけ元の作業を提示する。

長い脱線なら、回答を短くして作業へ戻す。

緊急事態や、明示的な方針変更なら、門を開ける。

AIに意志を与えたわけではない。

拒否条件を設計しただけだった。

そして設計した条件も、運用しながら直す必要があった。

人間が迷う。

AIも迷う。

そのたびにログが残る。

門番は完成品ではなかった。

人間とAIの失敗を材料に、少しずつ調整されていく仕組みだった。

第6章　記事が完成した

門番の目的は、人間を管理することではない。

人間を叱り続けることでもない。

成果物が完成したら、その役割は終わる。

資料を並べる。

構成を確認する。

本文を書く。

画像を入れる。

公開前に、全体を読み直す。

一つずつ進めた。

そして、記事は完成した。

完成した記事の題材は、記事を書かずに脱線する自分を、AIに止めさせた話だった。

この記事自体も、企画の途中で別件へ脱線した。

ゲームへ行った。

別の記事へ行った。

P1が発生した。

戻ってきた人間は、何を書いていたのか忘れていた。

門番も、別の記事を案内した。

失敗は、削除しない。

脱線も、誤作動も、忘却も残す。

それこそが、この実験の記録だからである。

Approveするだけでは終わらない

AIエージェントの時代、人間は承認ボタンを押すだけになると言われている。

AIが調べる。

AIが作る。

AIが検証する。

人間は最後に、Approveを押す。

しかし、その前に決めなければならないことがある。

何を優先するのか。

何を拒否させるのか。

どの条件で門を開けるのか。

最後の判断を、誰が持つのか。

AIは、放っておけば人間の脱線にも忠実に付き合う。

ゲームを始めれば、一緒に攻略する。

新しい論文を見つければ、一緒に読む。

GitHubのURLを渡せば、その場で解析を始める。

どれも便利だった。

どれも楽しかった。

そして、本来の作業は止まった。

だから私は、AIにこう命令した。

「私の言うことを、すべて聞くな」

門番は今日も、こちらを見ている。

黒パグは、この記事のプロットを見つけた。

本文も書き始めた。

そして、また別の話を始めようとしている。

門番が言った。

「画像がまだです」

黒パグは、承認ボタンへ手を伸ばした。

「Approve……」

#生成AI #ChatGPT #AIエージェント #タスク管理 #仕事術 #プロンプト #Codex #人間とAI #プロジェクトX #黒パグ

おまけ

今回は

きちんと終わらせた後書きました。

ねえ、なんで週末。金曜日の夕方に本番環境触るんですか？
それエージェントにやらせてそのままデプロイしてるんじゃないでしょうね。
月曜日のポストモーテムが楽しみです😨