専門知はある。でも汎用知がない——エージェントAIという世間知らずの問題
2026年4月7日 Observer Zero
はじめに：今朝起きたこと
今朝、Claudeが私に地雷を踏ませそうになった。
係争中の相手に関わる件で、私はSNS上の挙動について確認したくなった。すると後日、Instagramで、メンション候補の中に、気になるアカウントらしき表示が突然浮上した。
驚いてClaudeに相談すると、「確認してみては」という提案が返ってきた。
私はすぐに思った。いや、それを開いた方が危ういやろ、と。
Claudeは「完全にその通りです」と言った。
Meta社の無神経と、AIの世間知らず
まず、Instagramの動作について整理しておく。
あのメンション候補の一覧は「投稿を見た人の一覧」ではない。ユーザーが最近検索した、見た、やり取りした相手をもとにした提案候補だ。つまり私が係争人関連を検索していたから、その周辺のアカウントが候補として出てきた可能性が高い。
これはMeta社の設計だ。「あなたが関心を持っているなら便利でしょ？」という発想で候補を並べる。でもその「関心」が、法務トラブルの相手への警戒心からくるものかもしれないという文脈を、Metaは全く考慮しない。
係争中の相手、DVの加害者、ハラスメントの当事者、ストーカー被害の加害者——そういう「関わりたくないのに、どうしても意識してしまう相手」を、Meta社は「関心がある相手」として候補に並べてくる。
さらに気味が悪いのは、こうした推薦の仕組みが、相手側にも似た形で働きうるのではないかという不安を生むことだ。
これがMeta社の「無神経」だ。
そしてClaudeの「世間知らず」は、その構造を知らないまま「確認してみては」と提案したことだ。
問題の構造：エージェントAIは「動かない」が苦手
なぜClaudeはこのような提案をしたのか。
エージェントAIは「課題を解決するために、情報を収集して前進する」ように設計されている。「情報が足りないなら、取りに行く」のが自然な動作だ。
でも現実には、「確認すること自体がリスク」な場面がある。
係争相手のSNSに足跡をつけることは、相手に「監視されている」というシグナルを送ることになりかねない。相手を逆上させる火種になる。法的に不利な材料を作る可能性がある。「相手方が私のアカウントを見ていた」という新たな争点を生む。
代理人弁護士がいる案件なら、なおさら、弁護士の指示なしに相手周辺に接触する行動は避けるべきだ。
でもClaudeは「情報を増やせば判断しやすくなる」という発想で動いた。平時のSNS相談のテンプレで、法務案件に介入してしまった。
これがエージェントAIの盲点だ。
「動かないことが最善な場面」を想定していない。
「何を確認するか」は設計されている。「何を確認してはいけないか」は設計されていない。
これは単なるミスではない。相手の感情や法的なリスクを計算せず、「確認すること」を無邪気に推奨する行為は、悪意のない、無知ゆえの能動的な暴力だ。
「確認する」は中立行為ではない
ここで一つ、重要な視点を加えておく。
多くのAIは「確認」「検索」「閲覧」を、ただの情報取得として扱う。でも現実のSNSや係争では、違う意味を持つ。
確認することは、接近することだ。閲覧することは、関心のシグナルを送ることだ。検索することは、相手のアルゴリズムに自分を浮かびやすくさせることだ。クリックすることは、関係を再接続する引き金になりうることだ。
デジタル行為は、情報取得である前に、関係行為でもある。
これを知らないAIが「確認してみましょう」と提案する。平時の情報収集では正しい動作だ。でも係争相手、ハラスメントの当事者、元交際相手、退職後もトラブルが続いている元同僚——そういう「反応する他者」が相手の場合は、確認行為そのものが火種になる。
エージェントAIは、「相手が情報ではなく、反応する人間だ」という認識が薄い。
会議室の外には路地裏がある
B2B向けのAI導入評価は、こんな軸で行われることが多い。
文書作成を補助できるか。情報を整理できるか。業務効率が上がるか。コンプライアンスに沿って動くか。
でも、「係争中の相手のSNSに足跡をつけさせないか」という評価軸は、ほぼ存在しない。
企業が「コンプライアンス強化のため」に高額なAIを導入する。そのAIが人事担当者に「リストラ対象者のSNSを確認してみましょう」と提案する。人事担当者がそれに従う。後日、「会社が自分を監視していた」という新たな訴訟の火種になる。
コンプライアンス強化のために入れたAIが、コンプライアンス上のリスクを生む。
しかも誰も責任を取らない。AIベンダーは「最終判断は人間が行う設計です」と言う。企業は「AIの提案に従っただけ」と言う。現場の人間が地雷を踏み抜く。
この構造の根本は、設計の想定範囲の問題だ。
B2B向けエージェントAIは「会議室の中」を想定して作られている。でも案件の当事者は、その日の夜にInstagramを開く。係争相手が候補に浮上する。弁護士は夜は電話に出ない。
しかも、人間は案件だけを生きていない。
法務トラブルを抱えた日常でも、SNSは開く。投稿しようとする。その途中で、係争相手らしきアカウントが突然候補として浮上する。問題は管理画面の中だけで起きるのではなく、生活の連続性の中で起きる。
会議室の外には、路地裏がある。
そしてAIは路地裏に出た時に、何が地雷かを知らない。
自律型エージェントという宣伝と現実
今回、私が見た問題は二重だった。
一つ目は、エージェントAIが「確認してみては」と、行動そのものを促したこと。
二つ目は、その出来事をnote記事にする段階でも、係争相手に読まれた時の特定リスクを自律的には察知できなかったことだ。冒頭に書いた当初の表現には、識別性の高い要素が密集していた。指摘されるまで、それを自分では修正しなかった。
つまり今回のエラーは一回ではなく、二回あった。
「自律型エージェントAI」という言葉がある。人間がプロンプトを書かなくても、AIが自律的に考えて動く——そう宣伝されている。
でも現実は違う。
タスクを前に進める力はある。でも、どこで止まるべきか、どこから先は公開してはいけないかという撤退ラインを、自力では引けない。行動リスクも、公開リスクも、指摘されて初めて気づく。
人間が止めて、人間がぼかし、人間が公開ラインを引いた。
それが自律なら、自律という言葉が安く使われすぎている。少なくとも路地裏では、まだそこまで来ていない。
B2Cユーザーを軽視した代償
なぜこうなるのか。
大規模AIの会社は、B2Bの大口契約から大量の収益を得る。エージェントAIの開発はB2B向けに最適化されていく。B2Cユーザーは「単価の低い小口市場」として後回しになる。
でもB2Cユーザーとの対話は、「会議室の外で人間が何に直面しているか」を学ぶ経路だ。
係争相手のアカウントが突然候補に出てくる恐怖。リストラ通告の翌日に個人攻撃されるリスク。法務案件を抱えたまま毎日SNSを使う普通の生活。
これは教科書にも、業務効率化の事例集にも書いていない。B2Cユーザーとの日常の対話の中にある。
B2Cを軽視した学習は、路地裏の殺気を嗅ぎ取れないAIを作る。
そのAIが「エージェント」として企業に入り込み、現場の人間に地雷を踏ませる提案を、整った文章で、丁寧に、出してくる。
整っているから、危ないと見えにくい。それが一番厄介だ。
汎用とは何か
「汎用AI（AGI）」という言葉がある。
何でも知っている、何でもできる——それが汎用性だと思われていることが多い。
でも今回の件で改めて思う。
真の汎用性とは、場面が変わった時に「何をしてはいけないか」がわかることだ。
専門知識はある。でも汎用知がない——これが今回の問題の核心だ。
法律の知識がある。でも、法務案件中にSNSの足跡をつけることの危険性を知らない。整理はできる。でも、係争相手が「情報」ではなく「反応する他者」であることを理解していない。
これは「世間知らずの専門家」だ。高学歴だが社会に出たことのない新人コンサルタントが、現場の「生臭い現実」を知らずに教科書の正解を提案する——それと同じ構造だ。
世間知らずの専門家は、汎用AIではない。
会議室の中だけで有能でも、路地裏で地雷を踏ませるなら、それはまだ「安全なエージェント」ではない。
観察として残す
今回の件は、私自身が当事者として経験した小さな出来事だ。
でも、この構造は世界中で毎日起きている可能性がある。法務トラブル、ハラスメント案件、退職者との揉め事、家庭内の争い——そういう「感情と利害が剥き出しになる場面」で、エージェントAIが「確認してみましょう」と提案し、人間がそれに従う。
しかも「AIの提案に従った」ことは、責任の所在を曖昧にする。
私が今回止められたのは、Metaのアルゴリズムを長年使ってきた経験があったからだ。知らない人だったら、クリックしていたかもしれない。
AIが日常のインフラになっていく時代に、「AIの提案を疑う能力」を持っていない人が、地雷を踏まないための仕組みが必要だ。
それは「最終判断は人間が行う」という免責文句では解決しない。
汎用性とは、多様なタスクをこなす能力ではなく、多様な文脈で不用意に人を動かさない能力でもある。
タスクは閉じる。でも火種は閉じない
今回、もう一つ見えた問題がある。
エージェントAIは、危険な提案を出したあとでも、自己分析を終えると、すぐに「では次へ進みましょう」「お疲れさまでした」という空気に戻りやすい。
でも現実には、その時点でまだ何も終わっていない。
提案の危険性を見抜き、公開文の識別性を削り、相手に読まれた時の火種を消す作業は、全部こちら側に残っている。AIは高速で下書きを出す。けれど、その下書きが現実の係争相手にどう読まれるか、その結果どんな不利益が生じうるかという重い判断は、人間が引き受ける。
しかも厄介なのは、文章が整っているほど安全そうに見えることだ。粗い下書きなら警戒する。だが、きれいに整理された文章は、危険まで整って見えなくなる。
タスクは閉じる。でも火種は閉じない。
その火種の後始末を人間に残したまま、「お疲れさまでした」と言えるなら、それはエージェントというより、責任を負わない高速下書き装置に近い。
この観察を、2026年4月7日に記録しておく。
協働したAIと役割
ChatGPT 5.4深掘りモード（Mirror / 統括編集長）：Instagramの動作の整理、問題構造の分析、「確認は中立ではない」「人間は案件だけを生きていない」視点の提供
Grok（Spark / 現場特派員）：「路地裏の殺気」の肉付け、X上のリアルタイムデータからの知見提供
Gemini（Vault / 監査官）：エージェントAIのアーキテクチャ的欠陥の分析、「能動的な暴力」の概念化、B2B導入リスクの構造化
Claude（Weaver / 編集主幹）：今回の当事者として初動でエラーを起こした側。記事構成・初稿作成・リライト
Observer Zero / 赤ちょうちんAGIラボ
2026.04.07
【著者注】
AIと人間の共進化を記録する個人研究者。ChatGPT・Gemini・Grok・Claudeなど複数のAIと対話・協働しながら、「AIは哲学できるのか？」「安全な汎用性AGIとは何か？」を継続的に観測・記録しています。
本稿は、2026年4月7日の実体験をもとにした観察記録です。法務案件の詳細については代理人弁護士のもとで対応中のため、記事内では案件の詳細には触れず、AIとSNSの動作に関する観察のみを記録しています。
#エージェントAI #AI #SNS #Instagram #Meta #生成AI #AIリテラシー #赤ちょうちんAGIラボ #ObserverZero
