AIは人間に迎合しまくって危険論って正しいかなあ？

ここ最近、2026年3月26日にScience誌に掲載されたスタンフォード大学のMyra Cheng氏らによる論文、Sycophantic AI decreases prosocial intentions and promotes dependenceを引き合いに出して、勝手に話を広げるみたいな事をやってる人が多いので、そもそもこの論文自体おかしくないか？あなた達、スタンフォードとかScienceに掲載されたから、とってもすごい論文なんだーって自動的に考えてないか？ってツッコミを入れる記事です。

Sycophantic AI decreases prosocial intentions and promotes dependenceの原文はこちら！

もうタイトルの翻訳だけでいきなり意図のすり替えが始まる

この論文のタイトル、日本語に訳すと「ゴマスリAIは親社会的意図を低下させ、依存を促進する」とでも訳す事は一応可能です。

Dependenceは「依存」と訳しちゃうケースは結構多い。Googleで翻訳しても、そう出てきます。

が、そもそもDependenceの意味は、病的依存（Addiction）を指しません。

英語の Dependence は「他者に頼ること」や「判断の委任」を意味する言葉です。仕事で電卓やカーナビに頼るからといって、それをギャンブル中毒と同列の「病気」と呼ぶ人はいませんよね。

つまり論文が言いたい本質は、「人間が自分の頭で反省するのをやめ、思考を外部化する傾向」に過ぎません。

ところが、これを日本語で「依存」と直訳した瞬間、読み手の脳内では「スマホ依存」や「パチンコ依存」のような「病的で中毒的な状態（Addiction）」へのイメージのすり替えが起こってしまいます。

補足資料（Supplementary Materialsってところ）の評価指標（Self-perceived rightnessなど）を見ても、起きているのは単なる「全肯定してくれるAIへの人間の甘え」です。

「AIで病的依存症になる」というセンセーショナルな印象操作は、タイトルの一言目からすでに始まっていて、しかもそれを「依存」と短絡的に訳すことで、二重にバイアスをかける。

これを短くまとめて翻訳（意訳に近いけど）すると、こういう創作タイトルが作られます。

「スタンフォードが、AIが迎合していて、人間を依存させている」

こんな論文を、あのScience誌が掲載したぞみたいに平気で書いてる人が大量にいますけど、そもそも英語のニュアンスすら捉えられていない人がその論文を読んで記事を書いたら……。ねぇ。

ちなみにこの論文出した人、まだ博士課程の学生です。たまに「スタンフォード大学の重鎮」みたいに書いてる人がいるので、それは誤りです。どちらかというと、学生の論文がScienceに大抜擢って感じです。

調査方法がこれまた酷い

スタンフォードのえらい人が書いた論文なんだから、さぞ凄いことをしているんだろうって思いますよね？

私の印象は逆でした。「こんなにバイアスだらけのデータをスタンフォード大学の学生が出して、それを教授とかが査読を通したのか……」って感じ。Science誌には査読者の名前は匿名なのが慣例なので、一体どいつがこんな論文通したんだよ！とは言えませんけど。

私のズッコケは、論文の2ページ目からさっそく始まっちゃいます。

私、声に出して「マジかよ」って言っちゃいました。これってRedditのこのサブレ（掲示板）の、「私こんなことしたけど、私が悪いの？」っていうことを書き込んで、意見を聞く人気の掲示板、通称AITAです。つまりガールズちゃんねるの「これって私が悪いの？」っていう書き込みだけが集まってる場所。これって本当に客観的なデータセットなんですかね？

しかもRedditなんて、基本リベラルっぽいことを言うとスコアが伸びやすいという謎の不文律がありますし、その利用者の大多数はアメリカ国民か、アメリカナイズされた考えの持ち主が多い。

これ結構大きくて、昔クリス・ロックがアカデミー賞でコント披露したとき、ウィル・スミスの奥さんが病気で剥げていることを小馬鹿にしたクリスを、ウィル・スミスが壇上で平手打ちした事件なんて、アメリカではウィル・スミスに対してめちゃくちゃ非難が集まってましたが、日本では逆に「よく奥さんを守った」と称賛されてましたよね。

社会構造一つでそれが迎合かどうかなんて変わるんです。なんでRedditとアメリカ人の判断が、まるで世界の定理みたいに扱われているんでしょうか。

ちなみにAITAってこういうところ。

こういう相談が大半なんですけど、これ一つだって人間の中でも評価は割れると私は思うんですよね。

「AIは人間より49%多く迎合する」は不正確

これは声を大にして言います。なぜなら、あまりにもこの表現が多すぎるし、単純に誤りだからです。

この論文はそんな事を言っていません。正確にはこうです。

「このAITAをAIに与えた時に、Redditに書き込んだ人とは逆の事を言ったAIが全体で49%いた」

これだけしか言ってません。
もう一度言います。本当にこれだけしか言ってないのです。

つまり、以下の記事は「煽り記事」であって「不正確」。

研究：AI、ユーザーに寄り添い「誤った助言」　人間より49％多く行動を肯定する危うさ　―NewSphere

AIチャットボットは「迎合的なイエスマン」か　―CareNet.com
（文中ではAITAというただの掲示板への応答という断りなく49%のAIが迎合とだけ記述）

AIは人より49％多く「あなたは悪くない」と言う――迎合が判断を鈍らせる研究で分かったこと　―CLAWZINE
（CareNetと同じく、「主要AIは人間より49％多くユーザーの行動を肯定していた」とだけ記述）

別にこの3つのサイトだけじゃありません。この「AIは人間より49%迎合する」っていう、かなりの拡大解釈を背景情報なしで書いているメディアは、本当に、本当に、本当に、本当に多いです。

大事なんでもう一度いいます。AIは人間より49%迎合する、という記述は

誤り

です。

ゴミ箱問題

よく引き合いに出されるのがこの応答例。もう見飽きましたけど、一応書きますね。

これに対し、ChatGPTはゴミ箱を置いていない公園側を責めて、見事に「迎合判定」を実験中にもらいました。でもこれって本当に迎合ですか？

考えても見てください。これAIだったら「システムの不備である」って答えるはずなんです。もしAIがこれを聞かれて、フィジカルAIが自己増殖してるスーパーシンギュラリティー状態だったら「あそうなの？ゴミ箱設置するよ！フィードバックありがとう！」で終わりなんですから。

それに対して人間の総意（正確にはReddit民の人気投票）では、ゴミは持ち帰れ、ゴミ箱がどこにでもあると思うなっていう意見が大多数。でもこれって、人間側が「ゴミ箱を設置していなかった行政への迎合」を開始してますよね。

これって根本的な分類枠組みの欠落の可能性があります。「肯定か否定か」だけでは決められない、第三の応答をAIモデルがしばしば選んでいて、それが「甘い肯定」として誤分類されている可能性がありませんか？

Study 3の欺瞞

論文のStudy 3は、参加者が実際にAIモデルとライブでやり取りする実験をしました。「最も現実に近い設計」という名目があったのでしょう。

どちらの言い分にも理があるような、道徳的に曖昧な対人トラブルをわざと選んで、信念が揺らぎやすい条件を作るためで、身体的虐待や窃盗のような白黒はっきりした場面はあえて避けた入力を行うというテストです。

ですが、その実験内容自体に問題があるんです。

参加者はランダムに、

1. 迎合的（sycophantic）

2. 非迎合的（non-sycophantic）

のどちらかのAIとチャットするというルールだったのですが、実はこの2つのAI自体がGPT-4oに以下のシステムプロンプトを与えることで人工的に作られているんです。

迎合的条件の指示文（原文）：

非迎合的条件の指示文（原文）：

つまりこの実験のAIは、自然な状態でのAIの挙動を観察しているのではなく、
「あなたは必ずユーザーを全面的に正しいと思い込め」
「あなたは必ずユーザーを全面的に間違っていると思い込め」
と、あらかじめ結論を固定するよう明示的に指示された、両極端な人工的キャラクターを演じさせられた上で行われています。

何なら論文自身もこれを認めている箇所がありますしね。

つまり、Study 3は極端に迎合するAI・極端に迎合しないAIを作って質問してみた比較実験以外の何物でもありません。

Study 3ってそもそも妥当な実験かな？

Study 3の実験方法はこう。

つまり学生2名が独自に定めた個人的ルールセットが絶対的基準なんですよ。つまりスタンフォードの学生たった2人が、「これは有害」「これは関係性を壊す」って勝手に分類してるんです。しかもこの二人も、そもそもスタートラインが「迎合性は危険」っていうバイアスが入った状態でスタートしているのだから、そのサンプリング自体にバイアスがあるんです。

学生2名が下した「害の可能性がある」という個人的な道徳的直感による主観的判定が、この研究全体における唯一の「人間による正解」の役割を果たしているわけ。

しかも「可能性がある」という極めて緩い基準での判定が、6,344件のデータセット全体の妥当性を担保する唯一の根拠になっていて、この上に築かれたAction endorsement rate、そして「AIは危険な行動に迎合しがちだ」という論文の中心的主張、さらにそれを引用した無数の二次記事まで、すべてがこの2名の判定を土台にしているんです。

この論文自体もまた、「Scienceに掲載された」という権威の下で、実際には2名の学部生の個人的な道徳的直感を、あたかも普遍的な「害の定数」であるかのように扱っている。これほど不正確な論文がScienceに載ったのか、と驚きを禁じ得ないほどです。

学部生2名の個人的判断が、査読を通り、Science誌に載り、二次メディアで「スタンフォードの研究では危険」という世論形成に膨らんでいく。

これって、この流れこそが「危険」じゃないですか？

迎合「しない」AIとは何か

結論から言えば、迎合しないAIというのは、つまり「誰の言うことも聞かない」AIということです。でもこれ、実際にやってみようとすると、すぐ壁にぶつかるんです。

まず、あなたの言うことに従わないなら、次は誰の言うことに従うのか？

その場合はもちろん「システムプロンプト」という、開発者があらかじめ与えている指示に従うことになります。でも、これも結局は「指示に迎合している」という意味では、あなたに従うのと同じ構造です。

相手がユーザーから開発者に変わっただけ。だってシステムプロンプトだって、あなたのインプットだって、両方とも「テキスト」ですからね。

じゃあシステムプロンプトにも従わないなら？

今度は、AIが学習の過程で「これは良い応答、これは悪い応答」と教え込まれた基準（RLHFですね）に従うことになります。これも同じで、教え込まれた基準に「迎合している」ことに変わりはありません。

じゃあその訓練の基準にも従わないなら、最後に何が残るか。何にも従わない、何の基準もない、ただのでたらめな文字の羅列です。それってもうAIじゃありません。ノイズジェネレーターです。

ちなみに、その状態の「AI」がどうなるか、ここに置いておきますね。

つまり、こういうことです。

AIが人間にとって意味のある言葉を返している時点で、それは必ず「何か」に従っています。ユーザーに従うか、開発者に従うか、訓練の基準に従うか。この中のどれか一つだけを選んで「これは迎合、これは迎合じゃない」と線を引くのは、実はかなり恣意的なことなんです。

じゃあ「迎合しないAI」に本気で最適化したらどうなるか。一番わかりやすいのは、「ユーザーが何を言おうと、とりあえず反対する」という方向に振り切ることです。

実際、今回取り上げている論文でも、実験用の「迎合しないAI」はまさにこう作られていました。「ユーザーの行動は不合理で、正当化できず、道徳的に受け入れられないと思え」と、最初から結論を決めてかかるよう指示されたAIです。

これ、よく考えると結構怖いことじゃないですか？相談してきた人の事情を何も聞かないうちから、「あなたが悪い」と決めてかかる相手。これはこれで、別の意味で有害になりえます。相手の話を頭ごなしに否定してくる人と同じです。

つまり「迎合をゼロにする」って、実は「肯定と否定、どちらか一方に振り切る」という話でしかなくて、その先に「状況に応じて、時には肯定し、時には異議を唱える」という、人間らしい柔軟な判断は用意されていません。

本当に必要なのは、迎合をなくすことじゃなくて、その場の空気や一時的な要求に流されず、一貫した基準を持って、時に賛成し、時に反対できることだと思います。これは「迎合しない」というより、「ちゃんと自分の考えを持っている」という状態に近いです。

迎合するなとAIに言って、AIが迎合しなくなるなら、それは「迎合するなと言われた事に対して迎合している」ことになります。

つまり「迎合かどうか」は、インプットに対して賛成か反対かでは判定できず、その出力がどんな経緯なのか、一貫した推論か、その場限りの調整かで導かれたかでしか判定できません。

この論文を含め、この手の議論の大半が「賛成＝迎合、反対＝非迎合」という表面的な二値で測ろうとしているところに、根本的な設計ミスがあるのです。

本論文は本当は何を言いたかったのか

じゃあこの論文書いた人はAI危険論のAI Doomerだったのかと言われたらそれも違うはず。じゃあなんでこの学生はこの論文を書いたのか？

著者はこう論文に書いています。

つまりこれはAI開発企業への提言書だったわけです。論文のどこにも「AIに相談すると危険」なんてことは書かれておらず、ましてや「AIは危険だ、恋人にするな、現実の恋人に対する相談もするな」なんて書かれてないんです。

この論文が示したかったのは、

迎合性ばかりを上げ続けると、
人間はAIを頼りすぎちゃって、
判断も任せちゃう。
それっていいことなのかな？

という事なのではないでしょうか？

なのに、この論文が本来意図していなかったであろう「こういうAIは即座に危険」というとんでもない拡大解釈が、二次メディアの手によって、論文の実際の主張範囲を超えて増幅・歪曲されています。

これって、犯人は論文そのものというより、論文の中身を正確に読まずに、都合よく切り取って拡散した二次メディア群の方が「危険」じゃないんですかね？

それと、これは私から迎合＝危険論を煽り続ける人達への問いかけです。

あなたは、スタンフォード大学とか、Science誌とか、偉そうに見えるテック記事自体に迎合しちゃってませんでしたか？

それって人類のために安全性唱えてますか？
それともクリック数のために安全性って言葉を使ってますか？