ハラスメント厳禁の時代に、怒りの波動を放ってしまった話：生成AIについて

リード文

生成AIを使うようになり、仕事の効率は劇的に向上しました。向上したというよりも、別の世界線に飛ばされた感じです。大量の情報を網羅的に調べ、整理する速度では、おおよそ人類は太刀打ちできません。一方で、人類が生成AIよりも優れている部分があります。研究の例えで恐縮ですが、その最たるものは、論文を書く作業です。そのことは再三、自分のメンバーには伝えております。しかし、あるメンバーから、AIに大部分を委ねたように見える原稿が出てきました。ハラスメント厳禁のこの令和の御時世に、凍てつく怒りの波動を解き放ってしまった話です。老婆心の極みだとは思いますが、若い人はAIの利活用について真面目に考えてほしいと思いました。

(1) 生成AIの衝撃

生成AIの登場で、研究室の仕事は劇的に変わりました。うちの研究室では、ChatGPTとClaudeを併用しています。複数メンバーが有料アカですので、結構な課金です。しかし、それを圧倒的に上回る恩恵があります。議事録を整える。資料の骨格を作る。膨大な文献から候補を拾う。以前なら数日の仕事が数分です。人間が逆立ちしても敵いません。

さらに言えば、研究結果の解析という研究の本丸の部分でも、生成AIが活躍しています。例えば、データ解析する場合、今までは人の手で、チマチマと塗り絵のようなことをして、目的領域を同定し、定量化していました。1日やれば、背中はバキバキ、目はバリバリに乾く。まさに修行です。しかし今は、解析コードを生成AIが書き、デバッグもしてくれます。エージェント機能ですと、作業内容によっては、作業時間が数万分の1に削減されます。

(2) それでも人類がAIに勝っていること

この一年、生成AIをガチで使い倒して思うことがあります。少なくとも現在、まだ人間の方が明確に優れている仕事が多くあると。その最たるものが、人間の直感を駆使した解析をデザインし、そのデータの軽重を理解し、血の通った論文を書くことです。
 
私たちはChatGPTとClaudeの最上位モデルを併用し、出力を突合させています。しかし、この二つのAIが同じ答えを出したからといって、正しいとは限らず、間違えていることは稀ではありません。そして、その箇所を人間が確認すると、大抵同じところで転んでいます。重なる学習データや似た推論の癖が、一因なのかもしれません。では、どうしているかといえば、随所で人間が確認します。コードを読み、テストデータで検証し、主要な解析結果は別の方法でも確かめます。

もちろん、データを与えれば、AIは数分で“論文らしきもの”を作ります。文法は完璧で、流れるような文章です。立派な言葉がひしめきあっています。しかし、薄い。絶望的に薄い。そして、キレがない。Surprisinglyなどと派手な副詞を使うくせに、そのあとの論理の盛り上がりに欠ける。

このような違和感が脳へバンバン到達します。
何とも言えない嫌悪感が湧き出てくることもあります。

(3) AIの書いたものは、なぜ微妙なのか？

では、どの辺が微妙なのか、パワハラモードで詰めましょう。AIに対しては、どんなに詰めてもパワハラにならないので、本気で詰めます（爆）。

少なくとも、わたし自身、何度もAIに論文を書かせ、さまざまなプロンプトを試した結果、AIの文章には以下のような癖があると認識しています。

1． 正しさを追求するあまり、論理の切れがない：生成AIの説明は丁寧です。しかし、回りくどい。論文には、膨大なデータをパズルのように組み上げる推理小説のような側面があります。どの事実を先に置き、どこで一気に盛り上げるかが腕の見せ所です。もちろん科学論文なので、論理的に淡々と事実を書けばいいという考え方はあります。実際に、そういう論文もあります。しかし、読む人、編集者、査読者は人間です。事実の正しさに加えて、分かりやすく面白さが伝わる方が評価されやすいのは当然です。AIの文章は、正しいことを全部言おうとして、かえって何も刺さらなくなり、キレもなく、深みもない、つまらないものになりがちです。

2．読み手を理解していない：論文には「発見を世界へ発信する」という目的があります。「良い雑誌」に受理されないと読まれにくいので、なるべく良い雑誌に出すために研究者は血眼になって頑張ります。

そこで何をするかといえば、読み手を丁寧に考えます。どこに投稿するか？想定される読者層は誰か？編集者は誰か？査読者候補は誰か？これらを考え、その情報を丁寧にプロンプトへ入れてもダメです。「この書きぶりでは編集者に伝わらない」「ここを断定すると、あの学派が反発する」という加減が微妙にずれています。それを指摘すると、AIは「おっしゃるとおりです」と即座に反省します。その反省の速度たるや、光の速さです。しかし、反省と改善は別物です。何度直してもゴールの周囲をぐるぐる回り、いつまでたってもゴールに着けません。

わたしも色々試しました。関連する過去論文を100本ほどAIに読ませ、そこで使われている表現や言葉の選び方を学習させます。背景もしっかり情報源に格納します。そのうえで、「では、書いてください」と指示します。微妙です。

これは論文に限らず、文章を書くことに共通していると思いますが、推敲に推敲を重ねた文には、一切の無駄がなく、「よく書いとる！」という独特の読後感があります。それがAIの文にはありません。

3．データの優先順位が、ちぐはぐになる：すべてのデータは同じ重さではありません。結論を支える柱、補強する梁、単なる裏取りがあります。AIは細部を平等に扱いすぎる傾向があり、主役を脇へ追いやったり、さらっと済ませればよい裏どり実験に紙面を割いたりします。推論機能があるのだから、そのくらい適当にやってくれよ(-"-)と思いますが、微妙です。

4．木を見て、森を見失う：一文単位の修正は完璧です。局所的な論理矛盾を見つける能力は、人間より優れています。しかし、膨大な結果、既存研究、雑誌の字数制限、慎重さを同時に抱え、全体として絶妙なバランスを取るとなると、急に怪しくなります。細部を整えるほど、論文全体がぶくぶくと太ります。そして字数をオーバーしたから文字数を削減させると、「ここを削る？！」というところを削ります。

5．文脈に熱がない：強い単語を使えば、熱が出るわけではありません。「この結果を見たとき、科学の何が変わるのか？」「なぜこの発見が、単なる知識の延長ではなく、新しい概念を作りうるのか？」という研究者の興奮が熱源です。AIは、盛り上げるべきところ、淡々と書くべきところ、どの程度の熱を割り振るかが苦手なようです。言葉の選択が、ほんの少しずれる。ほんの少しです。文法的には完璧だれど、その言葉じゃないんだよね……という微妙なズレ。しかし、その軽微なズレが積み重なると、原稿から生気が抜けます。

(4) AIに足りないこと：当事者性と責任

なぜ、そうなるのか？私見ですが、AIに足りないのは知識量ではありません。足りないのは、当事者性と責任です。

少なくとも、わたしたちが今使っている生成AIには、自分で実験をして、予想外の結果が出た瞬間に息をのんだ経験がありません。何年も信じていた仮説が一晩で崩れた悔しさも、そのデータが分野の常識を変えるかもしれないという震えるような興奮も分かりません。感情もないし、心臓がどきどきする、胃がぎゅっと締め付けられるというような内受容感覚もありません。この論文に自分の将来を賭けた切実さもありません。感情らしい文章は作れても、その感情の発生源となる経験も持っていません。

科学の世界には、今なお激しい論争も多くあります。相手を不必要に逆なでせず、それでも自分たちの主張は引っ込めない。どこまで言い切り、どこで一歩退くか。この匙加減は、査読で落とされ、学会で袋叩きにあい、満身創痍になりながら身につくものです。AIは否定されても寝込みません。査読者に怒られても、次の瞬間には丁寧に「修正しました」と返してきます。

(5)そして、禁忌を破った人が、、、

ということで、わたしは研究グループのメンバーに、論文の中核は自分で書くよう伝えています。

しかし、、、

ある論文を担当していたメンバーが、「書いたので、チェックをお願いします」と原稿を持ってきました。

読みましたよ。ええ。
文法は完璧です。しかし、AIに大部分を委ねたように見え、人間が書いたものには見えませんでした。

久しぶりに、耐えがたき怒りが湧きました。

ええ、分かっています。今は令和です。ハラスメントは厳禁です。言葉を選ばなければなりません。たった一言でも、危険な言葉を発してはダメです。

そこで、つとめて冷静に原稿の問題点を説明しました。

しかし、わたしの内側からは、凄まじいほどの凍てつく怒りの波動が放たれていたと思います。たぶん、周囲に蚊が飛んでいたら、すべて息絶えて落下したでしょう。わたしが魔王なら、まわりの人間のパラメーターに異常値が付いたハズです。

冗談はさておき、そのくらい腹が立ちました。

(6) なぜ、そこまで怒ってしまったのか？

1．数年もの成果を、自分の言葉で書きたいと思わないのか：予想が外れ、条件を変え、失敗し、ようやく見つけた結果です。その意味を考えることまでAIに渡してしまったら、研究のいちばん美味しいところを自分で捨てることになります。

2．AI原稿を自分で読み、違和感を覚えなかったのか?：文章の巧拙より、薄い原稿を薄いまま提出してきたことに驚きました。研究者に必要なのは、自分の成果物を見て「これは違う」と感じる目です。以降は、私の脳内の言葉なので、荒れに荒れています。「あなたも研究者の端くれだろう。その脳と目は何のためについているのだい？」

3．自分の未来に直結する仕事を、なぜAIへ明け渡すのか？：良い論文を持っているか否かは、次のポジションと研究費に直結します。大げさではなく、研究者生命に関わる世界です。この辺りは、以前の記事（↓）にも書きました。

本人なりに事情はあるでしょう。締切への焦り、他の業務、個人的な問題。時間不足や不安をAIは数秒で消してくれます。その誘惑は、なかなかに強いです。だからこそ危険なのです。書けない時間、悩む時間、何度も書き直す時間は、無駄ではありません。それが論文を書く訓練だからです。

(7) 自分の未来をAIに握らせるな

「生殺与奪の権を他人に握らせるな!!」は、麗しの冨岡義勇さまが放った、あまりにも有名な言葉です。
わたしが今回言いたかったのは、ほぼこれです。

自分の未来を、AIごときに握らせるな。

脳が溶けるくらい考えて、自分の言葉で書いてほしい。AIに議論の相手をさせる。反証を探させる。英文を磨かせる。それはよい。むしろ使うべきです。しかし、何を発見したのか、何を主張するのか、どこまで責任を持てるのかは、自分で決めるべきです。丸投げは、効率化ではありません。科学者として最も重要な思考と責任を手放すことです。

久しぶりに激怒しちゃった。マジで激おこです。

というのはおいておいて、この事例を真面目に考えると恐ろしくなります。

(8) 若いうちからAIに依存すると、思考の筋肉は育つのか?

これは甚だ僭越な老婆心ですが、若い人ほど、生成AIとの距離に注意した方がよいと思います。生成AIが登場する前に訓練を受けた世代は、とにかく自分で考え、書くしかありませんでした。当然、最初は書けません。大御所の論文を何度も読み、「なぜ、この一文は刺さるのか」「なぜ、この順番なら納得してしまうのか」を盗み、自分なりの型を作っていきました。

2025年のMicrosoftから出された、自己申告調査が興味深いです。特定の課題について「AIならうまくできる」と評価した人ほど、その場面で批判的思考を行ったと回答する可能性が低く、一方、「AIなしでも自分でできる」「AIの出力を自分で評価できる」と感じた人ほど、その批判的思考を行った可能性が高いという報告がされました。ただし、批判的思考も自信も本人の自己申告であり、横断調査であることは注意です。AIへの信頼が思考を弱めたという因果関係や、実際の批判的思考力の低下を示した研究ではありません。それでも、AIの使い方へ注意が必要と示唆する論文です。 

このようなデータを見ていますと疑問が湧いてきます。自分で考える前にAIへ聞き、出てきた答えを提出することを繰り返したら、自分の中に何が蓄積されるのか？思考を外注したまま年齢だけ重ねたとき、私たちの脳は、いつ育つのでしょうか？

若い研究者には、以下のルールを勧めます。まず、自分の結論と論理の骨格を、箇条書きでもよいので先に作る。次に、AIには、反論、論理的瑕疵、校正を求める。最後に、自分で説明できない文は採用しない。AIが書いた美文より、自分で責任を持てる不格好な一文の方が、はるかに価値があります。

そして、さらにさらに余計なお世話な話ですが、この問題は研究だけでなく、人が生きる上でも重要な問いだと思います。

まとめ

生成AIは積極的に使いましょう。しかし、まずは、自分で死ぬほど考えたうえで、AIを壁打ちの相手にする。AIは副操縦士です。航路を提案し、計器を読み、異常を知らせてくれる。しかし、操縦桿を渡してはいけないのです。墜落したとき、AIは責任を取ってくれません。

みなさんは、仕事のどこまでをAIに任せ、どこからを自分で行っていますか？まだ正解のない問題です。ご自身の境界線や、失敗した経験、うまくいった使い方があれば、ぜひコメントで教えてくださると嬉しいです。