小説新人賞の選考が人狼ゲーム化してる件について

星新一賞でAIが台頭してきた、というニュース。そもそもこの賞はAIがOKなのでなんの問題もない(著作権問題については後で述べる)。

この手の議論が出てくると、かつて安部公房がワープロで小説を書いていたときに「魂がない」と批判された話を思い出す人は多いと思う。安部は
「バカな。万年筆からだけ出てくる『魂』なんて、ずいぶん軽薄な『魂』もあったもんだよ」
というようなことを言い返した。道具が変わったところで、書き手の魂が変わるわけではない。

ただ、今起きてるAIをめぐる混乱は、あれとは違う。

万年筆もワープロも、書き手の意図を文字に移す媒体にすぎない。魂は書き手の側にあって、どの経路で紙に落とすかという話だった。
でもAIは媒体じゃなくて生成機で、しかも著作権に触れてる可能性もある。

人狼ゲームに勝てない、という話

自分も仕事上、AI小説を審査しなきゃいけないことが実際にあって、「この状況、人狼ゲームに似ているよな……」と思うことがある。
人狼ゲームは、人間のなかに人狼が混ざっていて、話し合いで誰が人狼かを見抜くゲームだ。このゲームが成立するためには、前提がいくつかある。全員がルールを共有していること。人狼は自分が人狼だと知っていること。市民は自分が市民だと知っていること。そのうえで発言のなかから嘘と本当を読み分ける。プレーヤー同士のあいだには、少なくとも「みんな誠実にこのゲームをやろうとしている」という一段上の信頼がある。

AI小説を読むことは、どこかこれに似ている。
作者と読者のあいだには、「書き手が誠実に何かを伝えようとしている」という一段上の信頼がある。フィクションで騙されるのも、その信頼の内側で騙されているから安心して騙される。読み手はある種の人狼ゲームを、作者と一緒にやっている。
ところが、問題はその先にある。

全員が人狼だったとき

プレイヤー全員が人狼だった場合、人狼ゲームはゲームとして成立しない。

人狼を探すという遊びは、そこに人狼でない誰かがいるという前提があって初めて動く。もし全員がAI生成物だったら、あるいはどれが人間でどれがAIか誰にもわからなくなったら、読み分けという行為に意味がなくなる。AIが勝つ/負けるの話じゃなくて、ゲーム盤そのものが消える。

もっと厄介なのは、片方の陣営がそもそも違うゲームをやっていると思っている場合だ。書き手の側がAIに任せきりで「誠実に伝える」ゲームをやっていないとき、読み手だけが律儀にそれをやっていても、ゲームは成立しない。これは単純な不誠実というより、ルールの認識がずれている、ということだ。同じテーブルを囲んでいるのに、片方は人狼をやっていて、片方はトランプで七並べをやっている、みたいなことが起きる。

星新一賞の件で落ち着かない感じがするのは、この「ルールの認識のずれ」の気配が近づいてきたからなんじゃないかと思う。魂の問題じゃなくて、信頼の問題。もっと言えば、まだ同じゲームをやっていると言えるのかどうか、という不安。
最初に述べたようにこの星新一賞はAIOKなので、ルール上なんの問題もないのだが……そのうえで今のように議論が噴出するのは、それだけAIの進歩が予想を超えてきているのだろう。

騙されたと感じるとき、何が揺らいでいるのか

小説を読むという行為は、意外と厚い信頼の上に乗っている。

誰かが書いた、という事実が最初にある。その誰かは書くときに何か考えたり感じたりしていた、という推定がある。だから言葉の選び方、語順、改行の位置に、誰かの身体と時間がほのかに貼りついている──という前提のもとで読む。批評家が「作者の死」と言っても、実際の読書経験で作者は死んでいない。少なくとも「匿名の他者」として機能している（た）。

AIが書いたと知ったとき「騙された」と感じるのは、感性が否定されたからではない。この下敷きの信頼が揺らぐからだ。向こう側にいるはずの誰か、が実在しなかったと知る。存在しない他者に交感していた自分を発見する、あの気持ち悪さ。感性の問題ではなく、読書という行為の構造の問題だ。

逆方向の使い方──AI中原昌也のこと

ここまで「語り手のいない生成物」への不安の話をしてきたけれど、AIは逆方向にも使える。

先日、自分も登壇した中原昌也AIプロジェクト。

これは病気で身体が動かなくなった中原さんのLLMをつくり、AI中原昌也に小説を書かせる試みだ。ここには、中原昌也という特定の人間が明確に立っている。AIが生成していても、背後には固有の意志が接続されていて、読者は中原昌也と交感できる。

身体は動かないが、創作への意志は続いていて、その延長線上にAIが置かれている。弱った身体を補う義手としてのAIだ。人狼ゲームの比喩で言うなら、プレーヤーはちゃんとテーブルに着いていて、ただ発言のために口の代わりに機械を使っている、ということになる。
とはいえ、自分のLLMが本当に自分なのか……それはかなり難しい問題になってくるだろう。脳みそをアップロードしてつくられた自分と元の自分、どっちが本物なんだっていうSFでよくある話みたいになってくる。

AIという技術は、語り手の消失にも、語り手の延命にも、どちらにも使える。ラベルが正直でさえあれば、読者は自分がどのゲームをやっているかを選べる。「これはAI中原昌也です」「これは純粋にAIが生成しました」、その情報があれば、読書の信頼は、それぞれのかたちで閉じる。
番組内で中原さんと対談しながら、観客にも問いかけたが、やはり「生身の執筆」という信頼が欲しいようだった。現場にいた朝吹真理子さんも、やはり同じ感覚を持っていて、自分もできれば本人が……という意見だったけれど、時間た経過するにつれてすこしその意見はかわりつつある。

譲れない一線

ここまでの話は全部、経験や好みのレイヤーだ。統一見解にはならないし、ならなくていい。
ただ、法律の話はこれとはレイヤーが違う。
ワープロは素材を盗んでこないがAIは学習の時点で盗んでいる可能性がある。星新一賞自体はAIを認めていて、応募ルール上は問題ないけれど、応募されてきた一作ずつについて、その生成元の学習に違法に取り込まれた素材が混ざっていないかは、また別の話だ。
とはいえ……文章は絵とちがって、その線引もかなりむずかしいとこがあるだろう。かつて作家性がなかった時代の、ある種の民話や口伝の時代にAIが逆行しているという見方もできるかもしれない。

同じゲームをやっているか、ということ

結局、引っかかっていたのはこういうことなのかもしれない。

AI小説の出現は、「魂があるかないか」という問いに見せかけて、実はもう一段奥の問題を露出させている。読み手と書き手が、まだ同じゲームをやっていると言えるのかどうか。誠実さを担保にした人狼ゲームが、まだ成立する条件にあるのかどうか。

AI中原昌也のような使い方は、そのゲームを別のかたちで繋ぎ直す試み。純粋なAI生成は、ゲーム盤そのものを問い直す試みだ(あるいは気づかぬうちにそれをやってしまう)。どちらが正しいかという話ではないし、統一見解には落ちない。
いま自分がどのゲームを、誰とやっているのか。
それがもはやわからなくなってくる。
星新一賞の件で感じた落ち着かなさは、そういう落ち着かなさかもしれない。

この話題はいろいろな作家さんが話しているので、以下も読んでみてほしい。