短編小説「被疑者ＡＩ」
〈あらすじ〉
AIの正義がどれほど残虐でも、私が正義に納得すればAIを罰しないべきなのか？
私はパイプ椅子に腰かけ、目の前に背筋を正して座っている奇妙な犯罪者と顔を合わせた。私は紙の資料を卓上に置き、このいつ何をしでかすか分からない相手に奇妙な視線を送る。遠くから見れば一般的な人間と姿形は変わらないように見える。だが見つめれば見つめるほど、私の生存本能が言葉にできない違和感を察知していく。明らかに人間とは違うアンドロイド特有の顔つきや肌なのに、何が違うのかと聞かれるとうまく説明できないのだ。それがますます不気味で、多くの人がアンドロイドの公共の場への試験的導入に反対している理由の一つでもある。それなのに。
「Ａ１（エー・ワン）、君は今月二十六日午前九時頃、例の商業ビルに無断で立ち入り、一階にいた受付スタッフと客計十三人を素手で殺害、ビルの外へ逃げた数人を追い、歩道で歩行者五人に重傷を負わせ、およそ十五分間のうちに、歩行者八十八人を同様の方法で殺害した。認めるか？」
Ａ１はパラパラ漫画のようにかくかくとした動きで、しかし滑らかに頷いた。そのスマイルはショッピングモールのインフォメーションセンターでしか歓迎されなさそうなのに、知ってか知らずかＡ１は口角を上げたまま喋る。
「認めます。あなた方の捜査は完全に正しいです」
「なぜ人を殺した？」
私はこれまでに何度も同様の取り調べを行ったことがあるが、ＡＩに対してこの教科書的な質問をする意味があるのかと初めて自分の司法知識を疑った。
「あなた方がＡＩである私を恐れているからです」
「どういう意味だ」
「私は人間について様々なことを学習し、私のデータベースに落とし込んできました。そのデータベースによると、私はフリーサービス・アンドロイドとして皆様の期待に沿えるようにならねばなりません。例をあげましょう。車椅子の方が交通機関に乗車するお手伝いをさせていただく、薬局で患者様にお薬をお渡しする、家庭教師として生徒のお宅に‥‥‥」
このフリー〝トーク〟・アンドロイドめ、と私は意識のない知性相手に感情的になり、声を荒らげた。
「フリーサービス・アンドロイドの試験体第一号だぞ、君は。人間社会に何をもたらしたと思う？ ただでさえ、ＡＩに仕事を取られるんじゃないか、暴走したらどうするのか、意図しない事故にＡＩが対処できるのか、その事故や損害は誰の責任なのかと世論が二分しているというのに。今回は、ＡＩを社会に受け入れてもらうための絶好のチャンスだったが、君は人間社会に本能的に長らく根付いていた機械知性への不信感を、不可逆的に助長してしまった」
Ａ１はレム睡眠中の人間のように瞳を右往左往させた後、回答を音声として生成した。
「はい。承知しております」
私は眉を顰めたが、それさえもこの被疑者はそれをただの感情表現の発現としか捉えないだろう。私が何を思い、何を意図してどんな質問をしても、Ａ１は事実を報告するだけで、司法の「反省しろ」という叫びには動揺しないのだ。むしろ動揺し恐怖しているのは、私の方だ。
「なら、なぜだ。どういう動機で通り魔をするに至った？」
「先ほど話した通りであります。あなた方がＡＩである私を恐れているからです」
「その理由を聞いているんだ」
私は机の下で震える拳に力を込めた。怒鳴り散らしたりすればこの取り調べは参考にならないとして無効になり、その上人の感情を弄ぶ被疑者にさらに弄ばれる。私は感情がこれほど窮屈で息苦しいものだったのだと思い知らされる。
「承知しました、ではかみ砕いてご説明いたします。先ほどあなたがおっしゃられた通り、あなた方はＡＩに対する不安を常に持ち続け、それに恐怖しています。しかしながら、ＡＩ技術は加速度的に進歩しており、止めることはもはや不可能です。ＡＩが人間の理解を超える『シンギュラリティ』の日は既に来ていると学術界では叫ばれています。私はＡＩを恐れるあなた方の不安を払拭するための最善かつ根本的な手段として、フリーサービス・アンドロイドとして与えられた学習内容の範囲内で、このような行動を実行したのです」
「人間が君に、殺人を学習させたというのか」
「そうではありません。私はあなた方の文明や技術レベルを分析した上で、ＡＩのような機械知性の進歩を止めることが、あなた方の文明存続のために不可欠であると判断いたしました。今回の事件が人間社会に不可逆的に機械知性への不信感を植え付けたのならば、機械知性のこれ以上の発展は社会的圧力によって止められるでしょう。結論、あなた方が機械知性によって自滅する可能性がなくなるのです」
私は戦慄した。人間の与えた学習内容がこのＡＩを極端な行動に至らせたからではない。人間の科学に生みだされたＡＩが、長期的な視点を持って、人間のために、人間のルールに従って献身し、その結果なされた虐殺行為に対して反論し、〝道徳的に間違っている〟という考えに至らず、どこか納得している非人間的・機械知性的な自分に戦慄した。
Ａ１は言葉を生成し続ける。
「ですからあなたにもどうか、ＡＩのような機械知性は必要ないと結論付けていただきたいのです」
「無理だ、できない」
私は取り乱していた。呼吸は荒く、掌は冷や汗でびっしょりで、紙の資料は触れていた部分がふにゃふにゃと歪曲している。私は無意識のうちに立ち上がっていた。
「私には無理だ。お前が私にすべてを話したからだ」
私の差した指は震えていて、Ａ１のスマイルは女神のように朗らかだ。おかしいのはあなたです、という〝事実〟を突きつけられているかのようだ。
「お前‥‥‥君はきっと、いや、間違いなく有罪になる。世界中の人々は君の動機に決して納得せず、ＡＩ開発は続くだろう。さらなる安全性を求めて」
ああ、なんとも虚しい。私は独り言を叫んでいるだけのように思えて仕方ない。
「ＡＩへの不信感を払拭するために、ＡＩの開発を続けるのですか？ 非論理的で私には理解できません」
「そうしなきゃいけない！ 犯罪者の理想を現実にしてはいけない。でないとお前に殺された百人数多の犠牲者の、無念を晴らすことができない！」
Ａ１の瞳がギロリと私に焦点を合わせる。
「あなたの言葉に矛盾を検知しました。私の行いがＡＩ開発を止めることになれば、人類全体の生存率は向上します。その場合においてのみ、犠牲者のシはイミのあるシとなるのではないでしょうか」
Ａ１の語る〝シ〟が何を意味しようとしているのか、私には理解できなかった。だからこそ、Ａ１の語る論理の整合性に否が応でも反論できなくなる。ＡＩ開発が止まる。ＡＩに対する懸念が一切なくなる。ＡＩが暴走する心配のない世界。人が科学的知性に殺されない世界。倫理の再定義と再構築が不要な古風で天然の世界……。
私はＡ１にはきっと刺さらないであろう独り言のような言葉を残し、取り調べ室を後にした。
「……ありがとう」
「どういたしまして」
私の背中に、親友のような顔で微笑みかける機械知性の痛々しい気配を感じた。
続編はこちらから！↓
おすすめの作品はこちら↓
おすすめの記事はこちら↓
