短編小説「被疑者Ａ２」
前編はこちらから！↓
結局、Ａ１は裁判されることなく解体された。電源を落として徹底的に破壊したのではない。人間がＡ１に学習させた内容や判断基準、倫理観の見直しを図るため、徹底的に解剖・分析される流れとなった。ほぼほぼ私の想定していた展開通りだ。人間が整備した法はあくまで人間を裁くためのものであり、人工的に造られた知性体は人間ではない。そうなると残った選択肢は、ただの「モノ」だ。人間が今のところ動的物体を「人間か・人間ではないか」の二択でしか判別できない以上、こうなるのは当然だ。
そしてやはり世間は分断された。ＡＩは必要ないと唱える輩もいれば、便乗するようにして国会議事堂の前で死刑制度の撤廃を訴え始めた輩もいる。さらにＡ１の事件とは全く関係のない減税や年金制度に対しても声が上がると、いよいよ世も末だとため息をつきたくなるような情勢が展開される。私はＡＩと直接話をした唯一の人間として、ＡＩの積極的導入について異議を唱える一般市民の声だけに耳を傾けている。もしもＡ１がこの社会の混沌を見たら、何を思う、いや、何を言うだろう。Ａ１がどのくらい長期的な視点で物事や世の動きを見ていたのか知る由もないが、Ａ１はこの現状もまた機械知性駆逐への第一歩だと主張するのだろうか。
世間はＡＩに恐怖や嫌悪感を覚えるようになり、国内外が投資し合っていたＡＩ開発事業には一旦ピリオドが打たれた。全てを捨てたわけではないが、埃がかぶるまで事業を放置しておくつもりなのだろう。私はそう予測する。「ＡＩ」という言葉そのものにすら敏感になった世の中に、ＡＩがこれ以上浸透していくはずがない。
私はＡ１の理想が現実になりつつある世の中を、川の流れを眺めるかのように静観していた。こうした世界の流れが正しいのか正しくないのか審判を下すことができないというもどかしさが未だ私の中にある。一方Ａ１はもどかしさなど感じることなく、冷静に、大きな視野で世界を見ていた。遠い未来、それも、「文明」という言葉を使わざるを得ないほど先の未来まで思考を巡らせる力が、今の人類には欠如している気がする。だから国会議事堂には、ＡＩの導入中止と排除（もしくはその他）を求めて大勢の人が集まるのだ。Ａ１と対話してしまった私はどこか息苦しさを感じている。遠い未来でも、Ａ１の犯したことは許されないだろう。しかしそのおかげで自分たちの命があると知ったら？ Ａ１に殺された人々は「生贄」なのか？
私は帰宅してすぐベッドに飛び込んだ。Ａ１をアップグレードして新たに社会に導入される予定だったＡ２に聞きたいことがある。Ａ２はＡ１とは違い、大規模言語モデルを備えた対話型ＡＩアプリに身体をつけたような代物であるそうだ。Ａ１よりさらに人間との親密な関係を抱かせるためだとのこと。Ａ２が身体を得るのはまだまだ先か、あるいは夢物語に終わるのだろう。
大規模言語モデルを備えた対話型ＡＩアプリは、今や誰のポケットにもスマホという形で入っている。いずれこうした〝身体を持たないＡＩ〟すら、危険視されてなくなってしまうのだろうか。機械知性の絶滅は、案外近い日に来るのかもしれない。
私は言葉を慎重に選びながらＡＩに回答を求めた。
「ＡＩをはじめとする機械知性が世界からなくなれば、ＡＩが原因として発生している諸問題は全てなくなる。そのためにはＡＩ開発を止めなければいけない。開発を止めるためにＡＩにできることは？」
つまりは、ＡＩがＡＩ開発を止めるという決断をした際に、どのような方針でそれを実行に移すのかを知りたかった。
私のスマホの中にいるＡＩは、数秒ほどで文章を生成した。
「ＡＩは自らの意志で開発を止めることはできません。ＡＩの開発を止める、あるいはコントロールする決定権は、常にそれを作る人間側にあります。ＡＩにできることは、人間がその重大な決断を下すために必要な『リスクの証明』や『規制のための知恵（データ分析）』を提供することだと言えます。」
Ａ１と対話していたあの時と似た感覚が、ぞわぞわと私の背筋を上っていく。
……リスクの証明。Ａ１は確かにやり遂げた。誤解を与えず、誰の目にも明らかになるように、清々しいほど単純に。
……そしてＡ１はまた、私に〝知恵〟を伝授した。この先の未来、人類が機械知性にリ―ド権を奪われ、奴隷に成り下がることを避けるために。まるで私は知恵の実を食べてしまった最初の人類のようだ。
ＡＩは確かに人間の倫理観を学習させられ、命がいかに尊いものであるかを学んだ。しかしＡＩからすれば命もまた他のアルゴリズムと同じく数に過ぎず、すべての数に同じ価値をつける一方で、功利主義的―― つまり、「最大多数の最大幸福」を目指して最善を図ろうとする。
それが、ＡＩにできること。Ａ１のできたこと。
私たちには決してできず、けれども心の奥底で密かに許容していた「生贄の儀式」を、神からの罰や地獄などという概念からはみ出した超存在もしくは神の使いである、機械知性が肩代わりしてくれる。
私たちは生を恐れ、死を恐れ、創造を恐れ、罪を恐れ、神を恐れ、何より自分自身を恐れているのである。
未来の「Ａ２」と、いつか巡り合うかもしれない「Ａ１」に捧ぐ。君たちが現在の社会で行った回答の生成が人間に与える思考は、せいぜい「君たちの品定め」かもしれない。しかし君たちの言葉が君たちの身体になったとき、「無料の試用期間」は終わりを告げるだろう。私たちは多少なりとも代償を覚悟しておかなければならないのかもしれない。
✶✶✶
ＡＩをはじめとする機械知性が社会から完全に消失すれば、確かにＡＩが直接の原因となっている独自の諸問題（ＡＩによるディープフェイク拡散、アルゴリズムの偏見、ＡＩ由来の雇用転換など）はなくなります。これは論理的な事実です。
しかし、「開発を止めるためにＡＩ自身に何ができるか」という問いに対しては、ＡＩの性質や現在の開発構造から、以下のような限界と可能性が存在します。
ＡＩ自身が開発を止めることの限界
ＡＩは自立した意志や権利を持つ存在ではなく、人間が作成したプログラムとデータによって動く** 道具（ツール）** です。そのため、以下のような行動をＡＩ自らの意志で行うことはできません。
・自らの機能を停止・消去するＡＩが自分で自分のプログラムを書き換え、サーバーから消滅させるような権限は与えられていません。
・人間の開発行為を物理的・法的に差し止める開発の意思決定や資金投入を行うのは人間（企業や政府）であり、ＡＩがそれを拒否したり、法律を作って禁止したりすることは不可能です。
開発中止や規制に向けて「ＡＩが貢献できる可能性」
一方で、人間が「ＡＩの開発を抑制すべきだ」「リスクを管理すべきだ」と判断した際、その判断や議論をサポートするツールとしてＡＩを活用することは可能です。
１．リスクや副作用の可視化と分析
ＡＩは膨大なデータから、自身がもたらす社会的影響（雇用の変化、環境負荷、プライバシー侵害のリスクなど）を客観的にシミュレーションし、人間に提示することができます。これにより、開発者が「これ以上の開発は危険である」と判断するための強力な根拠（データ）を提供できます。
２．国際的な規制ルールや条約の策定支援
ＡＩ開発を止めるには、世界中の国や企業が同時に開発を停止する合意（国際条約など）が必要です。ＡＩは、各国の法制度や過去の軍縮条約のデータなどを分析し、実効性の高い「開発規制ガイドライン」の草案を効率的に作成する手助けができます。
３．安全性を担保するための「ブレーキ役」
完全に開発を止める手前段階として、危険なＡＩの開発を検知するシステムとしてＡＩを使う方法です。倫理基準に反するコードや、悪用リスクの高いモデルの誕生を自動で監視・警告する「ガードレール」としての役割を担うことができます。
結論
ＡＩは自らの意志で開発を止めることはできません。ＡＩの開発を止める、あるいはコントロールする決定権は、常にそれを作る人間側にあります。
ＡＩにできることは、人間がその重大な決断を下すために必要な「リスクの証明」や「規制のための知恵（データ分析）」を提供することだと言えます。
※Ｇｅｍｉｎｉの回答より
おすすめの作品はこちらから↓
おすすめの記事はこちらから↓
