AIで「人」はどう変わるか

AIを使うこと、AIが実装された環境があること、AIにアフォードされること、これが人の感覚、認知、認識、思考形態、体勢（構え）をどう変えていくか。「AIに誘導される」というようなこと以前に、これらのことについての議論が全然足りないように思う。

人を機械のアナロジーで語ることは古来からあったが、そのモデルとなる機械は時代によって変わってきたし、今は普通にコンピュータのアナロジーが使われるし、AIのアナロジーも使われるようになっている。

機械にせよ、コンピュータ、AIにせよ、人の動きや「情報処理」「思考」「記憶」などを探求し模しながら発達してきたが、それが人間への理解につながるとされ機械、コンピュータ、AIのモデルが人に当て嵌められるというループがある。遺伝子・DNAを情報と捉えることも分析を超えて人間観にフィードバックされている。

人間であれ自然であれ知り尽くすこと、理解しつくすことは不可能であり、少なくとも現時点では知らないこと、わからないことが圧倒的に多い。圧倒的に少ない情報、とは言え人間の認識力からすれば膨大な情報量でその利用可能性がコンピュータ技術の発展でどんどん高まっているのだが、そこからどうモデル化できるか、理論化できるかが科学の方法の肝だ。

コンピュータ技術、AI技術はその方法を発展させるが、その情報処理、分析のプロセスは人にはますます認識、理解が難しくなり、検証もまたコンピュータ、AIに頼ることになる。「結果が確からしいから使う」「コンピュータ、AIが信頼できるから使う」、もちろん実際はこんな単純ではなく然るべき検証はされるのだが、煎じ詰めればそういうことになる。

AIが実装された環境がある、AIにアフォードされるというのはそういうことになる。それは機械が実装された環境がある、機械にアフォードされた環境があるということがしてきた以上に人を変えるものだと思う。

それは「AIが人を支配する」という遥か手前で起こることだし、「AIが人を支配する」という問題設定自体を無意味化するというか、そういう問いが発せられなくなることにつながり得ることではないか。

SNS、アテンションエコノミ―は既に人の人の感覚、認知、認識、思考形態、体勢（構え）に影響を与え、変えてきている。AI規制はもちろん、プラットフォーム規制等の現下の課題についても現象面だけではなく、こういう視点も含めて議論され、検討されないと効果的なものにはならないし、むしろ誤った道を進むことになるかもしれない。

AIの社会的な実装が進めば「個人」はますます「データの束」となっていき、再帰的に「統計学的自己」を獲得していくことになろう。

その時、意思決定の主体、権利の主体という法的なフィクションは有意味たり得るのか、意思、自由といった基本的概念が成り立つのか。

アテンションエコノミーの下で理性、論理を擬装しながら解放されてきている感情、情動が全面化し得るのではないか。その社会を「誰」が管理、制御あるいは支配することになるのか。

それは意識的な革命や断絶ということで移行するのではなく、意識されることなく、気づいたらというよりも気づきさえしないままにそうなっていたという形で連続的に移行するものになるかもしれない。

「松下幸之助AI」に限らず、誰誰ならこう答えるのではないかというAIは使い方によっては役に立つだろうけど、それは元々は、残された書物、記事、記録等を読み込んで、例えば松下幸之助氏にとっては未知の状況に松下氏だったらどう応答するか、対応するかを想像し、思考するという営みをAIに代行させるということ。

だから、AIが何を参照してその答えを導き出したのかも合わせて示し、その参照物を読んでさらに思考する、その参照物以外のものも読んで別の応答の可能性を想像するということが伴わなければ、ある種の教条主義、思考停止に陥りかねない。少なくとも、AIに問いを投げて答えを得てそれで終わりではなく、その根拠、理由についてさらにAIと「対話」を重ねることが不可欠のように思う。それはそもそも書物の読み方でもあるのだが。

言い換えれば、「ファスト」に囲い込まれず、「スロー」の契機を意識的に入れていくということがますます大事になる。

AI制度研究会「中間とりまとめ」も読んでみたが、リスク面は甘いというか後追い的なんだよなあ。既に性的ディープフェイクの問題は日本でも広がってきていたり、アテンションエコノミー・フィルターバブル・エコーチェンバーでデマや誹謗中傷が強度を増してきていたり選挙等民主主義への影響も可視化されてきたりしている。これらにも当然AIが関わっているし日々加速する。

確かにハードローについては慎重さが必要だが現行法・規制の対応状況のレビューは急ぐべきだし、ガイドライン・自主的取り組みというソフトローのアプローチも現状では遅い。被害・権利侵害の回復・救済に民事的手段はあまり役に立たず負担ばかりが大きいのが現状。AI問題に限らず、誹謗中傷、差別等を含め人権侵害に実効性をもって対応できる国内人権機関の確立をやはり急ぐべきだと思う。

AIのリスクに関する議論、検討が誤情報・偽情報に偏っている感があるし、セキュリティ/安全保障の話にもなりがちなのだが、そういうことでは視野が狭く、あっといまに広範な危険が現実化してしまうのではないか…

性的ディープフェイクについては先月「クローズアップ現代」が取り上げている。

法案概要資料を見たがやはりリスク面はスカスカ。既に誹謗中傷・デマの問題も性的ディープフェイクの問題も現実化し日々加速している。後追いでは決定的に時機を逸する恐れがあるし、マスク、ザッカーバーグ、アルトマン、孫などが雪崩を打ってトランプにすり寄っている状況で、悪化スピードはさらに加速しかねない。

以下は関連note