AI・技術と感情

AIに感情や「空気」を読むことはできず、入力装置やセンサーからのインプットからあくまで統計的にパターンを捉えてアウトプット（応答・反応）を返すのであるし、インプットとして何を捉えるか、それをどう重みづけするかも設計と学習次第。人の場合も常に感情や空気を読んでいる訳ではなく、表層的なパターンを捉えて特定の応答・反応を返すということもしている。発達障害等でコミュニケーションや場に馴染むことに困難がある場合に、スキルとしてそういう応答・反応をストックしている人もいる。

そうすると、AIをこのような意味でのコミュニケーション支援に活用することは考えられる。AIで人の感情を推測して分析に活用したりするような使い方は既にいろいろと出されているし、直接感情を推測することが目的ではなくとも、隠れた変数として実質的に感情が仮定されているようなものは少なくない。ただそうすると、発達障害であれ異文化間等であれ何らかコミュニケーションに困難がある場合を超えた実装も想定できる。

バッジ、センサーなどで従業員の感情や精神状態を把握するものはあるし、カメラなどで顧客の反応を記録し解析しより良い接客に生かすというようなものもある。あるいは、そのような直接的な観察ではなく、購入や閲覧をはじめとする行動記録等から統計的に感情等を推測するようなものは少なくない。これらの解像度の程度は様々だが、インプットする要素を選択、縮減し統計的に解析するのだから、取り逃すもの、外れ値、ノイズ扱いされるものが当然にある。

人にしても、全体的に捉えた印象から丁寧に反応する場合から、上に書いた通り表層的なパターンに着目して機械的に反応する場合まで様々であり、AIの活用はその両極の中間のどこかに位置するものとは言える。ただ、人の場合は無意識に知覚したことが印象や反応に大きく影響する場合もある。もちろん、センサーとAIの活用で、人が意識しないが重要なサインを拾うことは可能ではあるが、そのサインが重要なものであるのか、どう重みづけするのか、他のどの要素と関連しているのか等もまた統計的な処理によるのであり、その正しさを検証することは不可能だ。人の場合はそれを個々人の経験値や様々なレベルでの経験の伝達、共有によって更新、修正しながら社会生活を送っているし、失敗もまたそれに役立っている。デジタルではないが完全にアナログとも言えないし、統計的な側面も併せ持っている。

AIを活用した発達障害者などのコミュニケーション支援は有効だろうとは思うが、それも程度問題でその支援に依存させ学習の機会を奪ってしまうことになるのならば本末転倒だ。職場のコミュニケーション円滑化や接客向上といった目的も、センサーやカメラに依存することになれば逆効果たり得る。将来的にはセンサー付きのメガネで相手の感情を分析しフィードバックを得てコミュニケーションするとか、家中にセンサーを設置して子どもやパートナーの感情を分析するなんてことも可能になるだろう。でも、個性の尊重、多様性の尊重ということになるかと言えば逆だろうし円滑化とは違うだろう。

センサー等からのインプットもAIの処理も人が無意識を含め感知する全ての要素を捉える訳ではないし、わずかな偏りが累積することで大きな偏りが生じ得る。そもそもステレオタイプが増幅、強調されることも大きなリスクだ。外れ値、ノイズが切り捨てられ平均化、定型化する傾きも内在する。もちろん、AIで処理できるパターンは大量であるから、個性、多様性が確保されているようには見える。ただ、気付くのは難しいが外延は切り詰められていく。ランダム性、ハプニング性を組み込むとしてもそれもアルゴリズムの内部でのことで「仕掛け」に過ぎない。

人だって環境や経験に拘束されていて全くの自由ではないし、様々な偏りを抱えている。だからこそ不合理なことは多いし失敗も多い。そもそも人にしても自然一般にしても分析し尽くし全てを予測、制御することは不可能だ。だったらAIで合理的にやろう、精度を高めようというのは大きな落とし穴だ。予測可能性と制御可能性、言い換えればコントロール願望あるいは信仰が技術を通じた差別・抑圧・排除の圧力を強め、同化・画一化を推進することを危惧すべきだ。

AIなど技術を活用しているつもりが、人も自然も技術に合わせさせられ呑み込まれていき、ロボット化・機械化されていくディストピアへの道は自覚のないままに歩み得る。ダナ・ハラウェイを引くまでもなくある意味人は既にサイボーグ化してきてはいるのだがそれには管理を受け入れる面がある。例えばナッジにもフェムテックにもその面があるが、あからさまな強制はもちろん目に見えた管理も扇動などもなく、一見主体性が確保されているようでありながら、そこかしこに実装された技術を通じて身体も感情も管理され制御されるというのは決して技術が見せるバラ色の未来ではない。

もちろん、人の認知、認識、思考、想像、感情、欲望は技術に影響を受けるし、一定程度枠づけられ、誘導すらされるし、それは現代に特異なことではない。同時に、科学的、技術的な合理性を超える、外れる領域も広がっているし、逆に非合理性が科学・技術を駆動し誘導する側面もある。ただ、ここで論じているAI等の技術はより高度に侵襲しつつもその侵襲性を感じさせない仕方で身体や感情を管理し制御する方向に進み得るものだ。

一方で、そういう中で行き場を失った感情が鬱積し爆発するということも十分考え得る。むしろ、現在ネット・SNSに溢れ現実世界にも漏出、逆流している感情はそのようなものとしても捉えられるだろう。そして、急速に発達し実装されていくAI等の技術がそのような感情をも取り込んでいくというある種の再帰性がここで示してきた危惧には含まれる。