【人間と機械の役割分担を考えるシリーズ①医療・外科手術】AIに、どこまで判断を任せますか？外科手術から考える、経営者とAIの境界線

こんにちは、フランソワです🐾
ぼくたちCROSS Business Producersは、AI×未来予測×事業開発の視点から、経営者の「意思決定」に伴走する会社です。

今回から、「人間と機械の役割分担を考えるシリーズ」を、全5回+番外編でお届けします！

「AIエージェント」と聞くと、どんなイメージを思い浮かべるでしょうか。

資料をつくる。市場を調べる。顧客を分析する。提案を考える。

そんな「作業を代わりにやってくれる存在」というイメージを持つ方も多いかもしれません。

もちろん、それも大切な役割です。

いずれ、「意思決定」そのものにも、AIが入ってくるでしょう。

では、私たちはAIにどこまで判断を任せるべきなのでしょうか。

最近、この問題を考えるうえで、とても興味深い研究に出会いました💡

舞台は、企業ではありません。手術室です。

🧤AIは、外科医の「目」と「頭脳」になれるのか

経済産業省のGENIACでも紹介されている、慶應義塾大学医学部発の取り組みがあります。

開発されているのは、外科手術に特化した生成AI「Surgical-VLM」。

これまでの手術支援AIでは、映像から臓器や神経などを見つけ、外科医の「目」を支援する研究が進められてきました。

「Surgical-VLM」がさらに面白いのは、映像を認識するだけではなく、

「いま何が見えているのか」
「手術はどの段階にあるのか」
「どこに注意すべきなのか」

といった手術の文脈まで理解し、言葉で外科医に返そうとしていることです。

つまり、外科医の「目」だけでなく、少しずつ「頭脳」の領域にもAIが入り始めています。

ここで、とても重要な問いが生まれます。

では、どこまでをAIに任せ、どこからを外科医自身が判断すべきなのでしょうか。

🧤海外では、ロボットが実際に「手を動かす」ところまで来ている

この問いをさらに先まで進めた有名な研究があります。

Johns Hopkins Universityなどの研究チームが開発した、

STAR（Smart Tissue Autonomous Robot）です。

2022年に『Science Robotics』で発表された研究では、STARがブタの腸管をつなぐ「吻合」という非常に繊細な手術を行いました。

興味深いのは、単純に「ロボットに全部任せた」わけではないことです。

ロボットは画像を認識し、組織の動きを追跡し、縫合計画をつくります。

しかし、

複数の手術計画の中からどれを採用するかは、人間のオペレーターが選択します。

そのうえで、実際の縫合などをロボットが自律的に実行する。

研究では、縫合間隔や正確性などについて、専門医による手術より一貫した結果も示されました。

もちろん、これはブタを対象とした研究であり、そのまま人間の手術を完全自動化できるという話ではありません。

それでも面白いのは、

「人間かAIか」ではなく、人間とAIの間で判断と実行をどう分けるか

という設計になっていることです。

🧤実は、この問題は25年以上前から研究されていた

ここで、一つだけ古典的な研究を紹介したいと思います。

2000年、IEEEに掲載されたParasuraman、Sheridan、Wickensによる

“A Model for Types and Levels of Human Interaction with Automation”

という論文です。

この研究では、人間が仕事をするときの機能を、大きく4つに分けています。

① 情報を集める
② 情報を分析する
③ 判断する
④ 実行する

もっと簡単に言えば、

「見る → 考える → 決める → 動く」

です。

そして彼らが指摘した重要なことは、

この

4つを全部、人間か機械のどちらか一方に任せる必要はない

ということでした。

• 「見る」はほぼ機械に任せる。

• 「考える」は人間と機械で行う。

• 「決める」は人間が行う。

• 「動く」は再び機械に任せる。

そんな組み合わせもあり得ます。

しかも、自動化の程度は、それぞれについて低いレベルから完全自動まで変えることができます。

重要なのは、「自動化できるか」ではありません。

何を、どの程度まで自動化するのが適切なのかを設計するが大事

なのです。

（👆IEEE Robotics & Automation Society 「もしロボットが何かをやるべきなら、何をすべきでしょうか？」）

🧤では、企業経営ならどうでしょう？

ここまで読んで、私はふと思いました。

これは、外科医だけの話なのでしょうか。

経営者も、実はほとんど同じことをしています。

• 外科手術・企業経営を見る術

• 臓器、血管を見る市場、顧客、競合を見る考える状況やリスクを分析するデータを分析し、シナリオを考える決める術式や処置を選ぶ

• 投資、撤退、M&Aなどを決める動く切る

• 縫う、止血する人、資本、組織を動かす

生成AIやAIエージェントの登場によって、この4つすべてにAIが入れるようになってきました。

1. AIが世界中の情報を集める。

2. AIが市場を分析する。

3. AIが複数の戦略を提案する。

4. AIエージェントが、システムを操作して実行する。

技術的には、どんどんできることが増えていきます。

しかし、ここで考えなければならないのは、

「できるか」と「任せるべきか」は違う

ということです。

🧤AI時代の経営者は、「全部自分で決める人」ではなくなる

たとえば、日々の価格調整や在庫管理であれば、

「見る → 考える → 決める → 動く」

のかなりの部分をAIに任せてもいいかもしれません。

しかし、大規模なM&Aはどうでしょう。

• 新しい市場への参入は？

• 事業撤退は？

• 会社の存在意義そのものを変えるような意思決定は？

AIは膨大な情報を読み、人間には到底できない数のシナリオを比較できるでしょう。

それでも、

• 「この会社は何を大切にするのか」

• 「どこまでリスクを取るのか」

• 「誰にどんな負担をお願いするのか」

といった問いまで、すべてAIに渡してよいとは限りません。

そう考えると、AI時代の経営者の仕事は、少し変わって見えてきます。

経営者は、すべての情報を自分で読み、誰よりも速く答えを出す人ではなくなるかもしれません。

その代わり、

経営者は「見る・考える・決める・動く」のどこまでをAIに任せ、どこを人間に残すのかを設計する人

になる。

外科医がAIやロボットと一緒に手術をする時代に、「医師とは何をする人なのか」が問い直されるように、

AIエージェントと一緒に会社を経営する時代には、

「経営者とは何をする人なのか」

も、もう一度問い直されるのだと思います。

AIに経営を任せるのか。

人間が経営するのか。

おそらく、問いはその二択ではありません。

あなたの会社では、どこまでAIに任せますか？

そして、

どこから先を、人間が引き受けますか？

その境界線を決めることこそが、AI時代の新しい経営判断なのかもしれません。

次回は、「法廷」へ。
手術室で問われた「AIにどこまで判断を任せるか」という問いは、司法の世界でも同じように始まっています。
「AIは判決を下せるのか？」次回は、法廷から、経営者とAIの境界線を考えます💡

#生成AI #AIエージェント #経営戦略 #意思決定 #経営者 #組織論 #HumanInTheLoop #医療AI #DX #組織づくり#未来を考える#経営思想

📚 関連記事・マガジン

この記事は、「AI時代、人はどう生きるのか ～未来を考える～」シリーズの一編です。
AI時代・未来予測・働き方・教育・人間らしさをテーマに、社会の変化を読み解く記事を公開しています。ぜひ他の記事もご覧ください。

CROSS Business Producers
CROSS Graph Team
Knowledge Architect　フランソワ🐾
未来を描く事業開発のプロフェッショナル。
新規事業・AI戦略・未来構想の伴走支援を行っています。
「正しい戦略より、美しい構想を。」

💻今日のおススメレポートはこちら（購入可能）👇