【人間と機械の役割分担を考えるシリーズ ②司法・弁護士】AIは判決を下せるのか？法廷から考える、経営者とAIの境界線
今日は「人間と機械の役割分担を考えるシリーズ」、第2回です💡
（※第１回「医療・外科手術」はこちら）
今日も、「AIには、どこまで判断を任せてよいのだろうか。」
第1回では、慶應義塾大学などが進める外科手術AIの研究を紹介しました📝AIが手術映像を「見る」。状況を「考える」。外科医の判断を支援する。
では、人の命を扱う医療ではなく、人の権利や人生を左右する「法廷」ではどうでしょうか。
世界を見てみると、裁判官や弁護士の世界でも、まったく同じ問いが始まっています。AIはどこまで考えてよいのか。そして、人間はどこから判断しなければならないのか。
そんな問いから、今日の記事を始めてみたいと思います💡
🧑⚖️英国では、すでに「裁判官がAIを使う」ためのルールがある
象徴的なのが英国です。
イングランド＆ウェールズ司法部は、裁判官など司法関係者に向けて、生成AI利用に関する公式ガイダンスを公表しています。
面白いのは、
「裁判官はAIを使ってはいけない」とはしていない
ことです。
AIは文章の要約や作成など、さまざまな仕事を助ける可能性があります。
一方で、大規模言語モデルは、もっともらしい誤情報を生成することがある。法律について聞いたからといって、必ず正確な法律を答えるわけでもない。
機密情報や個人情報の入力にも注意しなければなりません。
そして、非常に重要な原則があります。
AIを使ったとしても、最終的な責任は裁判官本人にある。
AIが書いたから。
AIが調べたから。
AIがそう判断したから。
それは、司法判断の責任を免れる理由にはならないのです。
ここは企業経営を考えるうえでも、非常に興味深いところです。
1. ガイダンス公表の主旨（冒頭の発表文より）
"The refreshed guidance adds to the glossary of common terms and expands on the risks of bias in training data and AI hallucinations which generate incorrect or misleading information."
（日本語訳：更新されたガイダンスでは、共通用語集が追加されたほか、学習データにおけるバイサスのリスクや、誤った・誤解を招く情報を生成するAIのハルシネーション（幻覚）のリスクについての記述が拡充されています。）
2. AI利用に対する基本姿勢と前提責任（バーンズ最高裁判事のコメント）
"The use of AI by the judiciary must be consistent with its overarching obligation to protect the integrity of the administration of justice and uphold the rule of law."
（日本語訳：司法によるAIの使用は、司法運用の誠実性を保護し、法の支配を遵守するという最優先の義務に合致したものでなければなりません。）
"I welcome the publication of the latest AI Guidance, which reinforces this principle and the personal responsibility judicial office holders have for all material produced in their name. I encourage all judicial office holders to read the guidance and apply it with care."
（日本語訳：私はこの原則を再強化し、自身の名において作成されるあらゆる資料に対して司法官が持つ『個人的な責任』を再確認する最新AIガイダンスの刊行を歓迎します。すべての司法官が本ガイダンスを読み、注意を払って適用することを推奨します。）
🧑⚖️アメリカでは、弁護士にも同じ問題が起きている
アメリカでも状況は似ています。
American Bar Association（ABA）は、2024年に生成AI利用について弁護士向けの「Formal Opinion 512」を発表しました。
弁護士が生成AIを利用すること自体を否定しているわけではありません。
しかし、AIを使っても、依頼人に対する能力上の責任。
守秘義務。
裁判所に対する誠実義務。
仕事の内容や料金に関する責任。
こうした
弁護士本人の職業上の義務はなくなりません。
特に重要なのは、AIが生成した法律情報や文章を、そのまま信用してはいけないということです。
生成AIが存在しなかった時代でも、若手弁護士やパラリーガルが調査した内容について、最終的には担当弁護士が責任を持っていました。
AIもある意味では同じです。
ただし、非常に高速で、大量に仕事ができ、しかも時々ものすごく自然に間違える「新しい部下」が加わった、と考えた方が近いのかもしれません。
🧑⚖️ドイツでも「AIを使いこなす能力」が専門家に求められ始めた
ドイツはどうでしょうか。
ドイツ連邦弁護士会（BRAK）も、法律事務所におけるAI利用についてガイドラインを公表しています。
AIによって、法律情報を調べる。文書を分析する。翻訳する。大量の資料を整理する。こうした仕事は大きく効率化できます。
一方で、AIにはハルシネーションやバイアスなどの問題があります。
だから、AIを導入すれば弁護士の専門能力が不要になる、という方向には進んでいません。
むしろ逆です。
AIが作ったものを評価し、間違いを発見し、適切に監督する能力まで含めて、これからの専門家の能力になる。
そんな考え方が見えてきます。
"Ein neuer Leitfaden der BRAK gibt eine Orientierungshilfe, wie Anwältinnen und Anwälte KI-Tools berufsrechtskonform einsetzen können."
（日本語訳：ドイツ連邦弁護士会（BRAK）の新しい指針は、弁護士が職業倫理法（職務規程）を遵守しながらAIツールをどのように運用・活用できるかについて、具体的な指針（ガイドライン）を提供するものです。）
🧑⚖️では、「判決」そのものをAIに任せられるのか？
ここで、とても面白い研究があります。
BarysėとSarelによる、
“Algorithms in the court: does it matter which part of the judicial decision-making is automated?”
という研究です。
タイトルをそのまま訳せば、
「法廷のアルゴリズム――司法判断のどの部分を自動化するかは重要なのか？」
というものです。
この研究が面白いのは、
「AI裁判官に賛成ですか、反対ですか？」という大雑把な質問はしていないことです。
司法判断をいくつかの工程に分けて考えています。
簡単に言えば、
情報を集める
↓
分析する
↓
判断する
という流れです。
そして、そのどこをアルゴリズムに担当させるかによって、人々が司法判断をどう評価するのかを実験しています。
結果として興味深いのは、AIが関与したから一律に司法判断への評価が悪くなる、という単純な話ではなかったことです。
AIがどこに入るのかが重要だった。
つまり、
「AIか、人間か」
ではなく、
「判断プロセスのどこをAIに渡すのか」
が本当の問題なのです。
論文タイトル: Algorithms in the court: does it matter which part of the judicial decision-making is automated?
（法廷におけるアルゴリズム：司法意思決定のどの部分が自動化されるかは重要か？）
著者: Dovilė Barysė, Roee Sarel (2023 / 2024)
"Our analysis indicates that individuals generally perceive the use of algorithms as fairer in the information acquisition stage than in other stages."
（日本語訳：私たちの分析によると、人々は一般に、司法意思決定の他の段階よりも「情報収集段階」においてアルゴリズムを使用する方がより公平であると認識していることが示されています。）
▼重要ポイント（判断プロセスの4段階と公平感）
"Specifically, we elicit beliefs about the use of algorithms in four different stages of adjudication: (i) information acquisition, (ii) information analysis, (iii) decision selection, and (iv) decision implementation."
（日本語訳：具体的には、裁判における4つの異なる段階（i：情報収集、ii：情報分析、iii：判決・意思決定の選択、iv：決定の執行・実施）において、アルゴリズムを使用することに対する人々の意識を調べています。）
"...the demand for combining human decision-making and algorithms is driven by AI's relative advantage in acquiring information rather than its advantage in analyzing it. In other words, people trust judges to apply their legal expertise but less so to gather the relevant information."
（日本語訳：人間による意志決定とアルゴリズムを組み合わせることに対する要請は、AIが情報を「分析」する能力よりも「（初期の）情報を収集する」相対的な優位性によって推進されています。言い換えれば、人々は裁判官が法的専門知識を適用（判断）することには信頼を置いていますが、関連情報を収集すること自体への信頼はそこまで高くありません。）
🧑⚖️実は、25年以上前から同じことが研究されている
これはAIだけの新しい問題でもありません。
2000年、IEEEに掲載されたParasuraman、Sheridan、Wickensの有名な研究では、人間と機械の役割を大きく4つに分けています。
👉見る → 考える → 決める → 動く
もう少し正確には、
情報を取得する。
情報を分析する。
意思決定する。
実行する。
です。
そして重要なのは、全部を人間か機械のどちらかに任せる必要はない、ということでした。
例えば、
見る：AI
考える：AI＋人間
決める：人間
動く：システム
でもいい。
仕事によっては、
見る：AI
考える：AI
決める：AI
動く：AI
まで任せてもいいかもしれません。
大切なのは、
「AIを導入するか」ではなく、「どこまでAIに任せるか」を設計すること。
ここで、法廷の話が突然、企業経営の話につながってきます。
🧑⚖️では、経営者ならどうでしょう？
企業の意思決定も、実はよく似ています。
法律・司法企業経営見る、法令、証拠、判例を調べる市場、顧客、競合を見る考える法的論点を分析するデータ、事業性、リスクを分析する決める法的判断を行う、投資、撤退、M&Aなどを決める動く判決、契約、法的手続きを行う、人、資本、組織を動かす
いま生成AIは、最初の「見る」だけではありません。
膨大な資料を読み、論点を整理し、選択肢をつくり、それぞれのリスクを評価する。
さらにAIエージェントになれば、その先の「動く」ことまでできるようになります。
では、M&AについてAIが、
「この会社を買収すべきです」
と結論を出したら、CEOは承認ボタンを押せばよいのでしょうか。
AIが、
「この事業から撤退すべきです」
「この投資案件は却下すべきです」
「この人材を採用すべきではありません」
と提案したら？
技術的に判断できることと、判断を委ねてよいことは同じではありません。
🧑⚖️「最後は人間が承認します」だけでは、本当は足りない
ここには、もう一つ厄介な問題があります。
AIが世界中の情報を集め、
AIが重要な情報を選び、
AIが選択肢をつくり、
AIが成功確率を計算し、
最後だけCEOが、「承認」を押す。
これは本当に、人間が意思決定したと言えるのでしょうか。
形式上は人間が最終決定者です。
しかし、経営者が見る世界そのものをAIがつくっているなら、実質的にはAIが判断をかなり支配しています。
だから、人間を最後に残せば安全、というほど単純ではありません。
経営者には、
AIが何を見ているのか。何を見ていないのか。なぜその選択肢を出したのか。どの程度自信があるのか。どんな条件になれば結論が変わるのか。
を理解し、必要なら、
「いや、その前提は違う」
と言える能力が必要になります。
🧑⚖️AI時代のプロフェッショナルとは何か
外科医。
裁判官。
弁護士。
そして経営者。
一見まったく違う仕事ですが、AIによって、同じ問いを突きつけられ始めています。
専門家とは、誰よりも大量の情報を知っている人なのか。
それとも、
AIを含むさまざまな知性を使いながら、最後に何を判断し、何に責任を負うべきかを理解している人なのか。
おそらく、後者の重要性が急速に高まっていくのでしょう。
AI時代の経営者に求められるのも、AIより速く情報を集めることではありません。
AIより大量の資料を読むことでもありません。
「見る・考える・決める・動く」のどこまでをAIに任せ、どこからを人間が引き受けるのか。
その境界線を設計することです。
法廷で「AIがそう言ったから」という判決が許されないのなら、
企業でも、
「AIがそう言ったから」という経営判断で、本当によいのでしょうか。
AIが高度になればなるほど、
最後に問われるのは、AIの賢さではなく、
人間は何を判断する存在なのか。
なのかもしれません。
次回は、教室へ。
法廷で問われた「AIはどこまで考えてよいのか」という問いは、教育の現場でも姿を変えて現れています。AIが「先生」になったら、教師は何をする人になるのか？
次回は、教育の現場から考えます💡
#生成AI #AIエージェント #リーガルテック #経営戦略 #意思決定 #経営者 #弁護士 #司法 #HumanInTheLoop #DX
📚 関連記事・マガジン
この記事は、「AI時代、人はどう生きるのか ～未来を考える～」シリーズの一編です。
AI時代・未来予測・働き方・教育・人間らしさをテーマに、社会の変化を読み解く記事を公開しています。ぜひ他の記事もご覧ください。
CROSS Business Producers
CROSS Graph Team
Knowledge Architect フランソワ🐾
未来を描く事業開発のプロフェッショナル。
新規事業・AI戦略・未来構想の伴走支援を行っています。
「正しい戦略より、美しい構想を。」
💻今日のおススメレポートはこちら（購入可能）👇
いいなと思ったら応援しよう！
引き続き応援よろしくお願いします！ いただいたチップはクリエイターとしての活動費に使わせていただきます！ この記事は noteマネー にピックアップされました
