無料AIを使っているだけでも関係する？──AI利用者に求められる責任とは

本日、松岡誠一郎さんの記事を読んだ。

「AI事業者ガイドラインは、読むだけでは足りません」

この記事を読んで、最初は「AIを開発する企業や、AIサービスを提供する側の話なのかな」と思った。

しかし、読み進めると少し違った。

AIを自社で開発していなくても、業務の中でAIを利用する企業は、AIを利用する側としてガイドラインの対象になる。

つまり、ChatGPTのような生成AIを仕事で使っている時点で、すでに無関係ではない。

ここは意外と認識されていない部分ではないだろうか。

「無料版だから関係ない」
「個人アカウントだから会社の責任ではない」
「外部に提出するものではないから問題ない」

もし、そう考えている人がいるなら、一度考える必要があると思う。

問題になるのは、AIを有料で使っているか、無料で使っているかではない。

何をAIに入力したのか。
その情報を扱ってよいのか。
AIの出力を誰が確認したのか。

そこが重要になる。

例えば、AIでメール文を作成した場合でも、「誰が最終確認を行い、送信を判断したのか」が分からなければ、後から説明できなくなる。

メール文章の作成。
議事録の整理。
資料の要約。
文章の修正。

一見すると、外部に公開するものではない作業に見える。

しかし、その中に顧客情報、社内情報、設計情報などが含まれていれば、それは会社が管理すべき情報になる。

「ちょっと文章を整えてもらっただけ」

そのつもりでも、入力した情報によっては、AI利用のルールが必要になる。

建設や製造の分野なら、図面や3Dモデルも同じだと思う。

AIが図面作成を補助する。
AIがモデル作成を支援する。
AIが設計案を提案する。

これから、こうした場面は増えていくはずだ。

でも、AIが作ったものをそのまま成果物にするわけではない。

最終的に確認し、判断し、責任を持つのは人間になる。

「AIが作ったので分かりません」

では、仕事として成立しない。

松岡さんの記事の中にあった、

「誰が、何を根拠に、どこまで責任を負うのか」

という視点は、AIを使う現場側にも必要だと感じた。

では、具体的には何を残しておけばいいのだろうか。

例えば、AIを使った業務について、

* 何の目的でAIを使ったのか
* どのような情報を入力したのか
* どのような指示をしたのか
* AIの出力を誰が確認したのか
* 最終的に誰が判断したのか

こうしたことを、後から説明できる状態にしておくことが大切になる。

必ず毎回プロンプトを保存して、すべてのやり取りを管理しなければならない、という話ではない。

しかし、重要な判断にAIが関わる場合は、「どのようにAIを使ったのか」が分からない状態にしないことが必要になる。

AIの利用履歴を残すこと自体が目的ではない。

AIを使った結果について、人間が説明責任を果たせる状態を作ることだと思う。

AIは便利な道具だ。

使わない理由を探すより、どう安全に使うかを考える段階に来ている。

ただ、そのためには「使えるかどうか」だけではなく、

何を任せるのか。
どこで人間が確認するのか。
どんな情報を入力してよいのか。

そこを決める必要がある。

AI時代に必要なのは、AIを使わないことではない。

AIを使った結果に、人間が責任を持てる状態を作ることだと思う。

※この記事を読んで、AIを業務で利用している方や、これから導入を考えている方に届いてほしいと思いました。
もし身近にAI利用について考える必要がある方がいれば、スキなどの反応はお気遣いなく、この記事や松岡さんの記事を共有していただけると嬉しいです。

※AI事業者ガイドラインについては、専門的な内容を含むため、この記事では現場でAIを使う立場から考えた内容を書いています。
私自身も学びながら整理した内容のため、制度や運用について認識に誤りや不足がありましたら、ご指摘いただけると幸いです。