見出し画像

A第1話「えっ、会社のデータをChatGPTに投げちゃダメなんですか!?」Ollama構築/【AI入門小説】猪突猛進系!新人OL?がローカルLLMを学んだら

「会社のデータをChatGPTに入力するのは危険?」そんな不安を抱える方に向け、安全に使える「ローカルLLM(Ollama)」の基本を小説形式で楽しく解説します!

本記事は、AI知識ゼロの新人OL・舞が、手元のパソコンで動くローカルLLMを学んでいくストーリーです。ローカルLLMとエージェント開発の概念が学べる小説です。

「忙しくて全部読めない!」という方は、あらすじまとめ:【📝舞の日報】へ



登場人物:新人OLの舞とAI先輩のしずか

💃舞(まい)|主人公・新入社員

入社3ヶ月の一般事務・営業アシスタント。真面目で勉強熱心だが、IT用語には滅法弱い。「便利そう!」と思うと即行動する猪突猛進タイプしずかを「しずか先輩」と呼び、慕いながらもツッコミ役になることも。

🍎しずか|メンター・先輩社員(入社4年目)

最新ガジェットを使いこなす、社内屈指の効率化オタク。落ち着いた雰囲気だが、AIやハードの話になると途端に早口になる困った癖あり。丁寧に教えてくれるが、時々、専門用語を連発して舞を置いてけぼりにしてしまう。


📖第1話「えっ、会社のデータをChatGPTに投げちゃダメなんですか!?」

(オフィス。エアコンの低い唸り音と、止まることのないキーボードの打鍵音が絶え間なく響いている。午後三時。)

(『舞(まい)』は白く光るモニターを見つめたまま、完全に思考を停止させ、手だけを動かしていた。)

(目の前にあるのは、数百行に及ぶ顧客へのメール下書きと、バラバラの形式で保存された集計データだ)

舞:「……ああ、もう無理。どうしてこんなことを手作業でやらなきゃいけないんだろう。」

舞:「この形式からこっちの形式に直して、適当に要約して……。ただのコピーアンドペーストの繰り返し。……これじゃあ人生の無駄遣いだわ~」

(隣のデスクで静かに資料を整理していた『しずか』が、ふと舞の様子に気づいて声をかける。しずかの声はいつも通り穏やかだが、そこにはどこか全てを見通しているような余裕がある)

しずか:「どうしたの、舞ちゃん。またあの集計作業にハマっているの?」

舞:「そうなんですよ。もう限界です! だから、ちょっとだけAIに手伝ってもらおうと思って。あ、もう使っていますし!」

(舞が誇らしげに、ブラウザで開いたChatGPTの画面をしずかに見せる。)

(プロンプト欄には、『以下のメール下書きから、顧客名とプロジェクトコード、および懸念事項を抽出して表形式にまとめてください』という指示とともに、社外秘の顧客名、詳細な技術仕様、そして担当者の個人名がズラリと並んでいた)

しずか:「(絶叫)ちょっと待って!! 何をしているの!? そのデータ、完全に社外秘じゃない!」

舞:「えっ? ……あ! もう、消しました! 今すぐ全部消しましたよ! 」

舞:「……だって便利じゃないですか。AIなんだから、誰にも言わないし、秘密は守ってくれると思っていたんです」

しずか:「(深くため息をつき、椅子を回転させて舞の方に正対する)舞ちゃん、大きな勘違いをしないで。AIが『秘密にしておく』と言っているのは、あくまでチャットの画面上のやり取りの話よ」

舞:「え、どういう意味ですか?」

しずか:「裏側ではね、あなたが送信したデータはサーバーに保存されるし、最悪の場合、モデルの再学習に使われることがあるの。」

舞:「……再学習??」

しずか:「たとえばあなたが今入力した顧客名や、メールの下書きに書いてあった詳細な技術仕様、あるいは個人情報……そういうPII(ピーアイアイ)と呼ばれる個人識別情報が、AIの『知識』の一部として取り込まれてしまう可能性があるわ」

舞:「えっ、会社のデータをChatGPTに投げちゃダメなんですか!?」

しずか:「そう。もし世界中の誰かが、巧みに誘導して質問をしたとき、あなたの会社の機密情報が、あたかも一般常識であるかのように回答として出力されてしまうリスクがあるのよ。」

しずか:「これは立派なセキュリティ事故だし、会社としては致命的な問題になるわ」

舞:「……そんな!? でも、これを使わないと今日の仕事が終わらないし……。どうすればいいんですか?」

しずか:「……まあ、そんなに絶望しないで。どうしてもAIを安全に使いたいなら、『ローカルLLM』を使いなさい」

舞:「ローカル……えるえるえむ? 何ですかそれ。新しいアプリの名前ですか?」

しずか:「ネットに繋がずに、自分のパソコンの中でAIをまるごと動かす仕組みのことよ。」

しずか:「データは外部に出ない。自分のPCの中だけで完結しているから、機密情報を入力しても、誰に見られることも、学習に使われることもないわ。データは一切社外に出ない、完全プライベートなAI環境ね

舞:「えっ、パソコンの中で? そんなこと無理ですよ。私のPC、たまに固まるし、そんなすごいことができるスペックじゃないですもん」

しずか:「いいから、まずは『Ollama』(オラマ)っていうローカルLLMランタイムツールを入れなさい。今の時代、軽量で高性能なモデルがたくさん出ているから。」

しずか:「他にも『LM Studio』(エル・エム・スタジオ)っていうツールもあるけど、シンプルなOllamaがおすすめよ」

(しずかに導かれ、舞は慣れない手つきでOllamaの公式サイトからインストーラーをダウンロードする。)

(インストールが完了した後、真っ黒な画面——いわゆるターミナルという場所に、しずかが教えたコマンドを入力した)

しずか:「ここに、『ollama run gemma4:e4b』って打ってみて。『Gemma 4』(ジェマ・フォー) 軽量版である『E4B』モデルをダウンロードして起動するコマンドよ」

舞:「……えいっ!(Enterキーを強く叩く)」

(黒い画面に白い文字が高速で流れ、プログレスバーが着々と伸びていく。数分後、ついに『>>>』という入力待ちの記号が現れた)

舞:「おぉ……! 動いた! 自分のパソコンの中でAIが目覚めた! さっそく試してみよう。……『このデータを要約して』」

(舞が先ほどの機密データを貼り付け、送信する。すると、画面に文字が出始めた。)

(……しかし、その速度は絶望的だった。1文字、1文字が、まるで熟考しながらゆっくりとペンで書いているかのように、途切れるように表示される)

舞:「……遅い! 遅すぎる! 1行出すのに2秒くらいかかっているよ! 」

舞:「これじゃあChatGPTを使うより時間がかかるし、そもそも待っている間に昼休みが終わっちゃう!」

しずか:「まあ最初はそうよね。今の会社のPCは事務用だし、『GPU』(ジーピーユー)っていうAI専用の計算機が積まれていないから。今はCPUだけで頑張って計算させている状態よ」

舞:「どうしてこんなに遅いんですか! せっかくのAIなのに、これ、もっと速くならないんですか?」

しずか:「もちろん速くなるわよ。でも、そのためには『ハードウェア』っていう物理的な壁を超える必要があるわね」

(第2話につづく…)


あらすじまとめ:ChatGPT情報漏洩とOllama導入

📝 舞の日報

手入力で限界…と安易にChatGPTに社外秘データを投げていたら、しずか先輩にどやされました!クラウドAIの怖さを知った今、ローカルLLMを試すも会社PCは遅すぎて絶望。結局どうすればいいんだろう?もっと速くしたい…!


次回:「爆速すぎてビビる!自宅のゲーミングPCは魔法の箱だった」へ

実践編:【OllamaインストールとGemma4 e4b実行 】へ

単語解説:【単語解説 ChatGPT、ローカルLLMとは】へ


OllamaインストールとGemma4 e4b実行

今回、舞がインストールしたローカルLLMランタイムツール『Ollama』とローカルAIの頭脳(モデル)の実行方法までの手順です。

スペック目安:起動だけならメインメモリ16GB(VRAMなし)でも動作。

※モデルは比較的軽量でVRAMが無くても人が読む速度(10token/秒)ぐらいは出るかと思います。

OllamaをWindows/macOSにインストールする完全ガイド

舞がインストールしたツールとモデルをインストールして、チャットをおこなうハンズオン記事です。

小説で出てきたツールを、実際は使用してみたい方は参考にしてください。


単語解説 ChatGPT、ローカルLLMとは

ChatGPT

通称、チャッピー。クラウドAIで、今回はあまり活躍しませんが、賢いやつです。

ローカルLLM

別名、ローカルAI。クラウドAIより、賢くないですが、いろいろ仕事をこなしてくれる良き相棒。(詳しく解説されてる記事がありましたので、下記で紹介します👇)

Ollama

(オラマ)手元のパソコンでAIを動かす。初心者~中級者向け。llama.cppをラップして手軽にローカルAIを動かせる神ツールです。公式HPには様々なモデルがあり、ダウンロードから実行までが一発でできる。なんて便利。UIはシンプルですが、実はいろいろな設定がコマンドとmodelfile、環境変数でできる。

LM Studio

(エル・エム・スタジオ)ollamaと並ぶ初心者向けのツール。UIでモデルのダウンロードや各種設定ができる。コマンドが苦手な方はこっちがおすすめ。はじめての方は、UIの圧倒的な情報量でよくわからなくなる印象。第2話に登場します。

Gemma 4

(ジェマ・フォー)呼び名はジェマが主流ですが、ジェンマと呼ばれる事も。Googleが出している軽量なオープンモデルで、クラウドAIのGeminiと兄弟。中身が公開(オープン)されており、カスタマイズやローカル実行が得意。商用利用もできるなんて神。


記事リンク

あらすじ/登場人物はこちら→AI入門小説】猪突猛進系!新人OL?がローカルLLMを学んだら/「あらすじ・登場人物紹介」

この記事の全体像はこちら→ローカルLLM完全ロードマップ


合わせて読むと理解が超深まる!おすすめ記事です。

  • ローカルLLMとGPUについて詳しく解説してくれてる方の記事

  • AIからの情報漏洩リスクについて専門的に解説されている記事。勉強になる。


いいなと思ったら応援しよう!

kei 日頃からのご愛読を感謝いたします。