A第2話「自宅ゲーミングPCにローカルLLM入れてみた」（LM Studio構築）／【AI入門小説】猪突猛進系！新人OL？がローカルLLMを学んだら

どうも！ケイです🐈️
ファイル検索ツール は『everything』を使ってます。

今回から小説のみです。ハンズオン記事は、別枠で投稿しました。

第2話「爆速すぎてビビる！自宅ゲーミングPCは魔法の箱だった」

（金曜日の朝。舞はまた会社PCの前で、もどかしそうに画面を睨んでいた。）

舞：「ああもう！ まだ遅い！ 一行、二行……。これじゃあAIじゃなくて、熟練の書道家さんが丁寧に書いてるレベルですよ！」

しずか：「あはは。会社のPCはあくまで事務用だからね。『VRAM』っていう、AI専用のメモリが入っていないのよ」

舞：「ブイラム？ 何ですかそれ。メモリは16ギガあるし、十分だと思っていましたけど」

しずか：「それはシステム用のRAM。OSやExcelを動かすための汎用的なメモリね」

しずか：「AIを高速に動かすには、『GPU』という計算パーツの上に直接乗っている専用の高速メモリ、つまりVRAMが必要なの。会社のPCにそんなものを贅沢に積んでいたら、経費で落ちないわよ」

舞：「ええ～、じーぴーゆー？ですか……。」

しずか：「そうね。ゲーミングPCでもないとついていないわ」

舞：「ゲーミングPC！そ、そーなんですねー。（じゃあ、家のパソコンならどうかな？確か買った時、店員さんがGPUって言ってたような⋯⋯）」

（土曜日の午後。舞は自宅のゲーミングPCの電源を入れた。ケースから溢れる派手なRGB LEDが虹色に輝き、部屋を鮮やかに照らす）

舞：「ゲーム用ならGPUは積んでいるはずだし……。よし、前にしずか先輩が言っていた『LM Studio』を入れてみよっと」

（直感的なインターフェースを持つLM Studioを起動し、検索窓にGemma 4と打ち込む。）

（すると、驚くほど多くのモデル候補がリストアップされた。「12B QAT」「26B A4B QAT」「31B QAT」……見たこともない文字列の羅列に、舞は一瞬たじろぐ）

舞：「えっ、Gemma 4だけでいっぱい出た。いったい、どれを選べばいいの？ 『おすすめ』とか書いてあればいいのに」

（ふと、タスクマネージャーのGPUをクリックする。そこには『GeForce RTX 5060 Ti （専用GPUメモリ 16GB）』という文字が誇らしげに表示されていた）

舞：「GPUって書いている専用メモリは16ギガ……。あ、ここにある『Gemma 4 12B QAT』っていうのが7.15ギガて書いてる。」

舞：「メモリ量的にちょうど良さそう。まあ、よくわからないけど、とりあえずこれが、おすすめっぽそう！ダウンロードしちゃえ！」

（ダウンロードが完了し、モデルをロードしてチャット画面にプロンプトを入力。Enterキーを叩いた瞬間——）

舞：「速い！！！！！！！ （目を見開いて）出た！！ 文字が滝みたいに流れてくる！！」

（画面いっぱいに、一瞬にして整理された要約が出力される。舞は、光るモニターをじっと見つめた）

舞：「なにこれ……魔法の箱？ 会社のと全然違う！ 一瞬で答えが出た。いや、速すぎる！！！！ビビるわ！」

（舞は興奮して、次から次へと質問を投げかける。AIが即座に反応し、まるで思考の速度で対話が成立する快感。舞の目に、知的な好奇心の光が宿った）

舞：「これだ！ これこそが AIだ！ 会社のはあんなにヘロヘロだったのに、家のはこんなにキレキレだわ！！」

舞：「よし！こっちにある、もっと大きくて強力なモデルも試してみよう！」

（過信した舞は、LM Studioの検索窓に『Gemma 4』と打ち込む。リストから『Gemma 4 31B QAT』をダウンロードしてロードしようとした）

舞：「数字がデカい！ でも、家のPCなら余裕でしょ？ 起動！」

（モデルの読み込みがしばらく続き、ついにチャット画面が表示された。舞が質問を入力してEnterキーを押す——）

舞：「いっけー！！！！」

（……しかし、文字が一向に出てこない。数秒、数十秒経っても画面は白かった）

舞：「……あれ？……ちょっとぉ？？ 出てこないじゃん」

（モニターの上に『Out Of Memory』というエラーメッセージが突然現れ、LM Studioは強制終了した）

舞：「ぎゃあああああああああ！！！（絶叫）壊れた！？私の宝物（ゲーミングPC）を壊しちゃった！？（泣） あんなに速かったのに……」

（舞は半泣きになって、再度LM Studioを起動して、12Bのモデルをロードし直す。今度はちゃんと動いた。）

舞：「よかった～！！心臓がとまるかと思った！ひとまず安心。」

舞：「……なるほど。大きいモデルだからといって、何でもいいわけじゃないんだな。」

（舞はすぐに、しずかにメールを送った）

舞：「しずか先輩！ 来週、絶対教えてください！ 家のPCでやったら爆速だったんです！ でも、31Bのモデルをいれたら『Out Of Memory』って言って落ちちゃったんです……なぜ、あんなに差があるのか、正体を突き止めたいです！！」

（第3話につづく）：リンクは、関連記事へ

📝 舞の日記・8/xx（土）

今週は会社PCが激遅で絶望したけど、家のゲーミングPCでGemma 4を動かしたら爆速！快感！✨ でも欲張ってデカいモデルを入れたらメモリ不足で大パニック😭 VRAMって一体何！？来週しずか先輩に全部聞き出すぞ！

1.ハンズオン記事

今回登場した『LM Studio』のインストール方法です。GPUのVRAMサイズ毎のモデルサイズを掲載していますので、Ollamaを使用される方も確認してみてください。

2.単語解説

GPU：（ジーピーユー）ゲーミングPCに入ってる計算が得意なパーツ。AIを爆速で動かすための必須アイテム。これがないと、AIは「熟練の書道家」くらいのスピードで文字を書くことになります。

VRAM：（ブイラム）GPU専用の超高速メモリ。AIの「脳みそ（モデルデータ）」をここにロードして動かします。ここが十分にあると爆速になりますが、足りなくなるとAIが止まります。

RAM：（ラム）普通のPCメモリ。OSやExcelを動かすための汎用的なやつ。VRAMがないPCだとここが代わりに使われますが、速度はガクッと落ちます。

B (Billion)：数字が大きいほど賢い傾向にありますが、その分VRAMをドカ食いします。（第３話で解説）

QAT：これのおかげで、本来なら化け物スペックが必要なモデルでも、家庭用PCで動かせるようになります。（第３話で解説）

Out Of Memory：直訳すると「メモリ不足」。欲張ってデカすぎるモデルを読み込もうとした時に、PCが「もう無理！入り切らない！」と悲鳴を上げて強制終了する現象です。

プロンプト：AIに出す「指示文」や「質問」のこと。AIへの「お願い」みたいなものです。いままでコンピューターには、決まった命令文（プログラミング）でお願いしていたのを、人が使う自然言語で指示できるようになりました！

関連記事

次の話はこちら→第3話「RAM vs VRAM vs UMA！AIを速くする正体は〇〇だった」

前の話はこちら→第1話「えっ、会社のデータをChatGPTに投げちゃダメなんですか！？」

この記事の全体像はこちら→ローカルLLM完全ロードマップ