見出し画像

SillyTavernで会話を成り立たせる:テンプレートとサンプラーの設定【2026年版】

前回の記事でSillyTavernをインストールして、キャラクターを作成するところまでご案内しましたが、いざ会話をしてみたら、何かおかしい⋯ということがあると思います。

これは使用しているモデルと設定が合っていないためです。

SillyTavernにはたくさんの設定項目がありますが、最低限必要な箇所はわずかです。この記事ではポイントを絞って、分かりやすく解説します。

まだSillyTavernを導入していないかたは、下記の記事をご参照ください。



テンプレートでほぼ直る

基本的には、モデルにあった「Instruct Template」を選択すれば、会話が壊れる問題はほぼ解決します。

会話が壊れた例(Gemma 4)

まず会話が壊れた例をご紹介します。

これは極端な例ですが、とんでもないことになっていますね。

SillyTavernのフォーマット設定 1

直すには、「A(Advanced Formatting)」アイコンをクリックします。

次に、真ん中の「Instruct Template」の電源アイコンがオンであることを確認します。

そして、適切なテンプレート(ここではGemma 4)を選択します。

なお、雷マークはテンプレートを自動選択するというものですが、LM Studioと連携している場合は動きません。

SillyTavernのフォーマット設定 2

これで大部分は直りましたが、まだ変な文字が残っていますね。

SillyTavernのフォーマット設定 3

今回のケースでは、「Reasoning」の「Auto-Parse」をオンにして、「Reasoning Formatting」で「Gemma 4」を選択します。

SillyTavernのフォーマット設定 4

これで正常になりました。

SillyTavernのフォーマット設定 5

このように、まずは適切なInstruct Templateを選択し、それでも不十分であれば微調整するという流れとなります。

代表的なテンプレート

以前の記事でご紹介した、おすすめモデル3つに対応するテンプレートをご紹介します。

  • Aratako/NemoAurora-RP-12B-GGUF

    • ChatML

  • mradermacher/shisa-v2-mistral-nemo-12b-GGUF

    • Mistral V3-Tekken

  • lmstudio-community/gemma-4-12B-it-QAT-GGUF

    • Gemma 4

テンプレートの選び方

ではこれらのテンプレートはどのように選べばよいかというのは、なかなか難しい問題となります。

ほとんどのAIモデルはHuggingFaceというサイトで公開されており、作者が使い方を解説をしていることがあります。

解説をしていない場合は、使用例の「区切り文字」等から判断をします。

迷ったらAIに「適切なテンプレートを教えて」と聞くのも有効です。

後は実際に使ってみて判断をするという流れとなります。


Advanced Formattingの設定項目

最初のうちはInstruct Templateを選択するだけで十分ですが、その他の設定項目についても概要だけご紹介します。

Context Template

キャラクターやユーザーの情報をどのような順番でAIに渡すかという設定です。編集する必要はありませんが、消さないように注意してください。消してしまうと、AIにその情報が伝わらなくなります。

Contetext Formatting

文章をどのように整形するかという設定です。ほとんどの場合、初期値のままで問題ありません。

Instruct Template

会話の区切り方の「形式」を選びます。最重要設定です。ここで8割決まります。

Instruct Sequences

区切り記号を制御する設定です。

System Prompt

キャラクター設定等を上書きする設定です。

Custom Stopping Strings

「この文字が出たら止める」という記号を追加する設定です。

Tokenizer

トークンを正しく見積もるために使用します。ほとんどの場合、自動で問題ありません。

Reasoning

AIの「考える過程」の扱い方を決める設定です。

Miscellaneous

上記に当てはまらない細かな設定です。


会話の質を決めるサンプラー設定

上記のような会話の構造ではなく、会話の内容を決める設定を「サンプラー」と言います。その設定方法と、推奨値をご紹介します。

サンプラー設定の方法

サンプラーを設定するには「AI Response Configuration」アイコンをクリックします。

鍵アイコンで表示をロックしておくと便利です。

SillyTavernのサンプラー設定 1

Sampler Select」をクリックすると、設定する項目を選択することができます。

SillyTavernのサンプラー設定 2

サンプラー設定は不具合が多い

サンプラー設定はLM StudioとSillyTavernの両方にありますが、SillyTavern側の設定で上書きされます。

ただし、どうも不具合が多いようで、項目によって設定が反映されたり・されなかったりするようです。

かといってLM Studio側で制御することもできません。非表示にした項目は、デフォルト値で上書きされるようです。

バグ報告もされているので、今後改善されると思われます。

代表的なサンプラー項目

よく使われるサンプラー設定の項目と、推奨値をご紹介します。

  • Response (tokens):1回の返答の最大トークン量。まずは300程度が目安。

  • Context (tokens):過去の会話を記憶する最大トークン量。LM Studioでモデルをロードする時に設定した値が最大量となる。PCのスペック次第だが、8192程度は欲しい。

  • Temperature:言葉のランダムさ。低いほど堅実。高いほど多様。目安は0.7~1.0。

  • Top K Sampling:候補となる言葉を上位いくつまで絞るか。目安は40程度。

  • Top P Sampling:累積の確率で候補を絞り込む。目安は0.9程度。

  • Min P Sampling:確率の低い候補を切り捨て、会話の一貫性を保つ。目安は0.05程度。

  • Repeat Penalty:同じ言葉の繰り返しを抑制。目安は1.1程度。

  • Presence Penalty:話題の偏りを抑制。基本は0で問題なし。

おすすめのサンプラー設定値

モデルの作者が推奨している値をご紹介します。

  • Aratako/NemoAurora-RP-12B-GGUF

    • Temperature:0.3

    • Top P:0.9

    • Top K:40

    • Min P:0.05

  • mradermacher/shisa-v2-mistral-nemo-12b-GGUF

    • Temperature:1.0

    • Top P:0.9

    • Min P:0.1

  • lmstudio-community/gemma-4-12B-it-QAT-GGUF

    • Temperature:1.0

    • Top P:0.95

    • Top K:65

    • Min P:0.05(日本語の場合は必要?)

結構違いがあるのが分かると思います。使い方によるので、自分好みに調整してみてください。


次回は、昔のことを忘れない、長期記憶の仕組みと作り方について解説する予定です。



いいなと思ったら応援しよう!