正確なモデルIDを使う
Hugging Faceの指示調整済みチェックポイントは `google/gemma-4-26B-A4B-it` です。Q4、Q5、Q6は量子化であり、Googleの新しいモデル名ではありません。
日本語
Gemma 4 26B A4B × SillyTavern
SillyTavernでGemma 4 26Bを使う
最初の落とし穴は名前です。Gemma 4 26B A4Bは総パラメータ252億、active parameters約38億のMoEモデルです。dense 26Bでも31Bチェックポイントでもありません。名前、メモリ、テンプレート、フロントエンドの順に確認します。
公式モデル情報を確認 ↗
名前とハードウェア
26B A4BはMoE。数字だけで判断しない
Googleの正式名称はGemma 4 26B A4Bです。モデルカードでは総パラメータ252億、active parameters38億、30層、画像入力、256Kコンテキストと説明されています。GGUFのIT、Q4、Q5や作者名は配布側のラベルです。
重みとコンテキストを分けて考える
active parametersは速度の説明には役立ちますが、すべてのファイルが4GBになるわけではありません。重み、ランタイムバッファ、約5.5億パラメータの画像エンコーダ、KV cache、コンテキストがメモリを使います。
31Bの設定を流用しない
31Bは約307億パラメータのdenseモデルです。26B A4Bはexpertへルーティングします。31B向けの量子化やメモリ見積もりはそのまま使えません。
接続の順番
キャラクターカードより先にbackendを接続
層を分けて試すと、テンプレート、sampler、カードのどこが原因か分かります。
- 01
1. checkpointを確認
Gemma 4 26B A4Bと明記されたローカルファイルまたはプロバイダー版を選びます。`gemma-4-26b`を記憶で入力せず、model slugをコピーしてください。
- 02
2. APIモードを選ぶ
KoboldCpp、llama.cpp、LM Studio、OpenAI互換プロバイダーではendpointが異なります。対応していればまずChat Completionsを使い、Text Completionの手作業を減らします。
- 03
3. tokenizerとテンプレートを揃える
Googleの形式は `system`、`user`、`model`、`<|turn>`、`<turn|>` を使います。backendのGemma 4またはGemini用設定を使い、古いGemma 3テンプレートに戻さないでください。
- 04
4. thinkingを意図的に試す
Googleはsystem promptの先頭に `<|think|>` を置くとthinkingを有効にできると説明しています。短い入力で試してからカードとpresetを追加し、通常の履歴には最終回答だけを残します。
コミュニティではSillyTavern 1.17、KoboldCppの `--jinja`、Gemma4/Gemini tokenizer、`<|think|>` が話題になります。すべてのbackendに共通するGoogleの初期値ではありません。
出力がおかしいとき
失敗した層だけを直す
thinkingの記号が本文に出る
tokenizer、chat template、backendの生成モードを確認します。backendがすでにテンプレートを適用している場合、記号を手入力するとそのまま表示されることがあります。
thinkingが安定しない
SillyTavernとloaderがGemma 4形式に対応しているか確認します。`--jinja`や `<|think|>` が役立つ場合もありますが、正しいスイッチはサーバー次第です。
キャラクターが繰り返す
温度を変える前に重複コンテキストを減らします。上限とカードを確認し、temperature 1.0、top-p 0.95、top-k 64を実験の出発点にします。
ブラウザ側の選択肢
キャラクターwikiを開いたまま横で質問する
TabbitはローカルGGUFランナーでもSillyTavernカード管理ツールでもありません。wiki、設定メモ、トラブルシューティングを表示したまま、ブラウザで利用できるモデルと会話するためのルートです。
- 1
Tabbitをインストール
macOSまたはWindows向けのChromiumベースブラウザをダウンロードします。ローカルGemmaファイル、プロバイダーキー、SillyTavernサーバーは必要ありません。
- 2
表示されたモデルを選ぶ
インストール後にモデル選択を開きます。現在のコードにはGPT-5.4、Gemini-3.1-Pro、Claude-Sonnet-4.6、DeepSeek-V4-Flashなどがあります。現在のmappingにGemma 4はないため、TabbitでGemmaが動くとは約束しません。
- 3
資料を会話に参照する
wikiや設定メモをタブに残し、`@`でページ、スクリーンショット、ファイルを参照します。シーン案、整合性チェック、設定の要約を依頼できます。
クライアントを選ぶ
カードはSillyTavern、資料ページはTabbit
解決する詰まりどころが違います。細かなRP制御は専用フロントエンドで、資料がページやファイルに分散しているときはブラウザで進めます。
| SillyTavern | Tabbit | |
|---|---|---|
| キャラクターカードとlorebook | 中心機能 | 元ページを参照 |
| Gemma 4ローカルcheckpoint | backendを用意 | 一覧のモデルを使う |
| テンプレートとsampler | 細かく制御 | 選択したモデルが管理 |
| ウェブの文脈 | 貼り付けまたは拡張 | @でタブやファイルを参照 |
| 最初の有用な返信 | endpoint + template + preset | インストール + モデル選択 |
資料を会話に参照する
wikiや設定メモをタブに残し、`@`でページ、スクリーンショット、ファイルを参照します。シーン案、整合性チェック、設定の要約を依頼できます。
ウェブの文脈
@でタブやファイルを参照
よくある質問
Gemma 4 26B A4BとSillyTavern
Gemma 4 26Bの公式名称は？+
GoogleのモデルカードではGemma 4 26B A4Bです。Hugging Faceの指示調整済みcheckpointは `google/gemma-4-26B-A4B-it` です。
26B A4Bは31Bと同じですか？+
違います。26B A4Bは総パラメータ252億、active parameters約38億のMoEです。31Bは約307億パラメータのdenseモデルです。
必要なVRAMは？+
固定値はありません。量子化重み、KV cache、context、runtime buffer、vision encoderで変わります。使いたいcontextで実ファイルを測ってください。
なぜ `<|think|>` が返答に出ますか？+
tokenizerやtemplateがbackendと合っていないか、サーバーが制御tokenを本文として出している可能性があります。まず形式とthinkingを確認します。
TabbitでGemma 4 26Bを実行できますか？+
そうとは限りません。現在のTabbit mappingにGemma 4はありません。インストール後、選択画面に表示されるモデルだけを使ってください。
presetより先にモデル経路を直す
ローカルのGemma 4 26B A4Bではcheckpoint、メモリ、tokenizer、templateを順に確認します。wikiの横で会話したいならTabbitを入れて現在のモデル選択を確認してください。
macOSとWindowsに対応。モデルの提供状況は変わることがあります。