公式 Small Instruct
`mistralai/Mistral-Small-3.2-24B-Instruct-2506` は 3.1 の更新版です。カードは指示追従と反復エラーの改善を説明しますが、キャラクターの声を保証するものではありません。
日本語
MISTRAL 24B · ROLEPLAY ガイド
シーンの流れを保つ
Mistral 24B はサイズを示す名前で、単一の roleplay モデルではありません。公式 Instruct、コミュニティ fine-tune、merge、Q4 や Q6 のファイルでは結果が変わります。まず完全なリポジトリ名を確認し、声、ユーザーの裁量、展開、反復を短いテストで見ます。
コミュニティの報告は自分で試すための手がかりです。安全機能を回避する方法や jailbreak は扱いません。
CHECKPOINT を特定する
24B は規模、モデルカードは挙動を示す
複数のリポジトリが「Mistral 24B」と呼ばれると、roleplay の助言は曖昧になります。次の層を分けて記録してください。
コミュニティ RP checkpoint
Roleplay V2、V3、V5、V6 は別々の fine-tune または merge です。学習目的、形式、ライセンス、推奨 sampler は作者のカードを確認します。
base と instruct
base と instruct は異なる prompt を想定します。チャット用のキャラクターカードを base に置くと、サーバーと形式が対応していない場合は不自然になります。
量子化はトレードオフ
GGUF Q4、Q5、Q6、i1 はメモリ使用量を変え、速度や忠実度にも影響します。新しい Mistral の版ではありません。ファイル名、context、backend、offload を記録します。
PROMPT の設計
キャラクターの事実を保持しやすい場所へ置く
SillyTavern は system、キャラクター、persona、世界情報、履歴、現在の入力を一つの prompt にまとめます。カードの短い決め文句より最終 prompt が重要です。
- 01
役割を明確にする
キャラクターの次の返答を書くこと、ユーザーの裁量を守ること、シーンを進めることを指定します。声、境界、形式は短いブロックに分けます。
- 02
良い例を一つ示す
会話例はテンポ、視点、形式を教えます。ユーザーを勝手に動かす例、口癖を繰り返す例、両方の発言を書く例は削除します。
- 03
lore を検索しやすくする
固定の事実、現在の目的、一時的な状態を分けます。長く重複した lore は、反応より説明を繰り返させます。
- 04
組み立て後の prompt を見る
Prompt Itemization、ログ、Prompt Inspector を使います。そこで role marker が二重なら、sampler を変えても入力は直りません。
小さく公平なテスト
美文ではなくシーンを採点する
カード、開始メッセージ、context 上限、response 上限を固定します。3 ターン比べ、一度に一つだけ変えます。
01維持
1. 依頼を固定する
目的、声の特徴、場所、直前の変化、ユーザーの境界、長さを書きます。一般的な続きではなく具体的な結果を求めます。
02観察
2. 基準分岐を走らせる
カードの template と sampler で始めます。再生成の前に最初の返答を保存し、その後は一つだけ変更します。
03観察
3. 四つの信号を採点する
各ターンで声、ユーザーの裁量、展開、反復を 0 から 2 点で評価します。「新しい決定」など短い根拠も残します。
04再テスト
4. 順番に調整する
先に ID と template を直します。次に context と長さを見て、基準が安定してから temperature、min-p、DRY、XTC、量子化を比べます。
症状 → 層 → 次の確認
モデルを変える前に壊れた層を見つける
弱いシーンは prompt、サーバー、sampler の問題かもしれません。範囲を狭く調べます。
| 見える症状 | 疑う層 | 次の確認 |
|---|---|---|
| 乾いた文体、反復 | checkpoint、例、sampler | 基準分岐を走らせ、重複 lore を削り、一つだけ変更する。 |
| ユーザーの発言を代筆する | main prompt、persona、例 | ユーザーの裁量を肯定的に書き、最終 prompt を見る。 |
| role marker が本文に出る | template の二重適用 | Mistral template の担当を tokenizer か backend の一つにする。 |
| ループまたは展開停止 | context、response 上限、反復設定 | prompt を点検し、古い lore を短くし、新しい結果を求める。 |
| 空出力、急な切断 | endpoint、stop string、slug | 短い入力で ID を確認し、別モデルの stop を外す。 |
| 数ターン後に遅い | 量子化、context、CPU offload | メモリと context を比較し、tokens/sec を記録する。 |
TABBIT を調査デスクに
モデルカードをチャットの横に置く
Tabbit はローカルの Mistral checkpoint を動かさず、SillyTavern の代わりにもなりません。カード、量子化ページ、文書、議論をまとめるために使います。利用できるモデルは実際の picker で確認します。
- 1
正確な情報源を集める
公式カード、RP リポジトリ、量子化ページ、SillyTavern 文書を同じブラウザ空間で開きます。
- 2
@ でページを参照する
@ でページ、スクリーンショット、ローカルメモを質問に含め、ID と不明点を残すチェックリストを作ります。
- 3
根拠を比べる
マルチモデルチャットで二つの情報源を比べます。生成文の印象ではなく主張と手順を比較します。
- 4
実行環境へ戻る
確認した template と設定を SillyTavern やサーバーへ適用します。picker に Mistral がなければ、ローカル実行を意味すると考えません。
ツールの役割を分ける
ローカル RP 制御か、ブラウザーの文脈か
SillyTavern と Tabbit は別の作業を助けます。生成の設定は RP フロントエンドに置き、情報源の整理はブラウザーで行います。
| SillyTavern + backend | Tabbit | |
|---|---|---|
| ローカル Mistral 24B | 対応サーバーがあれば可能 | 保証しない |
| カード、lore、sampler | 細かな RP 制御 | ノートとページを参照 |
| 公式とコミュニティの資料 | タブ切替やコピー | @ で情報源をまとめる |
| 管理された RP 評価 | 分岐を生成して保存 | 主張と草稿を比較 |
| モデルの利用可否 | backend の一覧 | アカウントの live picker |
主張を正確にする
このガイドが約束しないこと
万能 preset はない
Temperature、min-p、DRY、XTC は checkpoint と backend に依存します。一枚のカードに効く設定が別のカードを硬くすることもあります。
RP benchmark の近道はない
指示やコードの点数は声、テンポ、ユーモア、約束の記憶を測りません。再現できるシーンで試します。
jailbreak の手順はない
正当な roleplay は架空の境界とユーザーの裁量を定義できますが、安全機能の回避は扱いません。
利用可否は固定ではない
モデル一覧、provider、Tabbit のアクセスは変化します。正確なカードと現在の picker を確認してください。
情報源を開く
この流れを支える資料
公式の事実、コミュニティの体験、フロントエンド文書を分けて確認できます。
- r/SillyTavernAI: Mistral Small 24B の報告 ↗Q6 と複数 sampler で乾いた反復文になったという報告。
- Mistral Small 3.2 model card ↗公式の更新、温度、template、serve 情報。
- Mistral Small 3.1 発表 ↗context、ハードウェア、base と instruct の情報。
- SillyTavern prompts ↗system、キャラクター、persona、世界、履歴の組み立て方。
- SillyTavern Common Settings ↗temperature、min-p、反復、DRY、XTC の定義。
- Hugging Face RP model 検索 ↗複数の 24B RP リポジトリと版を表示。
- GGUF 量子化の例 ↗ファイルサイズと速度または品質の注記。
FAQ
Mistral 24B roleplay の質問
Mistral 24B は roleplay 向きですか？+
checkpoint、カード、template、context、sampler によります。Reddit では指示追従は良い一方、創作が乾いて反復する報告がありました。同じ 3 ターンで試します。
どの Mistral 24B を選べばよいですか？+
完全なリポジトリ ID を確認し、メモリとライセンスに合うファイルを選びます。公式 Small 3.2 Instruct と RP fine-tune は別の選択です。
temperature はいくつですか？+
公式 3.2 カードは一般用途の例として低めの 0.15 を示します。RP fine-tune は別の基準を持つことがあります。一つずつテストしてください。
なぜ反復したり乾いた文章になったりしますか？+
checkpoint、重複 lore、例、context、template、sampler が原因になります。まず最終 prompt を確認します。
roleplay には GGUF Q6 が必要ですか？+
必須ではありません。Q6 は Q4 よりメモリを使うことが多いですが、ハードウェアと backend の速度も重要です。同じシーンで比べます。
Tabbit は Mistral 24B を実行できますか？+
前提にしないでください。ここでの Tabbit は調査用ブラウザです。インストール後、アカウントの live picker を確認してください。
checkpoint とシーンテストを一緒に管理する
リポジトリを確認し、template を明確にし、短い RP 比較を走らせ、調整中も根拠を手元に置きます。
macOS と Windows に対応します。モデルアクセスは版、地域、段階的展開で変わります。