官方 Small Instruct
`mistralai/Mistral-Small-3.2-24B-Instruct-2506` 是 2025 年 6 月發布的 3.1 更新版。模型卡提到指令遵循更好、重複錯誤更少，但沒有承諾一定有好的角色語氣。
繁體中文
MISTRAL 24B · 角色扮演實用指南
讓場景真正連貫起來
Mistral 24B 只是規模標籤，不是一款固定的角色扮演模型。官方 Instruct、社群微調、merge，以及 Q4 或 Q6 檔案，寫出的場景可能完全不同。先確認完整儲存庫名稱，再測試語氣、使用者主動權、劇情推進和重複問題。
社群回饋只適合作為自己測試的線索。本頁不提供繞過安全限制的方法。
先確認 CHECKPOINT
24B 說明規模，模型卡才說明行為
多個儲存庫都被稱為「Mistral 24B」時，角色扮演建議很容易失去上下文。把下面幾層分開記錄。
社群 RP checkpoint
Roleplay V2、V3、V5、V6 是不同的微調或 merge。請看作者模型卡的訓練目標、提示格式、授權和推薦採樣值。不要因為參數規模相同就複製設定。
base 與 instruct
base 和 instruct 需要不同的提示方式。為聊天寫的角色卡直接放到 base 模型上，可能出現異常，除非服務層和 prompt 格式本來就是為它設計。
量化是取捨
GGUF 的 Q4、Q5、Q6 和 i1 會改變記憶體用量，也可能影響速度或保真度。它們不是新的 Mistral 版本。把量化檔名、上下文上限、後端和 offload 方案一起記下。
提示詞結構
把角色事實放在模型能保留的位置
SillyTavern 會把系統指令、角色和 persona、世界資訊、歷史訊息及目前輸入合成一個 prompt。最後的 prompt 比角色卡裡的一句漂亮口號更重要。
- 01
先說清模型任務
說明模型要寫角色的下一則回覆、尊重使用者主動權，並推進目前場景。把語氣、邊界和輸出格式分成幾段短指令。
- 02
只留一個好例子
示例對話可以教節奏、視角和格式。刪掉會讓模型替使用者敘述、重複口頭禪或同時寫雙方對話的示例。
- 03
讓 lore 容易檢索
分開固定事實、目前目標和暫時場景狀態。世界書太長或重複時，模型可能不斷複述設定，卻不回應新動作。
- 04
檢查最後 prompt
用 Prompt Itemization、日誌或 Prompt Inspector 查看實際內容。如果那裡已有錯誤角色或重複標記，改採樣也修不好輸入。
一組小型對照測試
評估場景，不要只看一段漂亮文字
固定角色卡、開場訊息、上下文和回覆上限。每個分支跑三輪，一次只改一個變數。
01保留
1. 固定任務簡報
寫出角色目標、語氣標記、地點、即時變化、使用者邊界和回覆長度。要求場景產生具體後果，不要只寫泛泛續寫。
02觀察
2. 跑一條基線
先使用角色卡指定的模板和採樣值。保存第一則回覆，再開始重抽或編輯。之後只做一項明確改變。
03觀察
3. 四項評分
每輪給語氣、使用者主動權、場景推進和重複控制各打 0 至 2 分。加上「出現新決定」或「感官細節重複」的紀錄，讓分數有依據。
04重測
4. 按順序調節
先修正型號和模板，再看上下文與回覆長度。基線穩定後，才比較 temperature、min-p、DRY、XTC 或其他量化。
症狀 → 層級 → 下一項檢查
先找壞掉的那一層，再換模型
「寫得不好」可能是 prompt 組裝、服務端匹配或採樣造成。用這張表縮小排查範圍。
| 看到的現象 | 可能層級 | 下一步 |
|---|---|---|
| 文字乾澀、僵硬或重複 | checkpoint、角色卡示例或採樣 | 跑基線，刪除重複 lore，再一次只改一個採樣值。 |
| 模型替使用者說話 | 主提示、persona 或示例對話 | 正面說明使用者主動權，並檢查最後 prompt。 |
| 角色標記洩露到正文 | 兩處同時套用 chat template | 讓 tokenizer 或後端只套用一次 Mistral 模板，刪除重複格式化。 |
| 場景循環或停滯 | 上下文壓力、回覆上限或重複設定 | 看 prompt itemization，縮短舊 lore，並要求出現新後果。 |
| 空回覆或突然截斷 | endpoint、stop string 或 model slug | 發一則短訊息，核對完整 ID，刪除從其他模型複製的 stop string。 |
| 幾輪後明顯變慢 | 量化、上下文變長或 CPU offload | 將檔案大小和上下文需求與記憶體比較，先記錄 tokens/sec。 |
TABBIT 資料工作台
把模型卡放在對話旁邊
Tabbit 不執行本地 Mistral checkpoint，也不取代 SillyTavern。當設定資料分散在模型卡、量化頁面、文件和社群討論中，可以用它整理來源。安裝後以即時模型選擇器為準。
- 1
收集準確來源
在一個瀏覽器工作區開啟官方模型卡、RP 儲存庫、量化頁和 SillyTavern 文件。
- 2
用 @ 引用頁面
用 @ 將來源頁、截圖或本地筆記帶入問題，讓模型生成保留儲存庫 ID、標出未知資訊的清單。
- 3
比較證據
用多模型對話比較兩個來源的差異。比較主張和操作說明，不要只比較一段生成文字。
- 4
回到執行端
把核實過的模板和設定套用到 SillyTavern 或伺服器。如果 Tabbit 選擇器沒有 Mistral，不要據此推斷產品執行本地模型。
讓工具各司其職
本地 RP 控制，還是瀏覽器上下文？
SillyTavern 和 Tabbit 解決不同環節。把生成控制留在 RP 前端，把資料整理交給瀏覽器工作區。
| SillyTavern + 後端 | Tabbit | |
|---|---|---|
| 執行本地 Mistral 24B | 可以，需要相容伺服器 | 不承諾 |
| 角色卡、世界書和採樣 | 詳細的 RP 控制 | 引用筆記和頁面 |
| 閱讀官方與社群資料 | 切換分頁或複製文字 | 集中來源並用 @ 引用 |
| 受控 RP 評估 | 生成並記錄分支 | 比較來源主張和草稿 |
| 模型可用性 | 看後端模型列表 | 看帳號即時選擇器 |
保持主張準確
本指南不承諾這些事情
沒有通用最佳預設
Temperature、min-p、DRY 和 XTC 會與 checkpoint 和後端互相影響。適合一張角色卡的設定，可能讓另一張卡變得僵硬。
沒有 RP 基準捷徑
官方指令或程式分數不代表語氣、節奏、幽默，也不代表角色能記住承諾。請使用可重複的場景測試。
沒有 jailbreak 配方
正當角色扮演可以定義虛構邊界和使用者主動權，但不應要求模型或供應商逃避安全控制。
沒有永久可用性保證
模型目錄、供應商和 Tabbit 存取權限都會變化。當天應檢查準確模型卡和產品即時選擇器。
開啟來源
這套流程的證據
以下分開列出官方模型事實、社群體驗和前端文件。
- r/SillyTavernAI：Mistral Small 24B 回饋 ↗使用者描述 Q6 與多種採樣設定下的乾澀和重複文字。
- Mistral Small 3.2 模型卡 ↗官方更新說明、溫度建議、模板和服務資訊。
- Mistral Small 3.1 發布說明 ↗官方上下文長度、硬體定位及 base/instruct 資訊。
- SillyTavern prompts 文件 ↗系統、角色、persona、世界資訊和歷史如何組成 prompt。
- SillyTavern Common Settings ↗temperature、min-p、重複、DRY 和 XTC 的定義與注意事項。
- Hugging Face 角色扮演模型搜尋 ↗即時列表顯示多個 24B RP 儲存庫和版本。
- GGUF 量化範例 ↗量化頁面列出檔案大小及速度或品質提示。
FAQ
Mistral 24B 角色扮演常見問題
Mistral 24B 適合角色扮演嗎？+
要看準確 checkpoint、角色卡、模板、上下文和採樣。Reddit 回饋認為指令遵循不錯，但創意寫作乾澀且重複。請對自己的檔案跑三輪相同測試。
該下載哪一個 Mistral 24B？+
先看完整儲存庫 ID，再選符合記憶體和授權要求的檔案。官方 Small 3.2 Instruct 與社群 RP 微調是不同選擇，不能只按名稱互換。
temperature 應該設多少？+
官方 3.2 模型卡對一般用途舉例建議較低的 0.15。RP 微調可能有自己的基線。記錄模型卡數值，先測試，再一次只改一個採樣項。
為什麼會重複或寫得很乾？+
可能來自基礎 checkpoint、重複 lore、示例、上下文壓力、模板歸屬或採樣。先檢查最後 prompt，再判斷是不是模型本身。
角色扮演一定要 GGUF Q6 嗎？+
不一定。Q6 通常比 Q4 佔用更多記憶體，可能保留更多細節，但後端速度和硬體同樣重要。用相同短場景比較實際檔案。
Tabbit 能執行 Mistral 24B 嗎？+
不要假設可以。本頁把 Tabbit 定位為瀏覽器資料工作區。安裝後查看即時模型選擇器，確認帳號實際可用的模型。
把 checkpoint 和場景測試放在一起
確認儲存庫，明確模板，跑一組短 RP 對照，再把證據放在調參時隨手可查的位置。
支援 macOS 和 Windows。模型存取可能因版本、地區和灰度而不同。