Mistral Small 3.2 24B
官方 instruct checkpoint
適合精確遵循指令、多語聊天和 Apache-2.0 基線。
通用模型的文學感和主動性可能不如 RP 微調。
開啟模型卡 ↗MISTRAL 24B / RP 選擇指南
合適的模型取決於角色卡、硬體和文風偏好。先記錄完整儲存庫 ID,再比較角色聲音、一致性、主動性、覆誦、上下文和授權。本頁把 Mistral 官方事實與社群回饋分開。

條件式結論
這些是可以驗證的起點,不是統一榜單。模型卡和社群評論使用的測試不同,先把每個結論當作假設,再用自己的角色卡重測。
官方 instruct checkpoint
適合精確遵循指令、多語聊天和 Apache-2.0 基線。
通用模型的文學感和主動性可能不如 RP 微調。
開啟模型卡 ↗社群 RP / Magistral 風格微調
當你更重視文風、主動推動情節和靈活遵循系統提示時,可以先測它。
它是社群模型,有自己的模板與取樣建議。引用的好評不是標準化基準。
開啟模型卡 ↗社群 RP / Mistral Small 3.2 微調
適合測試角色聲音、群聊和場景展開,文風相對均衡。
模型卡提到偶發物理或因果錯誤。Heretic 版本是另一份獨立檔案。
開啟模型卡 ↗角色扮演優先的合併 LoRA
適合沉浸式敘事、鮮明角色聲音和場景推進。
模型卡列出長回覆覆誦、替使用者控制角色和嚴格多角色格式較弱等問題。
開啟模型卡 ↗提供 GGUF 的 RP 微調
適合已使用 llama.cpp 或 GGUF,並需要明確檔案大小選項的本地使用者。
Q4、Q6、Q8 會在記憶體、速度和保真度之間取捨。量化頁不是官方新版本。
開啟模型卡 ↗選擇量表
為真正影響對話的維度評分。第一輪文筆漂亮但 16k 後忘記小角色細節的模型,可能不如文風樸素但記憶穩定的模型。
| 維度 | 官方 3.2 | 社群 RP | 適用場景 |
|---|---|---|---|
| 角色一致性 | 指令遵循穩定 | 角色聲音通常更強,要在 8 到 16k 對話中驗證 | 長期角色卡 |
| 文風和主動性 | 克制、直接 | Magidonia、Cydonia、Umbra 都強調創作推進 | 文學場景 |
| 覆誦 | 3.2 卡稱無限生成比 3.1 少約兩倍 | 受微調、量化和取樣影響 | 長回覆 |
| 上下文表現 | 3.2 家族標注可支援 128k | 實際 KV cache 取決於後端和量化 | 大量世界觀 |
| 硬體 | BF16/FP16 約需 55GB GPU 記憶體 | GGUF 示例從 13.6GB Q4_K_S 到 25.2GB Q8_0 | 本地執行 |
| 授權和更新 | Apache 2.0,官方 ID 清楚 | 逐一核對模型卡、基座、日期和變體 | 分享或部署 |
選擇分 = 0.30 × 角色卡匹配 + 0.20 × 文風 + 0.20 × 一致性 + 0.15 × 上下文 + 0.10 × 硬體適配 + 0.05 × 授權可信度。用途改變時調整權重。
可重現測試
不要用不同提示詞比較官方基座和 RP 微調。固定角色、場景、上下文長度和輸出預算,把原始提示、量化檔案和結果放在一起。
給每個候選同一張卡、設定和開場動作。檢查措辭、視角、主動性,以及是否尊重使用者角色邊界。
加入一個小事實、新情緒節點和第二個角色。標出遺忘、重複短語、語氣突變和未經要求的行動。
按一致性、文筆、代理邊界、覆誦和延遲各打 1 到 5 分,記錄 temperature、top_p、上下文、量化和後端。
勝者應同時適合你的角色卡和機器。更換量化或模板後先重測,再決定是否放棄模型。

本地設定檢查
看似模型變弱的回覆,問題可能更早出在接入層。調整生成參數前,確認準確 ID、格式和 chat template。
3.2、3.1、base、instruct、Magidonia、Cydonia 和 Umbra 是不同檔案。「Mistral 24B」這個標籤不夠準確。
3.2 模型卡寫明 BF16/FP16 約需 55GB GPU 記憶體。GGUF 大小隨量化變化,還要給 KV cache、上下文和前端留空間。
Mistral 模型卡指向 Mistral tokenizer 和聊天格式。回覆出現 `<s>`、角色標記或 stop string 時,刪除重複的模板處理。
官方卡對通用用途建議較低 temperature。RP 卡可能不同。固定提示詞,一次只改一個值。
TABBIT 資料工作台
Tabbit 不執行 Mistral 24B,也不取代本地 RP 前端。本頁檢查時,Tabbit 公開模型目錄沒有顯示 Mistral。你可以用 Tabbit 集中管理官方模型卡、量化頁、Reddit 筆記和測試結果。
把準確 ID、授權和更新時間放在相鄰分頁,區分來源證據與使用者偏好。
把模型卡、截圖或本地測試筆記帶進問題,要求產生保留 ID 並標出未知項的檢查清單。
Tabbit 可以比較多個可見模型的回答並整理來源。模型選擇器會變化,安裝後重新確認列表。


資料工作台
讓 ID 始終可見,讓來源保持靠近。瀏覽器就是你的實驗記錄。
把上面的模型卡當作已檢查內容的記錄,不要把它理解為所有 endpoint 或模型都會一直可用。
常見問題
沒有來源支持的統一冠軍。先用 Mistral Small 3.2 做乾淨基線,再用自己的角色卡測試 Magidonia、Cydonia、Umbra 或 Roleplay V3。
搜尋結果把 Skyfall 標為 36B upscale 和 31B 社群模型。它可能源自 Mistral Small 24B,但不是 24B checkpoint。請按完整儲存庫 ID 比較。
社群卡對 Magidonia 和 Cydonia 的一致性評價較好,Umbra 則強調角色聲音和場景推進。這些是定性回饋,仍應做兩輪測試。
在記憶體和上下文預算允許的範圍內選品質最高的檔案。Roleplay V3 GGUF 頁面列出 Q4_K_S 13.6GB、Q4_K_M 14.4GB、Q6_K 19.4GB 和 Q8_0 25.2GB。
不要預設可以。本頁檢查時 Tabbit 公開模型目錄沒有顯示 Mistral。這裡推薦 Tabbit 用於資料收集和比較。
把 checkpoint、量化、提示詞和結果放在一起。新版本出現時更容易比較,出問題時也更容易定位。
支援 macOS 和 Windows。Tabbit 的模型可用性可能變化。