Mistral Small 3.2 24B
官方 instruct checkpoint
适合精确遵循指令、多语言聊天和 Apache-2.0 基线。
通用模型的文学感和主动性可能不如 RP 微调。
打开模型卡 ↗MISTRAL 24B / RP 选择指南
合适的模型取决于角色卡、硬件和文风偏好。先记录完整仓库 ID,再比较角色声音、一致性、主动性、复读、上下文和许可证。本页把 Mistral 官方事实与社区反馈分开。

条件式结论
这些是可验证的起点,不是统一榜单。模型卡和社区评论使用的测试不同,先把每个结论当作假设,再用自己的角色卡复测。
官方 instruct checkpoint
适合精确遵循指令、多语言聊天和 Apache-2.0 基线。
通用模型的文学感和主动性可能不如 RP 微调。
打开模型卡 ↗社区 RP / Magistral 风格微调
当你更看重文风、主动推动情节和灵活遵循系统提示时,可以先测它。
它是社区模型,有自己的模板和采样建议。引用的好评不是标准化基准。
打开模型卡 ↗社区 RP / Mistral Small 3.2 微调
适合测试角色声音、群聊和场景展开,文风相对均衡。
模型卡提到偶发物理或因果错误。Heretic 版本是另一份独立文件。
打开模型卡 ↗角色扮演优先的合并 LoRA
适合沉浸式叙事、鲜明角色声音和场景推进。
模型卡列出长回复复读、替用户控制角色和严格多角色格式较弱等问题。
打开模型卡 ↗提供 GGUF 的 RP 微调
适合已经使用 llama.cpp 或 GGUF,并需要明确文件大小选项的本地用户。
Q4、Q6、Q8 会在内存、速度和保真度之间取舍。量化页不是官方新版本。
打开模型卡 ↗选择量表
给真正影响对话的维度评分。第一轮文笔漂亮但 16k 后忘记小角色细节的模型,可能不如文风朴素但记忆稳定的模型。
| 维度 | 官方 3.2 | 社区 RP | 适用场景 |
|---|---|---|---|
| 角色一致性 | 指令遵循稳定 | 角色声音通常更强,要在 8 到 16k 对话中验证 | 长期角色卡 |
| 文风和主动性 | 克制、直接 | Magidonia、Cydonia、Umbra 都强调创作推进 | 文学场景 |
| 复读 | 3.2 卡称无限生成比 3.1 少约两倍 | 受微调、量化和采样影响 | 长回复 |
| 上下文表现 | 3.2 家族标注可支持 128k | 实际 KV cache 取决于后端和量化 | 大量世界观 |
| 硬件 | BF16/FP16 约需 55GB GPU 内存 | GGUF 示例从 13.6GB Q4_K_S 到 25.2GB Q8_0 | 本地运行 |
| 许可证和更新 | Apache 2.0,官方 ID 清晰 | 逐个核对模型卡、基座、日期和变体 | 分享或部署 |
选择分 = 0.30 × 角色卡匹配 + 0.20 × 文风 + 0.20 × 一致性 + 0.15 × 上下文 + 0.10 × 硬件适配 + 0.05 × 许可证可信度。用途变化时调整权重。
可复现测试
不要用不同提示词比较官方基座和 RP 微调。固定角色、场景、上下文长度和输出预算,把原始提示、量化文件和结果放在一起。
给每个候选同一张卡、设定和开场动作。检查措辞、视角、主动性,以及是否尊重用户角色边界。
加入一个小事实、新情绪节点和第二个角色。标出遗忘、重复短语、语气突变和未经请求的行动。
按一致性、文笔、代理边界、复读和延迟各打 1 到 5 分,记录 temperature、top_p、上下文、量化和后端。
胜者应当同时适合你的角色卡和机器。换量化或模板后先重测,再决定是否放弃模型。

本地设置检查
看似模型变弱的回复,问题可能更早出在接入层。调整生成参数前,确认准确 ID、格式和 chat template。
3.2、3.1、base、instruct、Magidonia、Cydonia 和 Umbra 是不同文件。“Mistral 24B”这个标签不够准确。
3.2 模型卡写明 BF16/FP16 约需 55GB GPU 内存。GGUF 大小随量化变化,还要给 KV cache、上下文和前端留空间。
Mistral 模型卡指向 Mistral tokenizer 和聊天格式。回复出现 `<s>`、角色标记或 stop string 时,删除重复的模板处理。
官方卡对通用用途建议较低 temperature。RP 卡可能不同。固定提示词,一次只改一个值。
TABBIT 资料工作台
Tabbit 不运行 Mistral 24B,也不替代本地 RP 前端。本页检查时,Tabbit 公开模型目录没有显示 Mistral。你可以用 Tabbit 集中管理官方模型卡、量化页、Reddit 笔记和测试结果。
把准确 ID、许可证和更新时间放在相邻标签页,区分来源证据与用户偏好。
把模型卡、截图或本地测试笔记带进问题,要求生成保留 ID 并标出未知项的检查清单。
Tabbit 可以比较多个可见模型的回答并整理来源。模型选择器会变化,安装后重新确认列表。


资料工作台
让 ID 始终可见,让来源保持靠近。浏览器就是你的实验记录。
把上面的模型卡当作已检查内容的记录,不要把它理解为所有 endpoint 或模型都会一直可用。
常见问题
没有来源支持的统一冠军。先用 Mistral Small 3.2 做干净基线,再用自己的角色卡测试 Magidonia、Cydonia、Umbra 或 Roleplay V3。
搜索结果把 Skyfall 标为 36B upscale 和 31B 社区模型。它可能源自 Mistral Small 24B,但不是 24B checkpoint。请按完整仓库 ID 比较。
社区卡对 Magidonia 和 Cydonia 的一致性评价较好,Umbra 则强调角色声音和场景推进。这些是定性反馈,仍应做两轮测试。
在内存和上下文预算允许的范围内选质量最高的文件。Roleplay V3 GGUF 页面列出 Q4_K_S 13.6GB、Q4_K_M 14.4GB、Q6_K 19.4GB 和 Q8_0 25.2GB。
不要默认可以。本页检查时 Tabbit 公开模型目录没有显示 Mistral。这里推荐 Tabbit 用于资料收集和比较。
把 checkpoint、量化、提示词和结果放在一起。新版本出现时更容易比较,出问题时也更容易定位。
支持 macOS 和 Windows。Tabbit 的模型可用性可能变化。