官方 Small Instruct
`mistralai/Mistral-Small-3.2-24B-Instruct-2506` 是 2025 年 6 月发布的 3.1 更新版。模型卡提到指令遵循更好、重复错误更少，但没有承诺它一定有好的角色语气。
简体中文
MISTRAL 24B · 角色扮演实用指南
让场景真正连贯起来
Mistral 24B 只是规模标签，不是一款固定的角色扮演模型。官方 Instruct、社区微调、merge，以及 Q4 或 Q6 文件，写出来的场景可能完全不同。先确认完整仓库名，再测试语气、用户主动权、剧情推进和重复问题。
社区反馈只适合作为自己测试的线索。本页不提供越过安全限制的提示词或方法。
先确认 CHECKPOINT
24B 说明规模，模型卡才说明行为
多个仓库都被称为“Mistral 24B”时，角色扮演建议很容易失去上下文。把下面几层分开记录。
社区 RP checkpoint
Roleplay V2、V3、V5、V6 是不同的微调或 merge。请看作者模型卡中的训练目标、提示格式、许可证和推荐采样值。不要因为参数规模相同就复制设置。
base 与 instruct
base 和 instruct 需要不同的提示方式。为聊天写的角色卡直接放到 base 模型上，可能会出现异常，除非服务层和 prompt 格式本来就是为它设计的。
量化是取舍
GGUF 的 Q4、Q5、Q6 和 i1 会改变内存占用，也可能影响速度或保真度。它们不是新的 Mistral 版本。把量化文件名、上下文上限、后端和 offload 方案一起记下。
提示词结构
把角色事实放在模型能保留的位置
SillyTavern 会把系统指令、角色和 persona、世界信息、历史消息及当前输入合成一个 prompt。最终 prompt 比角色卡里的一句漂亮口号更重要。
- 01
先说清模型的任务
说明模型要写角色的下一条回复，尊重用户主动权，并推进当前场景。把语气、边界和输出格式分成几段短指令。
- 02
只留一个好示例
示例对话可以教会节奏、视角和格式。删掉会让模型替用户叙述、重复口头禅或同时写双方对话的示例。
- 03
让 lore 容易检索
分开固定事实、当前目标和临时场景状态。世界书太长或重复时，模型可能一直复述设定，却不回应新的动作。
- 04
检查最终 prompt
用 Prompt Itemization、日志或 Prompt Inspector 查看实际发送的内容。如果那里已经有错误角色或重复角色标记，改采样也修不好输入。
一组小型对照测试
评估场景，不要只看一段漂亮文字
固定角色卡、开场消息、上下文和回复上限。每个分支跑三轮，一次只改一个变量。
01保留
1. 固定任务简报
写出角色目标、语气标记、地点、即时变化、用户边界和回复长度。要求场景产生一个具体后果，不要只写泛泛的续写。
02观察
2. 跑一条基线
先使用角色卡指定的模板和采样值。保存第一条回复，再开始重抽或编辑。之后只做一项明确改变。
03观察
3. 给四项打分
每轮给语气、用户主动权、场景推进和重复控制各打 0 至 2 分。加一句“出现新决定”或“感官细节重复”的记录，让分数有依据。
04重测
4. 按顺序调节
先修型号和模板，再看上下文与回复长度。基线稳定后，才比较 temperature、min-p、DRY、XTC 或其他量化。
症状 → 层级 → 下一项检查
先找坏掉的那一层，再换模型
“写得不好”可能是 prompt 组装、服务端匹配或采样造成的。用这张表把排查范围缩小。
| 看到的现象 | 可能层级 | 下一步 |
|---|---|---|
| 文字干涩、僵硬或复读 | checkpoint、角色卡示例或采样 | 跑基线，删掉重复 lore，再一次只改一个采样值。 |
| 模型替用户说话 | 主提示、persona 或示例对话 | 正面说明用户主动权，并检查最终 prompt。 |
| 角色标记泄露到正文 | 两个地方同时应用 chat template | 让 tokenizer 或后端只应用一次 Mistral 模板，删除重复格式化。 |
| 场景循环或停滞 | 上下文压力、回复上限或重复设置 | 看 prompt itemization，缩短旧 lore，并要求出现一个新后果。 |
| 空回复或突然截断 | endpoint、stop string 或 model slug | 发一条短消息，核对完整 ID，删除从其他模型复制的 stop string。 |
| 几轮后明显变慢 | 量化、上下文变长或 CPU offload | 把文件大小和上下文需求与内存对比，并先记录 tokens/sec。 |
TABBIT 资料工作台
把模型卡放在对话旁边
Tabbit 不运行本地 Mistral checkpoint，也不替代 SillyTavern。当设置资料分散在模型卡、量化页面、文档和社区讨论中时，可以用它整理来源。安装后以实时模型选择器为准。
- 1
收集准确来源
在一个浏览器工作区打开官方模型卡、RP 仓库、量化页和 SillyTavern 文档。
- 2
用 @ 引用页面
用 @ 把来源页、截图或本地笔记带入问题，让模型生成保留仓库 ID、标出未知信息的清单。
- 3
比较证据
用多模型对话比较两个来源的差异。比较主张和操作说明，不要只比较一段生成文字。
- 4
回到运行端
把核实过的模板和设置应用到 SillyTavern 或服务器。如果 Tabbit 选择器没有 Mistral，不要据此推断产品运行本地模型。
让工具各司其职
本地 RP 控制，还是浏览器上下文？
SillyTavern 和 Tabbit 解决的是不同环节。把生成控制留在 RP 前端，把资料整理交给浏览器工作区。
| SillyTavern + 后端 | Tabbit | |
|---|---|---|
| 运行本地 Mistral 24B | 可以，需要兼容服务器 | 不承诺 |
| 角色卡、世界书和采样 | 详细的 RP 控制 | 引用笔记和页面 |
| 阅读官方与社区资料 | 切换标签或复制文字 | 集中来源并用 @ 引用 |
| 受控 RP 评估 | 生成并记录分支 | 比较来源主张和草稿 |
| 模型可用性 | 看后端模型列表 | 看账号实时选择器 |
保持主张准确
本指南不承诺这些事情
没有通用最佳预设
Temperature、min-p、DRY 和 XTC 会与 checkpoint 和后端互相影响。适合一张角色卡的设置，可能让另一张卡变得僵硬。
没有 RP 基准捷径
官方指令或代码分数不代表语气、节奏、幽默，也不代表角色能记住承诺。请使用可重复的场景测试。
没有 jailbreak 配方
正当角色扮演可以定义虚构边界和用户主动权，但不应要求模型或供应商逃避安全控制。
没有永久可用性保证
模型目录、供应商和 Tabbit 访问权限都会变化。当天应检查准确模型卡和产品实时选择器。
打开来源
这套流程的证据
下面把官方模型事实、社区体验和前端文档分开列出。
- r/SillyTavernAI：Mistral Small 24B 反馈 ↗用户描述 Q6 与多种采样设置下的干涩和重复文字。
- Mistral Small 3.2 模型卡 ↗官方更新说明、温度建议、模板和服务信息。
- Mistral Small 3.1 发布说明 ↗官方上下文长度、硬件定位及 base/instruct 信息。
- SillyTavern prompts 文档 ↗系统、角色、persona、世界信息和历史如何组成 prompt。
- SillyTavern Common Settings ↗temperature、min-p、重复、DRY 和 XTC 的定义与注意事项。
- Hugging Face 角色扮演模型搜索 ↗实时列表显示多个 24B RP 仓库和版本。
- GGUF 量化示例 ↗量化页面列出文件大小以及速度或质量提示。
FAQ
Mistral 24B 角色扮演常见问题
Mistral 24B 适合角色扮演吗？+
要看准确 checkpoint、角色卡、模板、上下文和采样。Reddit 反馈认为指令遵循不错，但创意写作干涩且重复。请对自己的文件跑三轮相同测试。
该下载哪一个 Mistral 24B？+
先看完整仓库 ID，再选符合内存和许可证要求的文件。官方 Small 3.2 Instruct 与社区 RP 微调是不同选择，不能只按名称互换。
temperature 应该设多少？+
官方 3.2 模型卡对一般用途举例建议较低的 0.15。RP 微调可能有自己的基线。记录模型卡的值，先测试，再一次只改一个采样项。
为什么会复读或写得很干？+
可能来自基础 checkpoint、重复 lore、示例、上下文压力、模板归属或采样。先检查最终 prompt，再判断是不是模型本身。
角色扮演一定要 GGUF Q6 吗？+
不一定。Q6 通常比 Q4 占用更多内存，可能保留更多细节，但后端速度和硬件同样重要。用相同短场景比较实际文件。
Tabbit 能运行 Mistral 24B 吗？+
不要假设可以。本页把 Tabbit 定位为浏览器资料工作区。安装后查看实时模型选择器，确认账号实际可用的模型。
把 checkpoint 和场景测试放在一起
确认仓库，明确模板，跑一组短 RP 对照，再把证据放在调参时随手可查的位置。
支持 macOS 和 Windows。模型访问可能因版本、地区和灰度而不同。