Tarjeta de Magistry v1.1
`sophosympatheia/Magistry-24B-v1.1` es la actualización menor de 3.1. La tarjeta menciona mejoras en instrucciones, repetición y function calling.
Español
MAGISTRY 24B × SILLYTAVERN
Acierta primero con la configuración
“Magistry 24B” puede significar Magistry-24B-v1.1, el checkpoint 3.1 o un merge de RP como Magistry. No comparten plantilla ni sampler por defecto. Identifica el modelo exacto y conecta SillyTavern por capas.
EMPIEZA POR EL MODEL ID
24B indica tamaño, no un nombre
Anota el slug completo del repositorio o proveedor antes de cambiar ajustes. Así no aplicas una plantilla 3.2 a un archivo 3.1 ni confundes un merge comunitario con un checkpoint oficial.
Versión oficial anterior
`mistralai/Mistral-Small-3.1-24B-Instruct-2503` es otro checkpoint. No deduzcas su plantilla ni su comportamiento a partir de 3.2.
Archivos de RP de la comunidad
Magistry, Cydonia y Magidonia son fine-tunes o merges. Consulta su propia tarjeta para licencia, formato y samplers.
Base, instruct y cuantización
Base e instruct son checkpoints distintos. GGUF, AWQ y Q4/Q5/Q6 describen formatos o cuantizaciones, no modelos Magistry oficiales nuevos.
RUTA DE CONFIGURACIÓN
Elige el servidor antes que SillyTavern
SillyTavern es la interfaz. El modelo necesita un servidor local o un endpoint de proveedor. Elige según tu hardware y privacidad.
GPU local o Mac
La tarjeta 3.2 indica unos 55 GB de VRAM para BF16/FP16. Los GGUF pequeños reducen memoria a cambio de velocidad y calidad; revisa el archivo real.
Servidor vLLM
Magistry recomienda vLLM 0.9.1 o posterior y `mistral_common` 1.6.2 o posterior. Usa los formatos Magistry y el ID exacto.
Proveedor o API compatible con OpenAI
Copia el slug y endpoint exactos. La etiqueta “Magistry 24B” por sí sola no decide la plantilla de SillyTavern.
Conecta SillyTavern
Usa Chat Completion si el backend acepta mensajes por rol. Usa Text Completion solo cuando la documentación lo indique, y configura endpoint, clave, modelo y contexto.
AJUSTE PARA ROLEPLAY
Plantilla antes que sampler
Una plantilla incorrecta parece un modelo débil. Corrige formato y contexto antes de tocar la generación con una prueba corta y repetible.
Usa el formato Magistry del backend
Deja que el tokenizer o servidor aplique la chat template. Si aparecen `<s>`, marcadores de rol o tokens de herramientas, corrige el formato.
Mantén la tarjeta compacta
Separa hechos fijos, objetivos actuales y estado temporal. Quita lore duplicado e instrucciones que hacen escribir al modelo por el usuario.
Guarda una línea base
Empieza con los valores de la tarjeta del modelo o fine-tune. La tarjeta del modelo Magistry sugiere una temperatura baja, como 0.15, para uso general; los fine-tunes de RP pueden diferir.
Usa stop strings del modelo
Un stop string de Llama o ChatML puede truncar Magistry o mostrar marcadores. Copia la recomendación exacta del checkpoint y prueba dos turnos.
La comunidad menciona hablar por el usuario, narración extraña, respuestas nulas, repetición y cuantizaciones lentas. Son síntomas, no una regla para todos los archivos.
SÍNTOMA → COMPROBACIÓN → SOLUCIÓN
Encuentra la capa rota
Cambia una variable, guarda el resultado y repite el mismo prompt corto. El arreglo más rápido suele ser un nombre, endpoint o plantilla incorrectos.
| Síntoma | Comprueba | Siguiente paso |
|---|---|---|
| Respuesta nula | Estado del endpoint, slug, plantilla de contexto y stop strings. | Envía un prompt mínimo y usa la plantilla Magistry exacta del backend. |
| Marcadores en la respuesta | Quién aplica la plantilla: SillyTavern, servidor o tokenizer. | Deja un solo responsable del formato y revisa el prompt sin procesar. |
| Escribe por el usuario | Instrucciones y ejemplos de la tarjeta. | Aclara la agencia del usuario, elimina ejemplos conflictivos y prueba una elección corta. |
| Repetición o bucle | Lore duplicado, contexto, sampler y cuantización. | Reduce ruido, vuelve a la línea base y cambia un valor cada vez. |
| Muy pocos tokens por segundo | Cuantización, offload, presión de RAM/VRAM y contexto. | Compara el requisito real con tu equipo. El offload parcial puede ser mucho más lento. |
| Comportamiento inesperado | Base/instruct, 3.1/3.2 y oficial/comunidad. | Anota el ID completo y aplica la tarjeta de ese repositorio. |
ESPACIO DE INVESTIGACIÓN, NO RUNNER
Deja la tarjeta junto al chat
Tabbit no sustituye SillyTavern ni ejecuta este checkpoint local. En la comprobación de esta página, su directorio público no mostraba Magistry. Úsalo para reunir tarjetas, cuantizaciones, notas y debates.
- 1
Abre la tarjeta y la página de cuantización
Mantén visibles el ID, el hardware y las instrucciones de plantilla. Añade una tarjeta comunitaria después de separar el checkpoint oficial.
- 2
Referencia pestañas y archivos con @
Usa @ para incluir una página, captura o nota local y pedir una lista que conserve los IDs y marque suposiciones.
- 3
Compara lo que aparece
Tabbit puede comparar modelos visibles en su selector y resumir fuentes. La lista cambia, así que compruébala tras instalarlo.
ELIGE LA SUPERFICIE
¿Control local de RP o contexto web?
Resuelven problemas distintos. Usa SillyTavern para tarjetas, samplers y backend. Usa Tabbit cuando la información está repartida por páginas y archivos.
| SillyTavern + backend | Tabbit | |
|---|---|---|
| Ejecutar Magistry 24B localmente | Sí, con servidor compatible | No prometido |
| Tarjetas y samplers | Control detallado | Referenciar notas |
| Fuentes oficiales y comunitarias | Pegar o cambiar de app | @ pestañas, archivos y páginas |
| Comparar modelos | Cambiar endpoint o preset | Comparar modelos del selector |
| Diagnóstico de hardware | VRAM, offload y tokens/sec | Organizar evidencias |
FAQ
Preguntas sobre Magistry 24B y SillyTavern
¿Qué significa Magistry 24B?+
Suele referirse a un checkpoint Magistry-24B de 24.000 millones de parámetros, pero también a 3.1, 3.2, cuantizaciones y merges de RP. Usa el ID completo.
¿Qué modelo oficial elijo?+
La página oficial de esta guía es `sophosympatheia/Magistry-24B-v1.1`, una actualización menor de 3.1. Usa la versión que ofrezca tu servidor o proveedor.
¿Cabe en una GPU?+
El anuncio 3.1 menciona una RTX 4090 o un Mac de 32 GB; la tarjeta 3.2 indica unos 55 GB de VRAM para BF16/FP16. Las cuantizaciones cambian el requisito.
¿Chat Completion o Text Completion?+
Sigue el backend y la tarjeta. SillyTavern explica que la elección controla cómo se construye el prompt, no si el modelo es local o cloud.
¿Por qué repite o habla por mí?+
Comprueba ID, plantilla, tarjeta duplicada y sampler, en ese orden. Un fallo del frontend puede producir los mismos síntomas que el modelo.
¿Tabbit ejecuta Magistry 24B?+
No lo des por hecho. Magistry no aparecía en el directorio público de Tabbit al revisar esta página. Tabbit se ofrece para reunir y comparar fuentes.
Mantén juntos checkpoint, plantilla y pruebas
Confirma el ID de Magistry, conecta el servidor y ajusta SillyTavern con una prueba breve. Usa Tabbit para reunir tarjetas, cuantizaciones y debates.
Disponible para macOS y Windows. La lista de modelos puede cambiar.