한국어

MISTRAL 24B · ROLEPLAY 가이드

장면의 흐름을 지키는 법

Mistral 24B는 크기를 나타내는 이름이지 하나의 roleplay 모델이 아닙니다. 공식 Instruct, 커뮤니티 fine-tune, merge, Q4와 Q6 파일은 서로 다른 장면을 만들 수 있습니다. 먼저 정확한 저장소를 확인하고 말투, 사용자 주도권, 전개, 반복을 짧은 테스트로 점검하세요.

Reddit 보고서 읽기 ↗

커뮤니티 보고서는 직접 테스트할 때 참고하는 단서입니다. jailbreak나 안전 기능 우회 방법은 다루지 않습니다.

CHECKPOINT 확인

24B는 규모이고 모델 카드는 동작을 말합니다

여러 저장소가 “Mistral 24B”라고 불리면 roleplay 조언이 흐려집니다. 다음 층위를 따로 기록하세요.

공식 Small Instruct

`mistralai/Mistral-Small-3.2-24B-Instruct-2506`는 3.1 업데이트입니다. 모델 카드는 지시 따르기와 반복 오류 개선을 설명하지만 캐릭터 말투를 보장하지는 않습니다.

커뮤니티 RP checkpoint

Roleplay V2, V3, V5, V6는 서로 다른 fine-tune 또는 merge입니다. 학습 목적, 형식, 라이선스와 sampler는 작성자의 모델 카드를 확인하세요.

base와 instruct

base와 instruct는 서로 다른 prompt를 전제로 합니다. 채팅용 캐릭터 카드를 base에 넣으면 서버와 형식이 맞지 않을 때 어색한 결과가 나옵니다.

양자화의 교환

GGUF Q4, Q5, Q6, i1은 메모리 사용량과 속도 또는 충실도에 영향을 줍니다. 새 Mistral 버전이 아닙니다. 파일명, context, backend, offload를 기록하세요.

PROMPT 설계

캐릭터 정보를 모델이 유지할 곳에 넣기

SillyTavern은 system, 캐릭터, persona, 세계관, 기록과 현재 입력을 하나의 prompt로 합칩니다. 카드의 멋진 문구보다 최종 prompt가 중요합니다.

01
할 일을 명확히 쓰기
캐릭터의 다음 답변을 쓰고 사용자의 주도권을 존중하며 장면을 진행한다고 적습니다. 말투, 경계, 출력 형식은 짧은 블록으로 나누세요.
02
좋은 예시 하나만 남기기
대화 예시는 리듬, 시점, 형식을 가르칩니다. 사용자를 대신해 말하거나 말버릇을 반복하거나 양쪽을 모두 쓰게 하는 예시는 삭제하세요.
03
lore를 찾기 쉽게 만들기
고정 사실, 현재 목표와 임시 장면 상태를 분리합니다. 길고 중복된 lore는 반응 대신 설정을 반복하게 만들 수 있습니다.
04
조립된 prompt 보기
Prompt Itemization, 로그 또는 Prompt Inspector를 사용합니다. role marker가 중복되어 있으면 sampler를 바꿔도 입력은 고쳐지지 않습니다.

작고 공정한 테스트

예쁜 한 문장이 아니라 장면을 평가하기

카드, 시작 메시지, context 한도와 응답 한도를 고정합니다. 세 턴을 비교하고 한 번에 한 변수만 바꾸세요.

01유지

1. 요청 고정

목표, 말투 특징, 장소, 즉시 일어난 변화, 사용자 경계와 길이를 씁니다. 일반적인 이어쓰기가 아니라 구체적인 결과를 요청하세요.

02관찰

2. 기준 분기 실행

카드에 적힌 template과 sampler로 시작합니다. 재생성 전에 첫 답변을 저장하고, 그 다음 하나만 바꿉니다.

03관찰

3. 네 가지 신호 점수화

각 턴의 말투, 사용자 주도권, 전개와 반복을 0에서 2점으로 평가합니다. “새 결정” 같은 짧은 근거도 남기세요.

04재테스트

4. 순서대로 조정

먼저 ID와 template을 고칩니다. 다음으로 context와 길이를 보고, 기준이 안정된 뒤 temperature, min-p, DRY, XTC나 양자화를 비교합니다.

증상 → 층위 → 다음 확인

모델을 바꾸기 전에 고장 난 층을 찾기

장면이 약한 원인은 prompt, 서버 또는 sampler일 수 있습니다. 범위를 좁혀 확인하세요.

보이는 현상	가능한 층위	다음 단계
건조하거나 반복되는 문장	checkpoint, 예시 또는 sampler	기준 분기를 실행하고 중복 lore를 지운 뒤 하나만 바꿉니다.
사용자 대신 말함	main prompt, persona 또는 예시	사용자 주도권을 긍정적으로 쓰고 최종 prompt를 확인합니다.
role marker가 본문에 보임	template 중복 적용	tokenizer 또는 backend 한 곳에서만 Mistral template을 적용합니다.
장면이 반복되거나 멈춤	context, 응답 한도 또는 반복 설정	prompt 구성을 보고 오래된 lore를 줄이고 새 결과를 요청합니다.
빈 출력 또는 갑작스런 중단	endpoint, stop string 또는 slug	짧은 입력으로 ID를 확인하고 다른 모델의 stop을 제거합니다.
몇 턴 뒤 느려짐	양자화, context 또는 CPU offload	메모리와 context를 비교하고 tokens/sec를 기록합니다.

TABBIT 조사 데스크

모델 카드를 채팅 옆에 두기

Tabbit은 로컬 Mistral checkpoint를 실행하지 않고 SillyTavern을 대체하지도 않습니다. 모델 카드, 양자화 페이지, 문서와 토론을 한곳에 모으는 용도입니다. 이용 가능 모델은 실제 picker에서 확인하세요.

1
정확한 출처 모으기
공식 카드, RP 저장소, 양자화 페이지와 SillyTavern 문서를 같은 브라우저 공간에서 엽니다.
2
@로 페이지 참조
@로 페이지, 스크린샷 또는 로컬 메모를 질문에 넣고 ID와 모르는 내용을 보존하는 목록을 만드세요.
3
근거 비교
멀티모델 채팅으로 두 출처의 차이를 비교합니다. 생성된 한 문단이 아니라 주장과 절차를 비교하세요.
4
실행 환경으로 돌아가기
검증한 template과 설정을 SillyTavern이나 서버에 적용합니다. picker에 Mistral이 없다고 해서 로컬 실행을 의미한다고 해석하지 마세요.

도구의 역할 나누기

로컬 RP 제어인가, 브라우저 문맥인가

SillyTavern과 Tabbit은 서로 다른 작업을 돕습니다. 생성 설정은 RP 프론트엔드에 두고 출처 정리는 브라우저에서 하세요.

	SillyTavern + backend	Tabbit
로컬 Mistral 24B 실행	호환 서버가 있으면 가능	보장하지 않음
카드, lore, sampler	세밀한 RP 제어	노트와 페이지 참조
공식 및 커뮤니티 자료	탭 전환 또는 복사	@로 출처 모으기
통제된 RP 평가	분기를 생성하고 저장	주장과 초안 비교
모델 이용 가능성	backend 목록	계정의 live picker

주장을 정확히

이 가이드가 약속하지 않는 것

만능 preset은 없음

Temperature, min-p, DRY, XTC는 checkpoint와 backend에 따라 달라집니다. 한 카드에 맞는 설정이 다른 카드를 딱딱하게 만들 수 있습니다.

RP benchmark 지름길 없음

지시나 코드 점수는 말투, 리듬, 유머 또는 약속 기억을 측정하지 않습니다. 반복 가능한 장면 테스트를 사용하세요.

jailbreak 방법 없음

정상적인 roleplay는 허구의 경계와 사용자 주도권을 정할 수 있지만 안전 제어를 피하는 방법은 다루지 않습니다.

영구적인 이용 가능성 없음

모델 목록, provider와 Tabbit 접근 권한은 변합니다. 정확한 카드와 현재 picker를 확인하세요.

출처 열기

이 흐름의 근거

공식 사실, 커뮤니티 경험과 프론트엔드 문서를 나누어 확인할 수 있습니다.

FAQ

Mistral 24B roleplay 질문

Mistral 24B는 roleplay에 좋은가요?+

checkpoint, 카드, template, context와 sampler에 따라 다릅니다. Reddit에는 지시 따르기는 좋지만 창작이 건조하고 반복된다는 보고가 있습니다. 같은 세 턴으로 테스트하세요.

어떤 Mistral 24B를 받아야 하나요?+

전체 저장소 ID부터 확인하고 메모리와 라이선스에 맞는 파일을 고르세요. 공식 Small 3.2 Instruct와 RP fine-tune은 다른 선택입니다.

temperature는 얼마로 해야 하나요?+

공식 3.2 카드는 일반 용도로 낮은 0.15를 예로 듭니다. RP fine-tune은 다른 기준을 제시할 수 있습니다. 한 번에 하나씩 시험하세요.

왜 반복하거나 건조하게 쓰나요?+

checkpoint, 중복 lore, 예시, context, template 또는 sampler가 원인일 수 있습니다. 먼저 최종 prompt를 확인하세요.

roleplay에 GGUF Q6가 필요한가요?+

반드시 그렇지는 않습니다. Q6는 Q4보다 메모리를 더 쓰는 경우가 많지만 하드웨어와 backend 속도도 중요합니다. 같은 장면으로 비교하세요.

Tabbit이 Mistral 24B를 실행하나요?+

그렇게 가정하지 마세요. 여기서 Tabbit은 조사용 브라우저입니다. 설치 후 계정의 live picker를 확인하세요.

checkpoint와 장면 테스트를 함께 관리하기

저장소를 확인하고 template을 분명히 한 뒤 짧은 RP 비교를 실행하세요. 조정할 때도 근거를 가까이 두세요.

macOS와 Windows에서 사용할 수 있습니다. 모델 접근은 버전, 지역과 배포에 따라 다를 수 있습니다.