K3 は常に推論する
K3 はトップレベルの `reasoning_effort` に `low`、`high`、`max` を指定します。K2.x の `thinking` 設定を K3 にコピーしないでください。
日本語
KIMI K3 / 推論 PREFILL
答えを prefill し、推論ブロックは混ぜない
Kimi K3 は常に推論します。Partial Mode は assistant メッセージのプレフィックスを続けますが、推論と最終コンテンツは別フィールドで届くことがあります。この境界が空の応答、400、推論の表示、次ターンの文脈消失を生みます。
Kimi 公式 Chat Completions リファレンスは K3、Partial Mode、K2.x の違いを説明しています。プロバイダーの対応は別に確認してください。
まず契約を確認
推論と prefill は別の境界です
Kimi のドキュメントは具体的です。コミュニティ投稿はプロバイダーや SillyTavern の症状を知る手掛かりですが、共通の回避策を保証するものではありません。
Partial Mode は内容を続ける
`messages` の最後に `assistant` メッセージを置き、`partial: true` を設定して出力プレフィックスを誘導します。非公開推論を注入する仕様ではありません。
プロバイダーもテスト対象
ゲートウェイは `partial`、`reasoning_effort`、`reasoning_content` を変更、削除、拒否することがあります。まず prefill を外した応答と比較してください。
フィールド対応表
K3 と K2.x は同じ thinking スイッチではない
モデルの世代に合わせてフィールドを選びます。この表は診断用で、ゲートウェイの透過を保証するものではありません。
| 確認項目 | Kimi K3 | Kimi K2.x |
|---|---|---|
| thinking を無効化できる？ | できません。K3 は常に推論します。 | モデルによります。K2.6 は enabled または disabled、K2.7-code は enabled 固定です。 |
| 推論の制御 | トップレベルの `reasoning_effort`: low、high、max。 | `thinking.type`。初期値はモデルごとに異なります。 |
| 履歴の保持 | K3 は preserved thinking を使います。必要なら完全な assistant turn を戻します。 | `thinking.keep` は K2.x に記載され、モデルで異なります。 |
| Prefill | `partial: true` と最後の assistant プレフィックスで続けます。 | モデルとプロバイダーのドキュメントを確認します。 |
K3 のリクエストに `thinking: { type: "enabled" }` があれば、プロバイダーが変換層を明記していない限り削除します。
PREFILL CHECK
短いクリーンターンの後でプレフィックスを足す
小さな再現テストで、prompt、応答マッピング、履歴、プロバイダーのどこが原因かを分けられます。モデルと endpoint を固定し、一度に一つだけ変えます。
最小 Partial Mode の形
{
"model": "kimi-k3",
"messages": [
{"role": "user", "content": "Return a status object."},
{"role": "assistant", "content": "{\"status\":", "partial": true}
],
"reasoning_effort": "low",
"stream": false
}フィールドの関係を示す例です。SillyTavern の共通 preset ではありません。API キーをコードに入れないでください。
- 01
1. モデル世代を確認
プロバイダーのモデル一覧で正確な slug を確認します。公式 API の K3 alias は `kimi-k3` ですが、ゲートウェイでは異なる場合があります。
- 02
2. クリーンなリクエストを送る
`partial` を外し、通常の user メッセージと K3 用の推論フィールドだけで試します。`content` と `reasoning_content` を保存します。
- 03
3. 短い assistant プレフィックスを追加
最後の assistant メッセージに短いプレフィックスを入れ、`partial: true` を設定します。長いロールプレイ指示ではなく `{"status":` から始めます。
- 04
4. 完全な assistant turn を返す
次のターンではプロバイダーの仕様に従い、assistant メッセージ全体を保持します。推論ブロックを content のプレフィックスに混ぜません。
PROVIDER と FRONTEND
OpenAI 互換は形の話で、保証ではない
SillyTavern は OpenAI 互換 endpoint に接続でき、models endpoint がない場合はモデル ID を手入力できます。K3 のフィールドを通すかどうかは endpoint が決めます。
| Moonshot 公式 | ゲートウェイまたは SillyTavern | |
|---|---|---|
| モデル | `kimi-k3` | プロバイダーが現在示す alias を使います。 |
| 推論 | `reasoning_effort` low、high、max | 透過、変換、削除のどれかを確認します。 |
| Partial Mode | assistant プレフィックスと `partial: true` | 対象モデルでフィールドが受理されるか確認します。 |
| 履歴 | 必要なら assistant メッセージを保持 | reasoning と content が別々に保持されるか確認します。 |
| SillyTavern 設定 | 公式ドキュメントの API source | Test Message と Bypass API status check で frontend の検査を切り分けます。 |
症状からテストへ
エラーに次の変更を選ばせる
テスト対象を一つに絞ります。コミュニティの報告は仮説になりますが、実際のリクエストと応答が証拠です。
K2.x preset の後に 400
推論スキーマの不一致
`thinking` と K2.x の履歴フィールドを削除し、K3 の `reasoning_effort` と現在の alias を使います。
推論の後に空の応答
応答マッピングまたは履歴
streaming の delta と非 streaming のフィールドを調べ、`content` だけでなく完全な assistant オブジェクトを保持します。
Prefill で拒否や不自然な続き
Partial Mode またはプロバイダー
`partial` を無効にして比較し、そのモデルと route が prefill に対応するか確認します。
最終回答に推論が出る
表示境界
`reasoning_content` と `content` を分けて表示し、結合しません。
次のターンで文脈が消える
履歴の切り詰めや編集
送信する messages を記録し、assistant オブジェクト全体と context limit を確認します。
推論が長すぎる
effort、prompt、quota
プロバイダーが記載する低い effort を試し、履歴を短くして prefill なしと比べます。
設定を減らすルート
まず資料の横で Kimi に聞く
キャラクター設定、API ドキュメント、調査ページを見るなら、Tabbit で現在のモデルを選び、資料を表示したまま質問できます。カードや拡張機能は SillyTavern に任せます。
01
ページやファイルを開いたままにする
表示中のページ、スクリーンショット、ローカルファイルを文脈にして、prefill の request body を先に作らずに質問します。
02
現在のモデル一覧を確認
一覧に Kimi-K3 があれば選択します。画像は UI の例で、利用可否は edition と plan によって変わります。
03
クリーンな回答を比較
サイドバーで質問するか、複数回答を比べます。Partial Mode のテストに戻る前に基準を作れます。
推論 PREFILL FAQ
次の壊れたターンの前に
Kimi K3 は assistant prefill に対応していますか？+
公式 API は Partial Mode を記載しています。`messages` の最後に assistant メッセージを置き、`partial: true` でプレフィックスを続けます。利用するプロバイダーも確認してください。
Kimi K3 の reasoning_content を prefill できますか？+
できると決めつけないでください。Partial Mode が文書化しているのは assistant 出力のプレフィックスです。推論は別の応答境界であり、プロバイダーが拒否や書き換えを行うことがあります。
thinking と reasoning_effort のどちらを送りますか？+
K3 ではトップレベルの `reasoning_effort` に `low`、`high`、`max` を指定します。`thinking` オブジェクトは K2.x の例です。
Prefill で空の回答になるのはなぜですか？+
Prefill を外してクリーンなリクエストを送り、`content` と `reasoning_content` が分かれて届くか確認します。次のリクエストで完全な assistant メッセージも保持します。
SillyTavern が 400 を表示するのはなぜですか？+
model alias、endpoint、JSON、プロバイダーの対応を確認します。K2.x のフィールドや未対応 sampler を外してから prompt を変えます。
Prefill に対応するのは Moonshot だけですか？+
Reddit には Moonshot でしか対応を見つけられなかったという投稿がありますが、個人の観察です。使う route の最新ドキュメントを確認してください。
境界を見えるようにしてから選ぶ
K3 の公式フィールドを使い、短いプレフィックスで Partial Mode を試し、プロバイダーが求める assistant turn を保持します。ページやファイルの質問なら Tabbit で Kimi-K3 を選びます。
macOS と Windows に対応。モデルの利用可否と quota は現在の edition と plan によります。