コンテンツにスキップ
↑↓移動 ↵開く esc閉じる

自動モデルルーティング

モデル選択で 自動 を選ぶと、送信するプロンプトごとに OpenChamber がモデルを選びます。誤字の修正は安くて速いモデルへ、厄介なバグはいちばん強いモデルへ。どの種類のタスクをどのモデルに任せるかは、設定で一度決めるだけです。

オンにする

  1. 分類プロバイダーが設定されていることを確認します。Auto はプロンプトの振り分けに Jev を使います。
  2. 設定 → ルーティング を開き、Auto モードを有効にする にチェックを入れます。
  3. フォールバックモデル(とその思考レベル)を選びます。選ぶまで Auto は表示されません。
  4. 下のカテゴリを確認し、大事なものには専用のモデルを割り当てます。

すべて揃うと、ページに 準備完了 と表示されます。どのセッションでも、モデル選択の先頭にある 自動 を選んでください。

カテゴリ

プロンプトはどれか 1 つのカテゴリに入ります。組み込みのカテゴリは 4 つです。

カテゴリ対象
Trivial機械的な作業:名前の変更、誤字、整形、コメント、簡単なコマンド
Researchコードを変えずに読んで説明する
Implement明確な変更:範囲がはっきりした機能、テスト、原因がわかっている修正
Hard原因不明のバグ、設計と計画、セキュリティ、認証、並行処理、移行、お金の処理

カテゴリごとに次を設定できます。

  • モデル: 空欄ならフォールバックモデル
  • 思考: そのモデルの思考レベル
  • エージェント: このタスクを実行するエージェント。空欄なら入力欄で使われるエージェントのまま

Jev はカテゴリの名前と説明を読んでプロンプトを振り分けるので、説明は指示として働きます。そのカテゴリに入るものと入らないものを書いてください。カテゴリは編集、オフ、削除、追加ができ、気が変わったら組み込みのカテゴリを元に戻せます。Auto には、オンのカテゴリが 2 つ以上必要です。

送信したときの流れ

  1. OpenChamber が、あなたのメッセージと直近のいくつかのターンの短い抜粋を Jev に送ります。
  2. Jev がカテゴリを選び、どれくらい確信があるかを返します。
  3. セッションがそのカテゴリのモデル、思考レベル、エージェントに切り替わり、メッセージが送信されます。

メッセージは毎回振り分け直されるので、ちょっとした質問には安いモデル、次の依頼にはいちばん強いモデル、ということも起こります。入力欄には 自動 と表示されたままで、エージェントと思考レベルの選択は隠れます。どちらもカテゴリが決めるからです。

次の場合はフォールバックモデルが答えます。

  • Jev の確信が足りない(60% 未満)
  • Jev が失敗した、または 4 秒以上かかった
  • カテゴリに専用のモデルがない

モデル選択で具体的なモデルを選ぶと、そのセッションは Auto から外れます。戻すには、もう一度 自動 を選びます。設定 → セッション で、新しいセッションの既定を Auto にすることもできます。

使える場所

Auto は OpenChamber サーバーで動きます。デスクトップアプリ、Web アプリ、そしてそのどちらかに接続したスマートフォンで使えます。VS Code 拡張機能は OpenCode と直接やり取りするため、Auto はありません。

関連