自動モデルルーティング
モデル選択で 自動 を選ぶと、送信するプロンプトごとに OpenChamber がモデルを選びます。誤字の修正は安くて速いモデルへ、厄介なバグはいちばん強いモデルへ。どの種類のタスクをどのモデルに任せるかは、設定で一度決めるだけです。
オンにする
- 分類プロバイダーが設定されていることを確認します。Auto はプロンプトの振り分けに Jev を使います。
- 設定 → ルーティング を開き、Auto モードを有効にする にチェックを入れます。
- フォールバックモデル(とその思考レベル)を選びます。選ぶまで Auto は表示されません。
- 下のカテゴリを確認し、大事なものには専用のモデルを割り当てます。
すべて揃うと、ページに 準備完了 と表示されます。どのセッションでも、モデル選択の先頭にある 自動 を選んでください。
カテゴリ
プロンプトはどれか 1 つのカテゴリに入ります。組み込みのカテゴリは 4 つです。
| カテゴリ | 対象 |
|---|---|
| Trivial | 機械的な作業:名前の変更、誤字、整形、コメント、簡単なコマンド |
| Research | コードを変えずに読んで説明する |
| Implement | 明確な変更:範囲がはっきりした機能、テスト、原因がわかっている修正 |
| Hard | 原因不明のバグ、設計と計画、セキュリティ、認証、並行処理、移行、お金の処理 |
カテゴリごとに次を設定できます。
- モデル: 空欄ならフォールバックモデル
- 思考: そのモデルの思考レベル
- エージェント: このタスクを実行するエージェント。空欄なら入力欄で使われるエージェントのまま
Jev はカテゴリの名前と説明を読んでプロンプトを振り分けるので、説明は指示として働きます。そのカテゴリに入るものと入らないものを書いてください。カテゴリは編集、オフ、削除、追加ができ、気が変わったら組み込みのカテゴリを元に戻せます。Auto には、オンのカテゴリが 2 つ以上必要です。
送信したときの流れ
- OpenChamber が、あなたのメッセージと直近のいくつかのターンの短い抜粋を Jev に送ります。
- Jev がカテゴリを選び、どれくらい確信があるかを返します。
- セッションがそのカテゴリのモデル、思考レベル、エージェントに切り替わり、メッセージが送信されます。
メッセージは毎回振り分け直されるので、ちょっとした質問には安いモデル、次の依頼にはいちばん強いモデル、ということも起こります。入力欄には 自動 と表示されたままで、エージェントと思考レベルの選択は隠れます。どちらもカテゴリが決めるからです。
次の場合はフォールバックモデルが答えます。
- Jev の確信が足りない(60% 未満)
- Jev が失敗した、または 4 秒以上かかった
- カテゴリに専用のモデルがない
モデル選択で具体的なモデルを選ぶと、そのセッションは Auto から外れます。戻すには、もう一度 自動 を選びます。設定 → セッション で、新しいセッションの既定を Auto にすることもできます。
使える場所
Auto は OpenChamber サーバーで動きます。デスクトップアプリ、Web アプリ、そしてそのどちらかに接続したスマートフォンで使えます。VS Code 拡張機能は OpenCode と直接やり取りするため、Auto はありません。
関連
- 分類プロバイダー(Jev):プロンプトを振り分けるモデルを設定する
- プロバイダー、モデル、エージェント:Auto が選ぶモデルを接続する