컨텐츠로 건너뛰기
↑↓이동 ↵열기 esc닫기

자동 모델 라우팅

모델 선택기에서 자동을 고르면 보내는 프롬프트마다 OpenChamber가 모델을 고릅니다. 오타 수정은 싸고 빠른 모델로, 까다로운 버그는 가장 강한 모델로 갑니다. 어떤 모델이 어떤 종류의 작업을 맡을지는 설정에서 한 번만 정하면 됩니다.

켜기

  1. 분류 제공자가 설정되어 있는지 확인합니다. Auto는 프롬프트를 분류할 때 Jev를 씁니다.
  2. 설정 → 라우팅을 열고 Auto 모드 사용을 켭니다.
  3. 대체 모델(과 사고 수준)을 고릅니다. 고르기 전까지 Auto는 숨겨져 있습니다.
  4. 아래 카테고리를 살펴보고, 중요한 카테고리에는 전용 모델을 지정합니다.

모든 준비가 끝나면 페이지에 준비됨이 표시됩니다. 어느 세션에서든 모델 선택기 맨 위의 자동을 고르세요.

카테고리

모든 프롬프트는 카테고리 하나에 들어갑니다. 기본 제공 카테고리는 네 개입니다.

카테고리대상
Trivial기계적인 작업: 이름 바꾸기, 오타, 서식, 주석, 간단한 명령
Research코드를 바꾸지 않고 읽고 설명하기
Implement분명한 변경: 범위가 정해진 기능, 테스트, 원인을 아는 수정
Hard원인을 모르는 버그, 설계와 계획, 보안, 인증, 동시성, 마이그레이션, 돈 관련 로직

카테고리마다 다음을 설정할 수 있습니다.

  • 모델: 비워 두면 대체 모델
  • 사고: 그 모델의 사고 수준
  • 에이전트: 이 작업을 실행할 에이전트. 비워 두면 입력창에서 쓰는 에이전트를 유지

Jev는 카테고리의 이름과 설명을 읽고 프롬프트를 분류하므로, 설명이 지시문 역할을 합니다. 카테고리에 들어가는 것과 들어가지 않는 것을 적어 두세요. 카테고리는 수정, 끄기, 삭제, 추가가 가능하고, 마음이 바뀌면 기본 카테고리를 복원할 수 있습니다. Auto를 쓰려면 켜진 카테고리가 두 개 이상 있어야 합니다.

보낼 때 일어나는 일

  1. OpenChamber가 메시지와 최근 몇 턴의 짧은 발췌를 Jev에 보냅니다.
  2. Jev가 카테고리를 고르고 얼마나 확신하는지 알려 줍니다.
  3. 세션이 그 카테고리의 모델, 사고 수준, 에이전트로 바뀌고 메시지가 전송됩니다.

메시지마다 다시 분류하므로, 간단한 질문에는 싼 모델을 쓰다가 다음 요청에서는 가장 강한 모델로 바뀔 수 있습니다. 입력창에는 계속 자동이 표시되고, 에이전트와 사고 수준 선택은 숨겨집니다. 둘 다 카테고리가 정하기 때문입니다.

다음 경우에는 대체 모델이 답합니다.

  • Jev의 확신이 부족할 때(60% 미만)
  • Jev가 실패하거나 4초보다 오래 걸릴 때
  • 카테고리에 전용 모델이 없을 때

선택기에서 특정 모델을 고르면 그 세션은 Auto에서 빠집니다. 돌아가려면 다시 자동을 고르세요. 설정 → 세션에서 새 세션의 기본값을 Auto로 정할 수도 있습니다.

사용할 수 있는 곳

Auto는 OpenChamber 서버에서 동작합니다. 데스크톱 앱, 웹 앱, 그리고 둘 중 하나에 연결된 휴대폰에서 쓸 수 있습니다. VS Code 확장은 OpenCode와 직접 통신하므로 Auto를 제공하지 않습니다.

관련 문서