모델 구성

일반 대화에는 선택 공급자/모델을 사용합니다. 순서 있는 대체 모델과 별도 이미지·동영상·음성 경로를 구성할 수 있습니다. v0.1.107 안내입니다.

구성 인터페이스 선택

목표	인터페이스
공급자·기본 모델	anyy setup model
경로 보기·편집	Dashboard → Models
대체 라우팅	anyy setup model fallback 또는 Models
경로·비밀 참조 상태	anyy config
현재 대화 전환	Chat 선택기 또는 TUI /model

시작:

anyy setup model

경로에는 공급자, 지원 엔드포인트/프로토콜, 인증, 정확한 모델 ID가 필요합니다. 마법사는 가능하면 검색하고 수동 입력을 허용하며 기록 전 검토를 보여 줍니다. Dashboard Test connection은 대기·저장 설정으로 카탈로그 연결과 모델 목록 존재를 확인하며 대화 생성은 요청하지 않습니다.

저장 후 새 Chat에서 의도한 공급자/모델을 확인하고 ‘Ready라고 응답해 줘’ 같은 짧은 프롬프트로 실제 답을 확인하세요. 테스트 중 대체 경로를 임시 끄고 이후 복원합니다. 유지한다면 실제 생성자가 대상이며 대체가 없었음을 확인해야 합니다. 세션 선택·응답 성공만으로 생성 대상을 알 수 없으며 카탈로그·로그인·구성 상태도 마찬가지입니다.

지원 프로토콜

현재 다섯 계열은 openai-compatible, openai-responses, codex-responses, anthropic-messages, google-gemini입니다. 공유 동작은 고정 Pi v1.2.0을 따릅니다.

Azure OpenAI Responses, Bedrock Converse, Google Vertex, Mistral Conversations, pi-messages는 이번 릴리스의 독립 네이티브 구현이 없습니다. 카탈로그·브랜드·호환 Base URL은 별도 API 지원 증거가 아닙니다. 공급자 프로토콜과 모델 인터페이스를 참조하세요.

로컬 공급자

설정 전 Ollama·LM Studio를 시작하고 모델을 하나 이상 설치하세요. Ollama는 openai-compatible의 OpenAI 엔드포인트와 기본 http://127.0.0.1:11434/v1를 씁니다. /api/tags는 검색이지 별도 추론 프로토콜이 아닙니다. Cloud는 https://ollama.com/v1입니다. 로컬은 기본 무인증이며 보호 엔드포인트는 지원 API 키 옵션을 씁니다.

이전 api_mode: ollama, ollama.local.native, ollama.cloud.native는 거부합니다. 다시 설정해 OpenAI를 고르거나 명시적으로 openai-compatible, /v1 Base URL, ollama.local.openai·ollama.cloud.openai로 옮기세요. 자동 재작성하지 않습니다.

호환 엔드포인트

실제로 해당 프로토콜을 구현할 때만 OpenAI·Anthropic 호환을 쓰세요. 필수 API 루트·정확 ID를 입력합니다. 기능 메타데이터도 맞아야 하며 수동 입력이 미지 모델에 이미지·도구·thinking을 주지 않습니다.

공급자 선택은 데이터 목적지를 결정합니다

요청에 필요한 프롬프트, 컨텍스트, 첨부, 도구 결과를 받을 수 있습니다. 개인정보·보존·계정·요금 약관을 검토하세요.

기본 모델과 자격 증명

설정 후 확인:

anyy config
anyy status

anyy config는 비밀 아닌 구성, 경로, 참조 상태를 보여 줍니다. 관리 키는 <ProfileHome>/secrets/에 모드 0600, 구성에는 참조를 둡니다. env:MY_MODEL_KEY는 상주 Gateway가 변수를 상속해야 작동합니다.

Models는 키 입력·교체·지우기와 선택 엔드포인트 구독 작업을 지원합니다. Codex는 ChatGPT 구독 장치 로그인입니다. Anthropic Claude Code는 외부 설정 토큰이며 일반 OAuth 로그인이 아닙니다. 차단 선택은 계속 불가입니다. 로그인·검색 성공이 모든 모델·계정을 보증하지 않습니다.

같은 인터페이스로 지원 비밀을 재연결·해제하세요. 프롬프트·셸 기록·스크린샷·보고서에 비밀을 넣지 마세요.

대체 라우팅

기본 경로 작동 후:

anyy setup model fallback

독립 대상을 선호 순으로 추가합니다. Dashboard에서 활성·비활성, allow_reasoning_drop, allow_context_drop, max_attempts를 정합니다. 새 대화에 대상을 명시 선택하고 위 대체 비활성·미사용 확인으로 실제 생성 테스트하세요. 카탈로그 검사만으로 부족합니다.

오류 분류·도구/미디어·추론 이력·컨텍스트 호환을 확인하는 조건부 가용성 라우팅이며 모든 모델 실행·답 합치기가 아닙니다. 작은 컨텍스트 허용이 자동으로 요청을 맞추지는 않습니다. 복원력이 중요하면 독립 엔드포인트·자격 증명을 쓰세요.

시도 한도와 세션 자동 재시도는 별도입니다. 재시도·대체·가상 라우팅을 참조하세요.

현재 세션 변경

기본 저장은 새 세션 기본값입니다. 기존은 대상·thinking을 유지할 수 있습니다. Chat에서 명시 변경하거나 TUI를 쓰세요.

/model
/provider
/effort

새 대화는 /new입니다. 모델·thinking 변경은 캐시 재사용을 줄여 비용을 늘릴 수 있습니다.

Thinking 기본값

이름은 off, minimal, low, medium, high, xhigh, max입니다. 모델 지원 선택지를 표시하고 매핑에 맞춰 제한합니다. 끌 수 없는 모델은 off가 다른 수준이 될 수 있습니다. 비추론 모델은 off이며 선택기가 없습니다.

동작	모델 제한 전 우선순위
새 세션	모델별 → 전역 → medium
모델 전환	대상 모델별 → 전역 → 현재 세션 → medium
메시지 있는 분기 재개	저장 분기 thinking, 없으면 전역 → medium
메시지 없는 분기 재개	초기 모델 기본·모델별 → 전역 → medium

메시지 재개 시 저장 모델/thinking이 후속 설정보다 우선합니다. 바쁜 세션은 그대로입니다. 복원은 모델 요청을 보내지 않습니다. 선택 모델이 없으면 초기 off입니다.

inference.level은 요청 선호, 읽기 전용 inference.effective_level은 제한 결과입니다. 전역 미리 보기는 모델별 재정의 없이 기본 모델을 써서 새 세션과 다를 수 있습니다. 건드리지 않은 Dashboard 강도 저장은 파생값을 선호로 기록하지 않습니다.

TUI /effort의 Enter는 세션 적용·요청 전역 저장이며 프로필 공급자/모델 유지, Alt+S는 세션만입니다. 모델별은 기록하지 않습니다. YAML·폐기 설정은 구성과 이전을 참조하세요.

Thinking 이력

OpenAI 호환 Chat은 카탈로그가 추론 가능으로 표시하지 않아도 비어 있지 않은 네이티브 reasoning_content, reasoning, reasoning_text를 유지합니다. 구조화 reasoning_details는 불투명 이력입니다. 같은 대상 계속은 일치 필드를 복원하고 변경은 프로토콜 변환을 따릅니다. 숨김 thinking을 답에 복사하거나 재생용 추가 스위치를 만들어 내지 마세요.

보조 경로

Models는 이미지 이해, 동영상 이해, 이미지 생성, TTS, STT를 묶습니다. 네이티브 시각 입력은 기능 선언 모델, summary_first는 전용 경로가 필요합니다. 음성은 별도 프로토콜·비밀이며 텍스트 모델이 자동 켜지 않습니다.

제품 이미지 생성은 지원 OpenAI Responses를 씁니다. Codemode models.generateImages()는 별도 타입 작업이며 하나 설정이 다른 쪽을 설정하지 않습니다. 이미지 생성, 음성을 참조하세요.

문제 해결

증상	확인 사항
인증 오류	계정, 키/로그인, 엔드포인트 영역, 상주 환경
모델 없음	검색 갱신 또는 정확 ID
로컬 연결 거부	서버 시작·API 루트
대체 도움 없음	별도 테스트와 활성·순서·호환
예전 채팅 모델 유지	세션 전환 또는 /new
비용·지연 예상 밖	모델, thinking, 재시도·대체 한도, 미디어

시각 제어는 Dashboard 모델을 참조하세요.