Modelle konfigurieren

Anyy verwendet für normale Gespräche einen ausgewählten Anbieter/ein Modell. Sie können geordnete Ausweichmodelle und getrennte Bild-, Video- und Sprachrouten konfigurieren. Diese Anleitung beschreibt v0.1.107.

Eine Konfigurationsoberfläche wählen

Ziel	Oberfläche
Anbieter und Hauptmodell konfigurieren	anyy setup model
Modellrouten ansehen und bearbeiten	Dashboard → Modelle
Ausweichrouting konfigurieren	anyy setup model fallback oder Dashboard → Modelle
Pfade und Zugangsdatenreferenzstatus prüfen	anyy config
Das aktuelle Gespräch umstellen	Chat-Modellauswahl oder TUI /model

Beginnen Sie mit:

anyy setup model

Eine Route benötigt Anbieter, unterstützten Endpunkt/Protokoll, Authentifizierung und die vom Endpunkt akzeptierte exakte Modell-ID. Der Assistent erkennt Modelle nach Möglichkeit, erlaubt manuelle Eingabe und zeigt vor dem Schreiben eine Prüfung. Verbindung testen im Dashboard prüft mit den noch nicht gespeicherten oder gespeicherten Verbindungseinstellungen den Katalogzugriff und ob das ausgewählte Modell aufgeführt ist. Es sendet keine Anfrage zur Generierung einer Gesprächsantwort.

Öffnen Sie nach dem Speichern eine neue Chat-Sitzung und prüfen Sie, ob der ausgewählte Anbieter/das Modell dem beabsichtigten Ziel entspricht. Senden Sie einen kurzen Prompt wie „Antworte mit Bereit“ und bestätigen Sie, dass eine echte Antwort zurückkommt. Deaktivieren Sie für diese Prüfung vorübergehend konfigurierte Ausweichrouten und stellen Sie danach deren vorherige Einstellungen wieder her. Bleiben Ausweichrouten aktiv, bestätigen Sie vor der Bewertung des Ziels als funktionsfähig, dass die tatsächliche Antwort vom getesteten Anbieter/Modell ohne Ausweichroute erzeugt wurde. Das ausgewählte Sitzungsmodell und eine erfolgreiche Antwort allein belegen nicht, welches Ziel sie erzeugt hat; Katalogerkennung, Anmeldung oder Konfigurationsstatus ebenso wenig.

Unterstützte Protokolle

Die derzeit fünf Gesprächsprotokollfamilien sind openai-compatible, openai-responses, codex-responses, anthropic-messages und google-gemini. Ihr gemeinsames Verhalten folgt der festgelegten Referenz von Anyy Pi v1.2.0.

Azure OpenAI Responses, Bedrock Converse, Google Vertex, Mistral Conversations und pi-messages haben in dieser Version keine eigenständigen nativen Implementierungen. Ein Katalogeintrag, eine Anbietermarke oder eine kompatible Basis-URL belegt keine Unterstützung einer eigenständigen nativen API. Die vollständige Abgrenzung, Modelltypen und Wiederholungsverhalten finden Sie unter Anbieterprotokolle und Modellschnittstellen.

Lokale Anbieter

Starten Sie Ollama oder LM Studio vor der Einrichtung und installieren Sie mindestens ein Modell. Ollama verwendet seinen OpenAI-Endpunkt mit openai-compatible und der Standard-Basis-URL http://127.0.0.1:11434/v1; /api/tags dient der Katalogerkennung und ist kein separates Inferenzprotokoll. Ollama Cloud verwendet https://ollama.com/v1. Lokales Ollama verwendet standardmäßig keine Authentifizierung; ein geschützter Endpunkt kann seine unterstützte API-Schlüsseloption nutzen.

Die alten Inferenzeinstellungen api_mode: ollama, ollama.local.native und ollama.cloud.native werden abgelehnt. Wiederholen Sie die Einrichtung und wählen Sie den OpenAI-Endpunkt oder migrieren Sie ausdrücklich zu openai-compatible, der /v1-Basis-URL des Dienstes und ollama.local.openai oder ollama.cloud.openai. Anyy schreibt diese Werte nicht stillschweigend um.

Kompatible Endpunkte

Verwenden Sie OpenAI-kompatibel oder Anthropic-kompatibel nur, wenn der Dienst das jeweilige Protokoll implementiert. Geben Sie dessen erforderliche API-Wurzel und exakte Modell-ID ein. Fähigkeitsmetadaten müssen zum Modell passen; manuelle Eingabe verleiht einem unbekannten Modell keine Unterstützung für Bilder, Werkzeuge oder Thinking.

Die Anbieterwahl bestimmt das Datenziel

Der Anbieter kann für die Anfrage benötigte Prompts, Kontext, Anhänge und Werkzeugergebnisse erhalten. Prüfen Sie seine Datenschutz-, Aufbewahrungs-, Konto- und Abrechnungsbedingungen.

Hauptmodell und Zugangsdaten

Prüfen Sie nach der Einrichtung das Ergebnis:

anyy config
anyy status

anyy config zeigt nicht geheime Konfiguration, aufgelöste Pfade und den Zustand von Zugangsdatenreferenzen. Durch Anyy verwaltete Schlüssel liegen unter <ProfileHome>/secrets/ mit Dateimodus 0600; die Konfiguration speichert Referenzen. Eine Umgebungsreferenz wie env:MY_MODEL_KEY funktioniert nur, wenn das residente Gateway diese Variable erbt.

Dashboard → Modelle unterstützt Eingabe, Ersetzen und Löschen von Schlüsseln sowie die vom ausgewählten Endpunkt angebotenen Abonnementaktionen. Codex verwendet seine gerätebasierte ChatGPT-Abonnementanmeldung. Die Abonnementoption Anthropic Claude Code akzeptiert ein extern bezogenes Setup-Token; sie ist keine allgemeine Anmeldung für jeden OAuth-Anbieter. Blockierte Katalogoptionen bleiben nicht verfügbar. Erfolgreiche Anmeldung oder Katalogerkennung beweist weiterhin nicht, dass jedes Modell oder externe Konto funktioniert.

Verwenden Sie dieselbe Modell-/Einrichtungsoberfläche zum erneuten Verbinden oder Trennen unterstützter Zugangsdaten. Vermeiden Sie Geheimnisse in Prompts, Shell-Verlauf, Screenshots und Supportberichten.

Ausweichrouting

Nachdem die Hauptroute funktioniert:

anyy setup model fallback

Fügen Sie unabhängige Anbieter-/Modellziele in bevorzugter Reihenfolge hinzu. Dashboard kann jeden Eintrag aktivieren oder deaktivieren und allow_reasoning_drop, allow_context_drop und max_attempts setzen. Um Generierungszugriff eines Ausweichmodells zu prüfen, wählen Sie diesen Anbieter/dieses Modell ausdrücklich in einem neuen Gespräch und senden Sie einen kurzen Prompt; deaktivieren Sie Ausweichrouten oder bestätigen Sie wie oben, dass keine verwendet wurde. Die Katalogprüfung allein reicht nicht.

Ausweichrouting ist bedingtes Verfügbarkeitsrouting. Es prüft den klassifizierten Fehler und die Zielkompatibilität einschließlich Werkzeug-/Medienanforderungen, Reasoning-Verlauf und Kontextgröße; es führt nicht jedes Modell aus und vereinigt keine Antworten. Das Zulassen eines kleineren Kontexts lässt eine Anfrage nicht automatisch hineinpassen. Verwenden Sie unabhängige Endpunkte und Zugangsdaten, wenn Ausfallsicherheit wichtig ist.

Grenzen für Ausweichversuche und automatische Sitzungswiederholungen werden getrennt gesteuert. Siehe Wiederholungen, Ausweichrouten und virtuelles Routing.

Die aktuelle Sitzung ändern

Das Speichern des Hauptmodells setzt Vorgaben für neue Sitzungen. Vorhandene Sitzungen können ihr ausgewähltes Ziel und ihren Thinking-Zustand behalten. Ändern Sie die Sitzung ausdrücklich im Dashboard-Chat oder verwenden Sie TUI-Befehle:

/model
/provider
/effort

Verwenden Sie /new, wenn Sie ein frisches Gespräch wünschen. Ein Modell- oder Thinking-Wechsel kann die Wiederverwendung des Prompt-Caches verringern und Kosten erhöhen.

Thinking-Vorgaben

Die benannten Stufen sind off, minimal, low, medium, high, xhigh und max. Die Bedienelemente zeigen die vom ausgewählten Modell unterstützten Optionen, und Anfragen werden auf dessen Zuordnung begrenzt. „Aus“ kann zu einer anderen unterstützten Stufe aufgelöst werden, wenn ein Modell Thinking nicht deaktivieren kann. Nicht-Reasoning-Modelle verwenden „aus“ und haben keine Aufwandsauswahl.

Aktion	Vorliebenreihenfolge vor Modellbegrenzung
Neue Sitzung	Modelleinstellung → globale Einstellung → medium
Modell wechseln	Einstellung des Zielmodells → globale Einstellung → aktuelles Sitzungs-Thinking → medium
Zweig mit Nachrichten fortsetzen	Gespeichertes Zweig-Thinking; falls fehlend, global → medium
Zweig ohne Nachrichten fortsetzen	Anfängliche Modellvorgaben und pro Modell → global → medium

Gespeichertes Modell/Thinking hat beim Fortsetzen von Nachrichten Vorrang vor späteren Einstellungen. Beschäftigte Sitzungen bleiben unverändert. Das Wiederherstellen einer Auswahl sendet keine Modellanfrage. Ohne ausgewähltes Modell ist das anfängliche Thinking aus.

inference.level bewahrt die angeforderte Vorliebe; schreibgeschütztes inference.effective_level zeigt das begrenzte Ergebnis. Die globale Vorschau verwendet das Hauptmodell ohne modellspezifische Überschreibungen und kann daher von einer neuen Sitzung abweichen. Das Speichern einer unberührten Dashboard-Aufwandseinstellung schreibt ihren abgeleiteten Wert nicht als Vorliebe.

In TUI /effort wendet Enter die Sitzungsauswahl an und speichert die angeforderte globale Vorliebe, wobei gespeicherter Anbieter/Modell des Profils erhalten bleibt; Alt+S ändert nur diese Sitzung. Keine Aktion schreibt eine modellspezifische Einstellung. YAML-Schlüssel und abgeschaffte Einstellungen finden Sie unter Thinking-Konfiguration und Migration.

Thinking-Verlauf

OpenAI-kompatibler Chat bewahrt nicht leere native Felder reasoning_content, reasoning oder reasoning_text, auch wenn der Katalog das Modell nicht als Reasoning-fähig kennzeichnet. Strukturiertes reasoning_details bleibt undurchsichtiger Verlauf. Fortsetzungen am selben Ziel stellen das passende native Feld wieder her; Zielwechsel folgen den Verlaufskonvertierungsregeln des Protokolls. Kopieren Sie verborgenes Thinking nicht in Antworttext und erfinden Sie keine zusätzlichen Fähigkeitsschalter, um die Wiedergabe zu aktivieren.

Zusatzrouten

Dashboard → Modelle gruppiert Bildverständnis, Videoverständnis, Bilderzeugung, TTS und STT. Native Bild-/Videoeingabe benötigt ein Modell, das diese Fähigkeit ausweist. Verständnis mit summary_first benötigt eine eigene Route. Sprachendpunkte haben eigene Protokolle und Zugangsdaten; ein funktionierendes Textmodell aktiviert Sprache nicht automatisch.

Das Produktwerkzeug zur Bilderzeugung verwendet seine unterstützte OpenAI-Responses-Route. Codemodes models.generateImages() ist eine separate typisierte Modelloperation; das Konfigurieren der einen konfiguriert nicht die andere. Siehe Bilderzeugung und Stimme und Sprache.

Fehlerbehebung

Symptom	Prüfung
Authentifizierungsfehler	Konto, Schlüssel/Anmeldung, Zugangsdaten-Geltungsbereich des Endpunkts und residente Prozessumgebung
Modell nicht gefunden	Erkennung aktualisieren oder exakte Modell-ID des Endpunkts eingeben
Lokale Verbindung abgelehnt	Lokalen Server starten und dessen API-Wurzel prüfen
Ausweichrouting hilft nie	Routen einzeln testen und Aktivierung, Reihenfolge und Kompatibilität prüfen
Alter Chat behält sein Modell	Diese Sitzung umstellen oder /new starten
Unerwartete Kosten oder Latenz	Modell, Thinking, Wiederholungsgrenzen, Ausweichversuche und Medienrouten prüfen

Die visuellen Bedienelemente finden Sie unter Dashboard-Modelle.