AnythingLLM
AnythingLLM Integrationsleitfaden
Verbinde UnoRouter mit AnythingLLM als Generic-OpenAI-Anbieter.
Uberblick
AnythingLLM behandelt UnoRouter als Generic-OpenAI-Anbieter. Trage das Modell ein, setze das Kontextfenster und speichere.
Schnellkonfiguration
Trage diese Werte in den Client ein. Dein Schlussel wird automatisch eingefugt, wenn du angemeldet bist.
text
Basis-URL: https://api.unorouter.ai/v1
API-Schlussel: YOUR_API_KEYKompatibilitat
Chat CompletionsStreamingTool-Aufrufe
Schritt-fur-Schritt-Einrichtung
- 1LLM Preference oeffnen
Klicke in der Seitenleiste auf Settings und dann auf LLM Preference.
- 2Generic OpenAI waehlen
Setze LLM Provider auf Generic OpenAI und fuelle das Formular aus.
textBase URL: https://api.unorouter.ai/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Token context window: 50000 - 3Speichern
Klicke auf Speichern. AnythingLLM nutzt UnoRouter fuer Chat-Workspaces.
Empfohlene Modelle
Kostenlose Modelle, die hier gut funktionieren. Fuge eine beliebige Modell-ID in den Client ein.
ministral-3b-latestcompoundmistral-medium-latestdolphin-mistral-24b-venice-editioncompound-mini
Stolperfallen
- AnythingLLM ruft den Katalog fuer Generic OpenAI nicht automatisch ab. Trage Modellname und Kontextfenster manuell ein.
- Der Tab Embedding Preference ist separat. Lasse ihn bei einem funktionierenden Embedding-Anbieter, sofern UnoRouter in deinem Tarif keine Embeddings bereitstellt.