Docs durchsuchen...

Tippen Sie, um die Dokumentation zu durchsuchen

anythingllm
AnythingLLM

AnythingLLM Integrationsleitfaden

Verbinde UnoRouter mit AnythingLLM als Generic-OpenAI-Anbieter.

Uberblick

AnythingLLM behandelt UnoRouter als Generic-OpenAI-Anbieter. Trage das Modell ein, setze das Kontextfenster und speichere.

Schnellkonfiguration

Trage diese Werte in den Client ein. Dein Schlussel wird automatisch eingefugt, wenn du angemeldet bist.

text
Basis-URL: https://api.unorouter.ai/v1
API-Schlussel: YOUR_API_KEY

Melde dich an, um deinen API-Key automatisch einzutragen

Kompatibilitat

Chat CompletionsStreamingTool-Aufrufe

Schritt-fur-Schritt-Einrichtung

  1. 1
    LLM Preference oeffnen

    Klicke in der Seitenleiste auf Settings und dann auf LLM Preference.

  2. 2
    Generic OpenAI waehlen

    Setze LLM Provider auf Generic OpenAI und fuelle das Formular aus.

    text
    Base URL: https://api.unorouter.ai/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Token context window: 50000

    Melde dich an, um deinen API-Key automatisch einzutragen

  3. 3
    Speichern

    Klicke auf Speichern. AnythingLLM nutzt UnoRouter fuer Chat-Workspaces.

Empfohlene Modelle

Kostenlose Modelle, die hier gut funktionieren. Fuge eine beliebige Modell-ID in den Client ein.

ministral-3b-latestcompoundmistral-medium-latestdolphin-mistral-24b-venice-editioncompound-mini

Stolperfallen

  • AnythingLLM ruft den Katalog fuer Generic OpenAI nicht automatisch ab. Trage Modellname und Kontextfenster manuell ein.
  • Der Tab Embedding Preference ist separat. Lasse ihn bei einem funktionierenden Embedding-Anbieter, sofern UnoRouter in deinem Tarif keine Embeddings bereitstellt.
API-Key generierenModelle