Cerca documentazione...

Inizia a digitare per cercare nella documentazione

anythingllm
AnythingLLM

Guida all'integrazione di AnythingLLM

Collega UnoRouter a AnythingLLM come provider Generic OpenAI.

Panoramica

AnythingLLM tratta UnoRouter come provider Generic OpenAI. Digita il modello, imposta la finestra di contesto e salva.

Configurazione rapida

Inserisci questi valori nel client. La tua chiave si compila automaticamente quando accedi.

text
URL di base: https://api.unorouter.ai/v1
Chiave API: YOUR_API_KEY

Accedi per compilare automaticamente la tua chiave API

Compatibilita

Chat CompletionsStreamingChiamata di strumenti

Configurazione passo passo

  1. 1
    Apri LLM Preference

    Fai clic su Settings nella barra laterale e poi su LLM Preference.

  2. 2
    Scegli Generic OpenAI

    Imposta LLM Provider su Generic OpenAI e compila il modulo.

    text
    Base URL: https://api.unorouter.ai/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Token context window: 50000

    Accedi per compilare automaticamente la tua chiave API

  3. 3
    Salva

    Premi salva. AnythingLLM usa UnoRouter per gli spazi di chat.

Modelli consigliati

Modelli gratuiti che funzionano bene qui. Incolla qualsiasi id di modello nel client.

tiny-aya-earthmistral-medium-3ministral-3b-latestmistral-tiny-latestnemotron-3-nano-30b-a3b

Cose da sapere

  • AnythingLLM non recupera il catalogo automaticamente per Generic OpenAI. Digita il nome del modello e la finestra di contesto a mano.
  • La scheda Embedding Preference e separata. Lasciala su un provider di embedding funzionante a meno che UnoRouter non esponga embedding nel tuo piano.
Genera chiave APIModelli