AnythingLLM
Guida all'integrazione di AnythingLLM
Collega UnoRouter a AnythingLLM come provider Generic OpenAI.
Panoramica
AnythingLLM tratta UnoRouter come provider Generic OpenAI. Digita il modello, imposta la finestra di contesto e salva.
Configurazione rapida
Inserisci questi valori nel client. La tua chiave si compila automaticamente quando accedi.
text
URL di base: https://api.unorouter.ai/v1
Chiave API: YOUR_API_KEYCompatibilita
Chat CompletionsStreamingChiamata di strumenti
Configurazione passo passo
- 1Apri LLM Preference
Fai clic su Settings nella barra laterale e poi su LLM Preference.
- 2Scegli Generic OpenAI
Imposta LLM Provider su Generic OpenAI e compila il modulo.
textBase URL: https://api.unorouter.ai/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Token context window: 50000 - 3Salva
Premi salva. AnythingLLM usa UnoRouter per gli spazi di chat.
Modelli consigliati
Modelli gratuiti che funzionano bene qui. Incolla qualsiasi id di modello nel client.
tiny-aya-earthmistral-medium-3ministral-3b-latestmistral-tiny-latestnemotron-3-nano-30b-a3b
Cose da sapere
- AnythingLLM non recupera il catalogo automaticamente per Generic OpenAI. Digita il nome del modello e la finestra di contesto a mano.
- La scheda Embedding Preference e separata. Lasciala su un provider di embedding funzionante a meno che UnoRouter non esponga embedding nel tuo piano.