AnythingLLM
AnythingLLM 整合指南
將 UnoRouter 作為 Generic OpenAI 供應商連接到 AnythingLLM。
概覽
AnythingLLM 將 UnoRouter 視為 Generic OpenAI 供應商。輸入模型,設定上下文視窗並儲存。
快速設定
將這些值填入用戶端。登入後會自動填入你的金鑰。
text
基礎 URL: https://api.unorouter.ai/v1
API 金鑰: YOUR_API_KEY相容性
Chat Completions串流工具呼叫
逐步設定
- 1開啟 LLM Preference
在側邊欄點擊 Settings,然後 LLM Preference。
- 2選擇 Generic OpenAI
將 LLM Provider 設定為 Generic OpenAI 並填寫表單。
textBase URL: https://api.unorouter.ai/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Token context window: 50000 - 3儲存
點擊儲存。AnythingLLM 會在聊天工作區中使用 UnoRouter。
推薦模型
在這裡表現良好的免費模型。把任意模型 ID 貼到用戶端即可。
gemma-4-31b-itmistral-mediummistral-smallgpt-oss-safeguard-20bmistral-vibe-cli-latest
注意事項
- AnythingLLM 不會為 Generic OpenAI 自動取得目錄。請手動輸入模型名稱和上下文視窗。
- Embedding Preference 分頁是獨立的。除非 UnoRouter 在你的方案中提供 embeddings,否則請保留一個可用的 embedding 供應商。