搜尋文件...

開始輸入以搜尋文件

anythingllm
AnythingLLM

AnythingLLM 整合指南

將 UnoRouter 作為 Generic OpenAI 供應商連接到 AnythingLLM。

概覽

AnythingLLM 將 UnoRouter 視為 Generic OpenAI 供應商。輸入模型,設定上下文視窗並儲存。

快速設定

將這些值填入用戶端。登入後會自動填入你的金鑰。

text
基礎 URL: https://api.unorouter.ai/v1
API 金鑰: YOUR_API_KEY

登入以自動填入 API 金鑰

相容性

Chat Completions串流工具呼叫

逐步設定

  1. 1
    開啟 LLM Preference

    在側邊欄點擊 Settings,然後 LLM Preference。

  2. 2
    選擇 Generic OpenAI

    將 LLM Provider 設定為 Generic OpenAI 並填寫表單。

    text
    Base URL: https://api.unorouter.ai/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Token context window: 50000

    登入以自動填入 API 金鑰

  3. 3
    儲存

    點擊儲存。AnythingLLM 會在聊天工作區中使用 UnoRouter。

推薦模型

在這裡表現良好的免費模型。把任意模型 ID 貼到用戶端即可。

gemma-4-31b-itmistral-mediummistral-smallgpt-oss-safeguard-20bmistral-vibe-cli-latest

注意事項

  • AnythingLLM 不會為 Generic OpenAI 自動取得目錄。請手動輸入模型名稱和上下文視窗。
  • Embedding Preference 分頁是獨立的。除非 UnoRouter 在你的方案中提供 embeddings,否則請保留一個可用的 embedding 供應商。
產生 API 金鑰模型