חיפוש בתיעוד...

התחילו להקליד כדי לחפש בתיעוד

anythingllm
AnythingLLM

מדריך אינטגרציה של AnythingLLM

חברו את UnoRouter אל AnythingLLM כספק Generic OpenAI.

סקירה כללית

AnythingLLM מתייחס ל UnoRouter כספק Generic OpenAI. הקלידו את המודל, הגדירו את חלון ההקשר ושמרו.

הגדרה מהירה

הזינו ערכים אלה בלקוח. המפתח שלכם מתמלא אוטומטית כשאתם מחוברים.

text
כתובת URL בסיסית: https://api.unorouter.ai/v1
מפתח API: YOUR_API_KEY

התחברו למילוי אוטומטי של מפתח ה-API שלכם

תאימות

Chat Completionsהזרמהקריאת כלים

הגדרה שלב אחר שלב

  1. 1
    פתחו את LLM Preference

    לחצו על Settings בסרגל הצד ואז LLM Preference.

  2. 2
    בחרו Generic OpenAI

    הגדירו את LLM Provider ל Generic OpenAI ומלאו את הטופס.

    text
    Base URL: https://api.unorouter.ai/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Token context window: 50000

    התחברו למילוי אוטומטי של מפתח ה-API שלכם

  3. 3
    שמרו

    לחצו שמירה. AnythingLLM משתמש ב UnoRouter עבור מרחבי הצאט.

מודלים מומלצים

מודלים חינמיים שעובדים טוב כאן. הדביקו כל מזהה מודל בלקוח.

magistral-small-latestmistral-code-agent-latestmistral-nemo-instruct-2407tiny-aya-earthmistral-small-latest

נקודות לתשומת לב

  • AnythingLLM אינו שולף את הקטלוג אוטומטית עבור Generic OpenAI. הקלידו את שם המודל ואת חלון ההקשר ידנית.
  • לשונית Embedding Preference נפרדת. השאירו אותה על ספק embedding שעובד אלא אם UnoRouter חושף embeddings בתוכנית שלכם.
ייצור מפתח APIמודלים