מדריך אינטגרציה של LibreChat

סקירה כללית

LibreChat חושף כל מארח תואם OpenAI דרך endpoints.custom. הוסיפו בלוק UnoRouter, הגדירו את משתנה הסביבה, ובורר המודלים מתמלא אוטומטית מהקטלוג.

הגדרה מהירה

הזינו ערכים אלה בלקוח. המפתח שלכם מתמלא אוטומטית כשאתם מחוברים.

כתובת URL בסיסית: https://api.unorouter.ai/v1
מפתח API: YOUR_API_KEY

תאימות

הגדרה שלב אחר שלב

1. 1
   ערכו את librechat.yaml

   בהתקנת LibreChat שלכם, הוסיפו בלוק נקודת קצה מותאמת תחת endpoints.custom.

   yaml

   endpoints:
     custom:
       - name: 'UnoRouter'
         apiKey: '${UNOROUTER_API_KEY}'
         baseURL: 'https://api.unorouter.ai/v1'
         models:
           fetch: true
         titleConvo: true
         modelDisplayLabel: 'UnoRouter'

   התחברו למילוי אוטומטי של מפתח ה-API שלכם

2. 2
   הוסיפו את משתנה הסביבה

   הגדירו את מפתח ה API של UnoRouter בקובץ ה env. של LibreChat.

   bash

   UNOROUTER_API_KEY=YOUR_API_KEY

   התחברו למילוי אוטומטי של מפתח ה-API שלכם

3. 3
   הפעילו מחדש את LibreChat

   הפעילו מחדש את הקונטיינר או התהליך. נקודת הקצה של UnoRouter מופיעה בתפריט הצאט.

מודלים מומלצים

מודלים חינמיים שעובדים טוב כאן. הדביקו כל מזהה מודל בלקוח.

נקודות לתשומת לב

• !השתמשו בתחביר סוגר בודד עבור ערכי משתני סביבה, לא בתחביר הסודות של חלק מהתצורות האחרות.
• !אם מודל דוחה פרמטרים נוספים של OpenAI, הוסיפו אותם ל dropParams (למשל frequency_penalty ו presence_penalty).
• !fetch: true ממלא אוטומטית מהקטלוג של UnoRouter. שלבו עם default כדי להציג קודם את המודלים המועדפים.