Docs खोजें...

Documentation खोजने के लिए type करना शुरू करें

librechat
LibreChat

LibreChat एकीकरण गाइड

UnoRouter को LibreChat से एक कस्टम OpenAI-संगत एंडपॉइंट के जरिए जोड़ें।

अवलोकन

LibreChat किसी भी OpenAI-संगत होस्ट को endpoints.custom के जरिए उजागर करता है। एक UnoRouter ब्लॉक जोड़ें, एनवायरनमेंट वेरिएबल सेट करें, और मॉडल चयनकर्ता कैटलॉग से अपने आप भर जाता है।

त्वरित कॉन्फ़िग

इन मानों को क्लाइंट में डालें। साइन इन रहने पर आपकी कुंजी अपने आप भर जाती है।

text
बेस URL: https://api.unorouter.ai/v1
API कुंजी: YOUR_API_KEY

अपनी API key auto-fill करने के लिए साइन इन करें

संगतता

Chat Completionsस्ट्रीमिंगटूल कॉलिंग

चरण-दर-चरण सेटअप

  1. 1
    librechat.yaml संपादित करें

    अपने LibreChat इंस्टॉल में endpoints.custom के तहत एक कस्टम एंडपॉइंट ब्लॉक जोड़ें।

    yaml
    endpoints:
      custom:
        - name: 'UnoRouter'
          apiKey: '${UNOROUTER_API_KEY}'
          baseURL: 'https://api.unorouter.ai/v1'
          models:
            fetch: true
          titleConvo: true
          modelDisplayLabel: 'UnoRouter'

    अपनी API key auto-fill करने के लिए साइन इन करें

  2. 2
    एनवायरनमेंट वेरिएबल जोड़ें

    LibreChat की .env फ़ाइल में अपनी UnoRouter API कुंजी सेट करें।

  3. 3
    LibreChat पुनः आरंभ करें

    कंटेनर या प्रक्रिया पुनः आरंभ करें। UnoRouter एंडपॉइंट चैट मेनू में दिखाई देता है।

अनुशंसित मॉडल

मुफ्त मॉडल जो यहाँ अच्छा काम करते हैं। कोई भी मॉडल आईडी क्लाइंट में पेस्ट करें।

mistral-vibe-cli-latestministral-8b-latestmistral-mediumtiny-aya-globalmistral-nemo-instruct-2407

ध्यान देने योग्य बातें

  • एनवायरनमेंट वेरिएबल मानों के लिए एकल ब्रेस सिंटैक्स का उपयोग करें, अन्य कॉन्फ़िगरेशन के सीक्रेट सिंटैक्स का नहीं।
  • यदि कोई मॉडल अतिरिक्त OpenAI पैरामीटर अस्वीकार करता है, तो उन्हें dropParams में जोड़ें (उदाहरण के लिए frequency_penalty और presence_penalty)।
  • fetch: true UnoRouter कैटलॉग से अपने आप भरता है। पसंदीदा मॉडल पहले दिखाने के लिए इसे default के साथ मिलाएँ।
API key बनाएंमॉडल