LibreChat
LibreChat एकीकरण गाइड
UnoRouter को LibreChat से एक कस्टम OpenAI-संगत एंडपॉइंट के जरिए जोड़ें।
अवलोकन
LibreChat किसी भी OpenAI-संगत होस्ट को endpoints.custom के जरिए उजागर करता है। एक UnoRouter ब्लॉक जोड़ें, एनवायरनमेंट वेरिएबल सेट करें, और मॉडल चयनकर्ता कैटलॉग से अपने आप भर जाता है।
त्वरित कॉन्फ़िग
इन मानों को क्लाइंट में डालें। साइन इन रहने पर आपकी कुंजी अपने आप भर जाती है।
text
बेस URL: https://api.unorouter.ai/v1
API कुंजी: YOUR_API_KEYसंगतता
Chat Completionsस्ट्रीमिंगटूल कॉलिंग
चरण-दर-चरण सेटअप
- 1librechat.yaml संपादित करें
अपने LibreChat इंस्टॉल में endpoints.custom के तहत एक कस्टम एंडपॉइंट ब्लॉक जोड़ें।
yamlendpoints: custom: - name: 'UnoRouter' apiKey: '${UNOROUTER_API_KEY}' baseURL: 'https://api.unorouter.ai/v1' models: fetch: true titleConvo: true modelDisplayLabel: 'UnoRouter' - 2एनवायरनमेंट वेरिएबल जोड़ें
LibreChat की .env फ़ाइल में अपनी UnoRouter API कुंजी सेट करें।
bashUNOROUTER_API_KEY=YOUR_API_KEY - 3LibreChat पुनः आरंभ करें
कंटेनर या प्रक्रिया पुनः आरंभ करें। UnoRouter एंडपॉइंट चैट मेनू में दिखाई देता है।
अनुशंसित मॉडल
मुफ्त मॉडल जो यहाँ अच्छा काम करते हैं। कोई भी मॉडल आईडी क्लाइंट में पेस्ट करें।
mistral-vibe-cli-latestministral-8b-latestmistral-mediumtiny-aya-globalmistral-nemo-instruct-2407
ध्यान देने योग्य बातें
- एनवायरनमेंट वेरिएबल मानों के लिए एकल ब्रेस सिंटैक्स का उपयोग करें, अन्य कॉन्फ़िगरेशन के सीक्रेट सिंटैक्स का नहीं।
- यदि कोई मॉडल अतिरिक्त OpenAI पैरामीटर अस्वीकार करता है, तो उन्हें dropParams में जोड़ें (उदाहरण के लिए frequency_penalty और presence_penalty)।
- fetch: true UnoRouter कैटलॉग से अपने आप भरता है। पसंदीदा मॉडल पहले दिखाने के लिए इसे default के साथ मिलाएँ।