Open WebUI को Unquant से कैसे कनेक्ट करें
Open WebUI आपको ChatGPT जैसा इंटरफ़ेस देता है, जिसे आप खुद होस्ट करते हैं। इसमें Unquant का कनेक्शन जोड़ें और सबसे उन्नत अनसेंसर्ड मॉडल इस्तेमाल करें, बिना हर टोकन का अलग बिल चुकाए।
1 कनेक्शन जोड़ें
Open WebUI में एडमिन पैनल → सेटिंग्स → कनेक्शन खोलें और OpenAI API के तहत एक कनेक्शन जोड़ें:
सेव करें। Open WebUI
/v1/modelsसे मॉडल की सूची पढ़ता है, इसलिए आपके प्लान का मॉडल अपने-आप मॉडल चुनने की सूची में दिखने लगता है।2 कॉन्टेक्स्ट की लंबाई सेट करें
मॉडल के एडवांस्ड पैरामीटर में कॉन्टेक्स्ट की लंबाई अपने प्लान की विंडो के बराबर सेट करें (262,144 टोकन तक), ताकि लंबी बातचीत और दस्तावेज़ बीच में न कटें।
इमेज और दस्तावेज़
- विज़नदोनों मॉडल इमेज स्वीकार करते हैं। Open WebUI अपलोड की गई इमेज (PNG, JPEG या WebP) को base64 के रूप में रिक्वेस्ट में ही भेजता है। Unquant इसी फ़ॉर्मैट को स्वीकार करता है। इमेज के यूआरएल लिंक से इमेज डाउनलोड नहीं की जातीं।
- दस्तावेज़262K की विंडो होने पर आप अक्सर दस्तावेज़ से खोजकर निकाले गए अंशों पर निर्भर रहने के बजाय पूरा दस्तावेज़ पेस्ट कर सकते हैं।
टीम के साथ इस्तेमाल
आपके Open WebUI इंस्टेंस के सभी यूज़र आपका ही प्लान साझा करते हैं। आपके प्लान की एक साथ चलने वाली स्ट्रीम की संख्या तय करती है कि एक समय में कितने जवाब तैयार हो सकते हैं। अतिरिक्त रिक्वेस्ट से सबकी रफ़्तार धीमी होने के बजाय उन रिक्वेस्ट पर 429 मिलता है। इसलिए ऐसा प्लान चुनें जिसमें एक ही समय पर इस्तेमाल करने वाले लोगों के लिए पर्याप्त स्ट्रीम हों। प्लान देखें।
समस्याओं का समाधान
यूआरएल के अंत में /v1 होना चाहिए और की किसी एक्टिव प्लान की होनी चाहिए।
इमेज को लिंक के रूप में भेजा गया था। इसके बजाय फ़ाइल अपलोड करें।
पूरी की दोबारा पेस्ट करें। रद्द की गई या गलत टाइप की गई की स्वीकार नहीं की जातीं।
मॉडल आईडी आपके प्लान से मेल नहीं खाती: GLM प्लान में glm-5.3-flash और Qwen प्लान में qwen-3.8-flash-next इस्तेमाल होता है।
आगे पढ़ें
- OpenAI एसडीके के साथ Python और JavaScript से Unquant को कॉल करेंUnquant के साथ OpenAI के आधिकारिक Python और JavaScript एसडीके इस्तेमाल करें: बेस यूआरएल, स्ट्रीमिंग, इमेज, टूल कॉलिंग और रीजनिंग कंट्रोल, कॉपी-पेस्ट करने लायक उदाहरणों के साथ।
- कॉन्टेक्स्ट विंडो क्यों मायने रखती है (और 262K कब फ़ायदेमंद है)रोलप्ले, कोडिंग और एजेंट में 262K टोकन की कॉन्टेक्स्ट विंडो से आपको वास्तव में क्या मिलता है, प्रोवाइडर इसकी कीमत कैसे तय करते हैं और पूरी विंडो कब फ़ायदेमंद होती है।
- कोडिंग और एजेंट के लिए अनसेंसर्ड एआईडेवलपर कोडिंग और एजेंट के लिए अनसेंसर्ड मॉडल क्यों इस्तेमाल करते हैं: सिक्योरिटी के काम, रिवर्स इंजीनियरिंग या विवादास्पद कॉन्टेंट की पाइपलाइन पर कोई इनकार नहीं, साथ ही लंबे एजेंट लूप के लिए 262K कॉन्टेक्स्ट और अनलिमिटेड टोकन।