Jak połączyć Open WebUI z Unquant
Open WebUI to interfejs podobny do ChatGPT, który uruchamiasz na własnym serwerze. Dodaj połączenie z Unquant, a uzyskasz dostęp do najnowocześniejszych modeli bez cenzury i bez opłat za tokeny.
1 Dodaj połączenie
W Open WebUI otwórz Panel administratora → Ustawienia → Połączenia i dodaj połączenie w sekcji API OpenAI:
Zapisz ustawienia. Open WebUI pobiera listę modeli z
/v1/models, więc model dostępny w Twoim planie automatycznie pojawi się na liście wyboru.2 Ustaw długość kontekstu
W zaawansowanych parametrach modelu ustaw długość kontekstu zgodną z oknem dostępnym w Twoim planie (do 262 144 tokenów), aby długie rozmowy i dokumenty nie były obcinane.
Obrazy i dokumenty
- Obsługa obrazówoba modele przyjmują obrazy. Open WebUI przesyła załączone pliki bezpośrednio w żądaniu, zakodowane w base64 (PNG, JPEG lub WebP) — właśnie takiej postaci oczekuje Unquant. Obrazy wskazane adresem URL nie są pobierane.
- Dokumentydzięki oknu o długości 262 tys. tokenów często możesz wkleić cały dokument, zamiast polegać na wyszukanych fragmentach.
Korzystanie w zespole
Wszyscy użytkownicy Twojej instancji Open WebUI korzystają z tego samego planu. Liczba równoległych strumieni w planie określa, ile odpowiedzi może być generowanych jednocześnie. Nadmiarowe żądania otrzymują błąd 429, zamiast spowalniać pracę wszystkich użytkowników, więc wybierz plan z liczbą strumieni wystarczającą dla osób korzystających z usługi w tym samym czasie. Zobacz plany.
Rozwiązywanie problemów
Adres URL musi kończyć się na /v1, a klucz musi być powiązany z aktywnym planem.
Obraz został przesłany jako link. Zamiast tego załącz plik.
Wklej ponownie cały klucz. Unieważnione klucze i klucze z literówkami są odrzucane.
Identyfikator modelu nie pasuje do Twojego planu: plany GLM używają glm-5.3-flash, a plany Qwen — qwen-3.8-flash-next.
Czytaj dalej
- Wywołuj API Unquant z Pythona i JavaScriptu za pomocą SDK OpenAIKorzystaj z Unquant przez oficjalne SDK OpenAI dla Pythona i JavaScriptu: bazowy adres URL, przesyłanie strumieniowe, obrazy, wywoływanie narzędzi i sterowanie rozumowaniem, z przykładami gotowymi do wklejenia.
- Dlaczego okno kontekstu ma znaczenie (i kiedy warto mieć 262 tys. tokenów)Co w praktyce daje okno kontekstu o długości 262 tys. tokenów w odgrywaniu ról, programowaniu i pracy agentów, jak wyceniają je dostawcy i kiedy warto korzystać z pełnego okna.
- AI bez cenzury do programowania i pracy agentówDlaczego programiści wybierają model bez cenzury do programowania i pracy agentów: brak odmów przy zadaniach związanych z bezpieczeństwem, inżynierią wsteczną i przetwarzaniem kontrowersyjnych treści, a do tego kontekst o długości 262 tys. tokenów i nielimitowane tokeny na długie pętle działania agentów.