Come collegare Open WebUI a Unquant
Open WebUI ti offre un'interfaccia in stile ChatGPT da ospitare sulla tua infrastruttura. Aggiungi Unquant come connessione per usarla con modelli all'avanguardia senza censura, senza costi a token.
1 Aggiungi una connessione
In Open WebUI apri Pannello di amministrazione → Impostazioni → Connessioni e aggiungi una connessione nella sezione API OpenAI:
Salva. Open WebUI legge
/v1/models, quindi il modello del tuo piano compare automaticamente nel selettore dei modelli.2 Imposta la lunghezza del contesto
Nei parametri avanzati del modello, imposta la lunghezza del contesto sulla dimensione della finestra prevista dal tuo piano (fino a 262.144 token), così le conversazioni e i documenti lunghi non vengono troncati.
Immagini e documenti
- Comprensione delle immaginientrambi i modelli accettano immagini. Open WebUI invia i file caricati direttamente nella richiesta, codificati in base64 (PNG, JPEG o WebP), come richiesto da Unquant. Le immagini indicate tramite URL non vengono scaricate.
- Documenticon una finestra da 262K token puoi spesso incollare un documento intero, senza doverti affidare a singoli estratti recuperati tramite ricerca.
Condivisione con il team
Tutti gli utenti della tua istanza di Open WebUI condividono il tuo piano. Gli stream simultanei del piano determinano quante risposte possono essere generate contemporaneamente; le richieste in eccesso ricevono un errore 429, anziché rallentare tutti gli utenti. Scegli quindi un piano con abbastanza stream per le persone che lo usano nello stesso momento. Consulta i piani.
Risoluzione dei problemi
L'URL deve terminare con /v1 e la chiave deve essere associata a un piano attivo.
Hai inviato un'immagine come collegamento; carica invece il file.
Incolla di nuovo la chiave completa; le chiavi revocate o digitate in modo errato vengono rifiutate.
L'ID del modello non corrisponde al tuo piano: i piani GLM usano glm-5.3-flash, quelli Qwen qwen-3.8-flash-next.
Continua a leggere
- Invia richieste a Unquant da Python e JavaScript con l'SDK OpenAIUsa gli SDK ufficiali OpenAI per Python e JavaScript con Unquant: URL di base, streaming, immagini, chiamate agli strumenti e controllo del ragionamento, con esempi da copiare e incollare.
- Perché la finestra di contesto conta (e quando conviene avere 262K token)Cosa ti offre concretamente una finestra di contesto da 262K token nel gioco di ruolo, nella programmazione e con gli agenti, come la fanno pagare i fornitori e quando conviene usarla tutta.
- IA senza censura per la programmazione e gli agentiPerché gli sviluppatori usano un modello senza censura per la programmazione e gli agenti: nessun rifiuto nelle attività di sicurezza, nell'ingegneria inversa o nei flussi di elaborazione di contenuti controversi, oltre a un contesto da 262K token e token illimitati per lunghe sequenze operative degli agenti.