如何將 Open WebUI 連接至 Unquant
Open WebUI 提供可自行架設的 ChatGPT 風格介面。新增 Unquant 連線後,就能透過這個介面使用無審查的頂尖模型,而且無須按 token 計費。
1 新增連線
在 Open WebUI 中開啟管理員面板 → 設定 → 連線,並在 OpenAI API 下新增連線:
儲存設定。Open WebUI 會讀取
/v1/models,因此你的方案所包含的模型會自動出現在模型選單中。2 設定情境長度
在模型的進階參數中,將情境長度設為你的方案提供的情境視窗大小(最高 262,144 個 token),避免長篇對話和文件遭到截斷。
圖片與文件
- 視覺能力兩款模型都支援圖片輸入。Open WebUI 會將上傳的圖片(PNG、JPEG 或 WebP)以 base64 編碼內嵌於請求中傳送,這正是 Unquant 接受的格式。若只提供圖片網址,系統不會擷取圖片。
- 文件有了 262K 的情境視窗,你通常可以直接貼上整份文件,不必依賴檢索取得的片段。
與團隊共用
使用你架設的 Open WebUI 的所有人,都會共用你的方案。方案的並行串流數量決定能同時產生幾則回覆;超出的請求會收到 429 回應,而不會拖慢所有人的速度。因此,請依同時使用的人數選擇串流數量足夠的方案等級。查看方案。
疑難排解
提示
未列出任何模型
網址必須以 /v1 結尾,而且金鑰必須屬於有效的方案。
400
請以 base64 資料網址傳送圖片內容
圖片是以連結傳送的;請改為上傳檔案。
401
需要有效的 API 金鑰
請重新貼上完整金鑰;已撤銷或輸入錯誤的金鑰會遭到拒絕。
403
你的訂閱未包含此模型
模型 ID 與你的方案不符:GLM 方案使用 glm-5.3-flash,Qwen 方案使用 qwen-3.8-flash-next。
延伸閱讀
- 透過 OpenAI SDK 在 Python 和 JavaScript 中呼叫 Unquant使用官方 OpenAI Python 和 JavaScript SDK 串接 Unquant:涵蓋 Base URL、串流、圖片、工具呼叫及推理控制,並附上可直接複製貼上的範例。
- 情境視窗為什麼重要?什麼時候值得用到 262K?262K 個 token 的情境視窗對角色扮演、程式開發和 agent 有哪些實際好處?供應商如何定價?什麼時候值得使用完整視窗?
- 用於程式開發與 agent 的無審查 AI開發者為什麼選擇無審查模型來撰寫程式和執行 agent:不會拒絕資安工作、逆向工程或涉及敏感題材的內容處理流程,還提供 262K 情境視窗與無限 token,支援長時間的 agent 執行迴圈。