Как подключить Open WebUI к Unquant
Open WebUI — это интерфейс в стиле ChatGPT, который вы размещаете на собственном сервере. Подключите к нему Unquant, чтобы пользоваться передовыми моделями без цензуры и без оплаты за токены.
1 Добавьте подключение
В Open WebUI откройте Панель администратора → Настройки → Подключения и добавьте подключение в разделе API OpenAI:
Сохраните настройки. Open WebUI получает список моделей через
/v1/models, поэтому модель вашего тарифа автоматически появится в списке выбора.2 Задайте размер контекста
В расширенных параметрах модели задайте размер контекста, соответствующий окну вашего тарифа (до 262 144 токенов), чтобы длинные диалоги и документы не обрезались.
Изображения и документы
- Работа с изображениямиобе модели принимают изображения. Open WebUI встраивает загруженные файлы в запрос в кодировке base64 (PNG, JPEG или WebP) — именно такой формат принимает Unquant. Изображения по URL не загружаются.
- Документыс окном контекста в 262 тыс. токенов зачастую можно вставить документ целиком, не ограничиваясь фрагментами, найденными при поиске.
Совместная работа в команде
Все пользователи вашего экземпляра Open WebUI работают в рамках одного тарифа. Число параллельных потоков в тарифе определяет, сколько ответов может генерироваться одновременно. Запросы сверх этого лимита получают ошибку 429, поэтому работа остальных пользователей не замедляется. Выберите тариф с достаточным числом потоков для всех, кто будет пользоваться сервисом одновременно. См. тарифы.
Решение проблем
URL должен заканчиваться на /v1, а ключ должен быть привязан к действующему тарифу.
Изображение было отправлено ссылкой; загрузите сам файл.
Вставьте полный ключ ещё раз; отозванные ключи и ключи с опечатками отклоняются.
Идентификатор модели не соответствует вашему тарифу: для тарифов GLM используйте glm-5.3-flash, для тарифов Qwen — qwen-3.8-flash-next.
Читайте также
- Обращение к Unquant из Python и JavaScript через SDK OpenAIИспользуйте официальные SDK OpenAI для Python и JavaScript с Unquant: базовый URL, потоковая передача ответов, изображения, вызов инструментов и настройка рассуждений. С примерами, которые можно скопировать и сразу использовать.
- Почему важно окно контекста и когда нужны 262 тыс. токеновЧто на практике даёт окно контекста в 262 тыс. токенов для ролевых диалогов, программирования и агентов, как провайдеры рассчитывают его стоимость и когда стоит использовать всё окно.
- ИИ без цензуры для программирования и агентовПочему разработчики выбирают модели без цензуры для программирования и агентов: никаких отказов при работе с безопасностью, обратной инженерией или обработкой провокационного контента, а также контекст в 262 тыс. токенов и неограниченные токены для длительных циклов работы агентов.