Unquant

Opening your workspace…

Unquant

Sohbet tamamlama

Akış, görsel, araç çağırma ve akıl yürütme kontrolü desteğiyle OpenAI uyumlu sohbet tamamlama.

POST /v1/chat/completions

curl https://api.unquant.io/v1/chat/completions \
  -H "Authorization: Bearer $UNQUANT_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.3-flash",
       "messages":[{"role":"user","content":"Hello!"}]}'

İstek alanları

Temel alanlar
modeldizeZorunlu

glm-5.3-flash veya qwen-3.8-flash-next.

messagesdiziZorunlu

Roller: system, user, assistant ve tool. İçerik, bir dize veya text ve image_url parçalarından oluşan bir dizidir.

streammantıksal değer

Yanıtı sunucu tarafından gönderilen olaylar biçiminde akış olarak iletin.

stream_optionsnesne

{"include_usage": true}, akışın sonuna token sayılarını içeren bir parça ekler.

Uzunluk
max_tokenstam sayı

Yanıt uzunluğunun üst sınırı.

max_completion_tokenstam sayı

max_tokens ile aynı işlevi görür.

Örnekleme
temperaturesayı

Örneklemenin rastgelelik düzeyi.

top_psayı

Çekirdek örneklemesi.

top_ktam sayı

En olası k token arasından örnekleme yapın.

min_psayı

Bir token için gereken en düşük göreli olasılık.

seedtam sayı

Tekrarlanabilir örnekleme için başlangıç değeri.

stopdize veya dizi

Üretimi durduran diziler.

Tekrar
frequency_penaltysayı

Tokenlara, daha önce görülme sıklıklarına göre ceza uygulayın.

presence_penaltysayı

Daha önce en az bir kez görülen tokenlara ceza uygulayın.

repetition_penaltysayı

Çarpan olarak uygulanan tekrar cezası.

Araçlar
toolsdizi

Modelin çağırabileceği işlevler, OpenAI biçiminde.

tool_choicedize veya nesne

auto, none, required veya adı belirtilen bir işlev.

parallel_tool_callsmantıksal değer

Tek bir turda birden fazla araç çağrısına izin verin.

Çıktı
response_formatnesne

JSON çıktısı.

logprobsmantıksal değer

Tokenların logaritmik olasılıklarını döndürün.

top_logprobstam sayı

Token başına döndürülecek alternatif sayısı.

ntam sayı

1 olmalıdır: her istek için tek bir tamamlama üretilir.

Akıl yürütme
reasoning_effortdize

Her iki model için: none, low veya high; GLM-5.3-Flash, max değerini de kabul eder.

chat_template_kwargsnesne

{"enable_thinking": false} gibi şablon seçenekleri.

Diğer alanlar yok sayılır.

Yanıt

response.choices[0].message.content

Kullanım sayıları, kullanımınızı takip edebilmeniz için döndürülür; hiçbir zaman ayrıca ücretlendirilmez.

Akış

"stream": true ayarıyla yanıt, OpenAI parça biçiminde sunucu tarafından gönderilen olaylar olarak gelir ve data: [DONE] ile sona erer. Metni choices[0].delta.content alanından okuyun.

Görseller

Her iki model de görselleri, base64 veri URL'si içeren image_url parçaları olarak kabul eder (data:image/png;base64,..., JPEG veya WebP). URL ile verilen görsel bağlantılarındaki içerik alınmaz ve 400 hatası döndürülür.

{"role": "user", "content": [
  {"type": "text", "text": "Describe this image."},
  {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,/9j/4AAQ..."}}
]}

Araç çağırma

tools alanını OpenAI API'deki gibi iletin. Model bir araç çağırdığında yanıt, finish_reason: "tool_calls" ve message.tool_calls alanlarını içerir; aracı çalıştırın, sonucunu ve eşleşen tool_call_id değerini içeren bir tool mesajı ekleyin ve yeniden istek gönderin.

Akıl yürütme

Her iki model de yanıt vermeden önce akıl yürütür ve reasoning_effort parametresini kabul eder: doğrudan yanıtlar için none, sınırlı akıl yürütme için low, daha zor problemler için high kullanın; GLM-5.3-Flash ayrıca max değerini destekler ve varsayılan olarak high kullanır. Düşünme süreci, reasoning_content alanında ayrı olarak döndürülür; hiçbir zaman content alanına karıştırılmaz. "thinking": {"type": "disabled"} ve "chat_template_kwargs": {"enable_thinking": false} ayarları da akıl yürütmeyi kapatır.

Eşzamanlılık

Tüm API anahtarlarınız genelinde aynı anda çalışabilecek istek sayısını planınız belirler. Bu sınırı aşan bir istek hemen 429 hatası döndürür ve kuyruğa alınmaz; çalışmakta olan istekler bundan etkilenmez.

Geliştirici rehberi