Unquant

Opening your workspace…

Unquant

Penyelesaian percakapan

Penyelesaian percakapan yang kompatibel dengan OpenAI, dengan dukungan pengiriman respons bertahap, gambar, pemanggilan alat, dan pengaturan penalaran.

POST /v1/chat/completions

curl https://api.unquant.io/v1/chat/completions \
  -H "Authorization: Bearer $UNQUANT_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.3-flash",
       "messages":[{"role":"user","content":"Hello!"}]}'

Parameter permintaan

Utama
modelstringWajib

glm-5.3-flash atau qwen-3.8-flash-next.

messageslarikWajib

Peran yang didukung: system, user, assistant, dan tool. Konten berupa string atau larik yang berisi bagian text dan image_url.

streamboolean

Kirim respons secara bertahap sebagai peristiwa yang dikirim server.

stream_optionsobjek

{"include_usage": true} menambahkan potongan terakhir yang berisi jumlah token.

Panjang
max_tokensbilangan bulat

Batas maksimum panjang respons.

max_completion_tokensbilangan bulat

Sama dengan max_tokens.

Pengambilan sampel
temperatureangka

Tingkat keacakan pengambilan sampel.

top_pangka

Pengambilan sampel nukleus.

top_kbilangan bulat

Ambil sampel dari k token dengan probabilitas tertinggi.

min_pangka

Probabilitas relatif minimum untuk suatu token.

seedbilangan bulat

Nilai awal agar hasil pengambilan sampel dapat diulang.

stopstring atau larik

Urutan teks yang menghentikan pembuatan respons.

Pengulangan
frequency_penaltyangka

Beri penalti pada token berdasarkan frekuensi kemunculannya.

presence_penaltyangka

Beri penalti pada token yang sudah pernah muncul.

repetition_penaltyangka

Penalti pengulangan berbasis perkalian.

Alat
toolslarik

Fungsi yang dapat dipanggil model, dalam format OpenAI.

tool_choicestring atau objek

auto, none, required, atau fungsi yang ditentukan namanya.

parallel_tool_callsboolean

Izinkan beberapa pemanggilan alat dalam satu giliran.

Keluaran
response_formatobjek

Keluaran JSON.

logprobsboolean

Kembalikan logaritma probabilitas token.

top_logprobsbilangan bulat

Jumlah alternatif yang dikembalikan per token.

nbilangan bulat

Harus bernilai 1: satu hasil penyelesaian per permintaan.

Penalaran
reasoning_effortstring

Kedua model: none, low, atau high; GLM-5.3-Flash juga menerima max.

chat_template_kwargsobjek

Pengaturan untuk mengaktifkan atau menonaktifkan fitur templat, seperti {"enable_thinking": false}.

Parameter lainnya diabaikan.

Respons

response.choices[0].message.content

Jumlah penggunaan dikembalikan untuk pemantauan Anda sendiri; penggunaan tidak pernah dikenai biaya.

Pengiriman respons bertahap

Dengan "stream": true, respons diterima sebagai peristiwa yang dikirim server dalam format potongan OpenAI, diakhiri dengan data: [DONE]. Baca teks dari choices[0].delta.content.

Gambar

Kedua model menerima gambar sebagai bagian image_url yang berisi URL data base64 (data:image/png;base64,..., JPEG, atau WebP). Gambar dari tautan URL tidak akan diambil, dan permintaannya akan menghasilkan kode 400.

{"role": "user", "content": [
  {"type": "text", "text": "Describe this image."},
  {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,/9j/4AAQ..."}}
]}

Pemanggilan alat

Kirim tools seperti pada API OpenAI. Saat model memanggil alat, respons memuat finish_reason: "tool_calls" dan message.tool_calls; jalankan alat tersebut, tambahkan pesan tool yang berisi hasilnya beserta tool_call_id yang sesuai, lalu panggil API lagi.

Penalaran

Kedua model melakukan penalaran sebelum menjawab dan menerima reasoning_effort: none untuk jawaban langsung, low untuk penalaran ringan, atau high untuk masalah yang lebih sulit; GLM-5.3-Flash juga menyediakan max dan menggunakan high secara bawaan. Proses berpikir dikembalikan secara terpisah dalam reasoning_content, tidak pernah dicampurkan ke dalam content. "thinking": {"type": "disabled"} dan "chat_template_kwargs": {"enable_thinking": false} juga menonaktifkan penalaran.

Permintaan bersamaan

Paket Anda menentukan berapa banyak permintaan yang dapat berjalan bersamaan di seluruh kunci API Anda. Permintaan yang melebihi batas tersebut langsung menghasilkan kode 429 dan tidak dimasukkan ke antrean; permintaan yang sedang berjalan tidak terpengaruh.

Panduan pengembang