API LLM a tariffa fissa o a consumo per token: quando conviene l'uso illimitato

Perché i costi dei token crescono più di quanto ti aspetti

I modelli di chat non conservano lo stato: ogni richiesta contiene l'intera conversazione. Una chat arrivata a 50.000 token invia di nuovo tutti quei 50.000 token al messaggio successivo, e a quello dopo ancora. Nella maggior parte dei casi, sono i token in ingresso, non le risposte, a pesare di più sul conto.

Tre esempi con i conti alla mano

Qui contiamo solo i token; per calcolare la spesa, moltiplica il totale in milioni per il prezzo al milione del fornitore che ti interessa.

Quando consumi decine o centinaia di milioni di token al mese, anche prezzi bassi per token fanno salire rapidamente la spesa, e te ne accorgi solo a fine mese. Gli sconti sui prompt memorizzati nella cache aiutano, quando sono disponibili, ma variano da un fornitore all'altro e di solito anche i token nella cache vengono fatturati.

Cosa cambia con la tariffa fissa

• Costi prevedibiliil prezzo resta lo stesso, che tu invii dieci messaggi o diecimila.
• Nessun bisogno di limitartipuoi smettere di tagliare il contesto o di rinunciare a rigenerare le risposte per risparmiare: sono proprio queste rinunce, di solito, a peggiorare i risultati.
• Il limite è nelle richieste simultanee, non nel volumeil piano stabilisce quante richieste puoi eseguire contemporaneamente. Entro quel limite, l'uso è illimitato.

Quando conviene pagare per token

Detto chiaramente: se invii solo poche richieste brevi a settimana, pagare a consumo ti costerà meno. Se ti servono decine di richieste in parallelo per elaborazioni in blocco, i fornitori con tariffe per token permettono di raggiungere un parallelismo maggiore. La tariffa fissa conviene per un uso continuativo e interattivo con contesti lunghi: giochi di ruolo, scrittura, agenti di programmazione e ricerca.

Le tariffe di Unquant

Ogni piano include token e messaggi illimitati; i piani si differenziano per modello, finestra di contesto e numero di flussi simultanei. Scopri tutti i piani.