Il conteggio avviene su questo dispositivo. Il tuo testo non viene mai caricato. Incolla un prompt o apri un documento, imposta quante richieste prevedi, inserisci i prezzi del tuo fornitore e vedi quanto dovrebbe costare un lavoro prima di eseguirlo. È gratis e privato.
Come stimare un costo
- Incolla il tuo testo, oppure usa Apri un file di testo. Prova un esempio compila un testo di esempio.
- Imposta i Token di output per richiesta, cioè quanto ti aspetti che sia lunga ogni risposta.
- Imposta il Numero di richieste.
- Aggiungi Token di input extra per richiesta per tutto ciò che viene inviato ogni volta, come istruzioni o messaggi precedenti.
- Inserisci i prezzi per milione di token per ogni modello nella tabella.
- Leggi il costo per richiesta e il totale, poi usa Scarica CSV per conservare il confronto.
Conteggi esatti e stimati
Alcuni tokenizer sono pubblici, quindi per quei modelli i conteggi sono esatti per il testo in sé quando l'opzione dei conteggi esatti è attiva. Altre famiglie di modelli usano tokenizer che non sono pubblicati in una forma eseguibile qui, quindi i loro conteggi sono stime, indicate come tali, basate su circa 3,5-4 caratteri per token per l'inglese. Codice, numeri e altre lingue di solito usano più token per carattere.
Calcolare il costo
Ogni richiesta costa i suoi token in ingresso per il prezzo in ingresso, più i suoi token in uscita per il prezzo in uscita, con prezzi indicati per milione di token. Il totale lo moltiplica per il numero di richieste. Aggiungi token in ingresso extra per tutto ciò che viene inviato a ogni richiesta, come un messaggio di sistema o la cronologia della chat.
Per esempio, un prompt da 2.000 token con una risposta da 500 token, ripetuto 1.000 volte, sono 2 milioni di token in ingresso e 0,5 milioni di token in uscita. Moltiplica ciascuno per il suo prezzo al milione e sommali.
Consigli per pianificare bene
- Esegui la stima sul tuo input più lungo realistico, non su quello più corto, così il budget ha margine.
- L'output di solito costa di più per token rispetto all'input, quindi una risposta lunga può contare più di un prompt lungo.
- Confronta più modelli affiancati prima di scegliere. Un modello più economico che richiede meno tentativi può essere più conveniente.
- Usa Scarica CSV per condividere i numeri con un cliente o un collega.
Chi lo usa
Freelance che preventivano un progetto che elabora documenti, piccole aziende che verificano se un'automazione è sostenibile e studenti che tengono un progetto entro un budget. Per preparare documenti lunghi all'elaborazione, il divisore di testo li separa in parti.
Domande
Perché non ci sono prezzi già compilati?
I prezzi cambiano spesso e differiscono per dimensione del modello, regione, sconti sui lotti e cache. Inserire il prezzo attuale dalla pagina del tuo fornitore mantiene i valori giusti. L'esempio usa prezzi tondi inventati solo per mostrare come funziona.
Quanto sono vicine le stime?
Per la normale prosa inglese di solito sono entro circa il 10-20 percento. Considerali una guida per pianificare, non un conto. Controlla la pagina di utilizzo del tuo fornitore o il suo endpoint di conteggio dei token per i valori esatti.
Posso aggiungere un altro modello?
Sì. Aggiungi un modello, dagli un nome, un valore di caratteri per token e i suoi prezzi. Viene salvato su questo dispositivo con gli altri tuoi prezzi, e Clear my prices li rimuove.
Che cosa non è incluso?
Token di formattazione aggiunti dalle API di chat, immagini, audio, definizioni di strumenti, sconti sull'input in cache e token di ragionamento che alcuni modelli usano mentre pensano. Aggiungi un margine con extra input tokens o output tokens.
Che cos'è un token?
Un token è un piccolo pezzo di testo, spesso una parola breve o parte di una più lunga. In inglese, un token equivale a circa quattro caratteri, o circa tre quarti di una parola.
Il mio testo viene salvato da qualche parte?
No. Il testo viene contato nel tuo browser. Vengono salvati solo i prezzi che inserisci, e solo su questo dispositivo.