BAIYUN SI / AI LEXICON
Token L'unità base per l'elaborazione del testo
L'unità base per l'elaborazione delle informazioni nei modelli è anche la base per misurare l'uso in molti servizi di IA.
Nei modelli testuali, gli input vengono prima suddivisi in token. Un gettone può essere un pezzo di testo, una parte di una parola o un simbolo; non può essere fissato e equiparato a un carattere cinese o a una parola inglese.
Il modello legge il token di input e poi genera il token di output. Il metodo specifico di segmentazione, il limite di contesto e i vincoli di output dipendono dal modello e dall'interfaccia; Lo stesso passaggio può contare in modo diverso in modelli diversi.
L'uso di input, output e cache può essere prezzato in modo diverso. Quando confronti i costi delle chiamate, dovresti considerare i risultati del compito e l'utilizzo effettivo, piuttosto che confrontare la lunghezza visibile del testo di una singola richiesta.
Rapporto con la comunità di Baiyun
La fornitura di gettoni è ora il punto di partenza di Baiyun. Vogliamo chiarire il modello e le regole sui prezzi, così che apprendimento, sviluppo e pratica aziendale possano vedere il nostro consumo reale. Le regole specifiche sono soggette agli annunci della piattaforma.
Ulteriori letture
Ritorno al viaggio della luce Unisciti alla comunità Baiyun SI