Token

Kousek textu, se kterým model pracuje: slovo, část slova nebo znak. Podle tokenů se měří délka vstupu a výstupu i cena za API.

Model text nečte po písmenech ani po slovech, ale po tokenech. Jejich rozdělení závisí na konkrétním modelu, takže stejný text může mít u různých modelů jiný počet tokenů.

Tokeny určují dvě praktické věci: kolik textu se vejde do kontextového okna a kolik zaplatíte přes API. Ceny se obvykle uvádějí za milion vstupních a výstupních tokenů.