Kontextové okno

Kolik textu (v tokenech) model zvládne zpracovat najednou: vaše zprávy, vložené dokumenty i své odpovědi. Co se do okna nevejde, model „nevidí“.

Velikost okna se udává v tokenech a liší se podle modelu. Větší okno umožní vložit delší dokumenty nebo vést delší konverzaci, neznamená ale automaticky, že model každou pasáž využije stejně dobře.

Když konverzace okno přeroste, aplikace starší části zkrátí nebo shrne, případně upozorní, že je chat příliš dlouhý. Pomáhá začít nový chat a na začátek vložit stručné shrnutí toho podstatného.