Tréninková data

Texty, obrázky, zvuky nebo jiné příklady, ze kterých se model učí. Na jejich množství a kvalitě hodně závisí, co model umí a jaké chyby dělá.

Jazykové modely se učí z velkého množství textů, například z veřejně dostupných webů, knih nebo kódu. Přesné složení dat výrobci většinou nezveřejňují.

Z dat se model naučí i jejich nedostatky: zastaralé informace, chyby a předsudky. Data navíc pocházejí jen z určitého období, takže o novějších událostech model sám neví, pokud mu je nedodáte nebo si je nedohledá.