GPU (grafický procesor)

Čip, který zvládne obrovské množství výpočtů najednou. Proto se na něm AI modely trénují i spouštějí.

Běžný procesor (CPU) je stavěný na všestrannou práci a rychlé zpracování jednotlivých úloh. Grafický procesor má velké množství jednodušších jader, která počítají souběžně. Výpočty v neuronových sítích jsou přesně takové: obrovské množství podobných násobení najednou.

Kromě výkonu je u AI důležitá i paměť grafické karty, do které se musí vejít model. Proto větší modely potřebují výkonnější a dražší hardware.