Bias (zkreslení)

Systematická jednostrannost v odpovědích AI. Vzniká hlavně z dat, na kterých se model učil, protože ta odrážejí předsudky a nepoměry ve společnosti.

Zkreslení nemusí být na první pohled vidět. Projevuje se ve stereotypech, v tom, koho nebo co model zmiňuje častěji, i v tom, jak hodnotí stejné údaje u různých skupin lidí.

Vývojáři zkreslení zmírňují výběrem dat a dalším dolaďováním, úplně ho ale odstranit nejde. Pokud AI používáte při rozhodování o lidech, třeba při výběru uchazečů, výsledky vždy kontrolujte.