Halucinace

Odpověď AI, která zní věrohodně, ale není pravdivá. Nejčastěji jde o vymyšlená jména, čísla, citace nebo zdroje.

Jazykový model nehledá odpověď v databázi faktů. Skládá text, který podle naučených vzorů zní pravděpodobně, a když údaj nezná, může ho věrohodně „doplnit“.

Riziko snížíte, když AI dáte podklady, požádáte ji o zdroje a odkazy si otevřete. Pomáhá i výslovně dovolit odpověď „nevím“. Důležité údaje si vždy ověřte.