RAG

Retrieval-Augmented Generation: AI si před odpovědí vyhledá relevantní části vašich dokumentů a odpoví na jejich základě. Snižuje riziko vymyšlených odpovědí.

RAG funguje ve dvou krocích. Nejdřív systém v dokumentech vyhledá pasáže, které se k dotazu hodí, obvykle pomocí embeddingů. Pak je vloží modelu do kontextu spolu s otázkou a model odpoví podle nich.

Výhodou je, že model odpovídá z aktuálních a vlastních dat bez nového trénování a může uvést, z jakého dokumentu čerpal. Kvalita odpovědí ale stojí a padá s tím, jestli vyhledávání najde správné pasáže.