Алсу Нурутдинова, Алина Кочева — Как построить пайплайн RAG с использованием LLamaIndex

Подробнее о конференции SmartData:
— — Скачать презентацию с сайта SmartData —
RAG (Retrieval Augmented Generation) — это подход, который дополняет большие языковые модели с помощью обогащения контекста пользовательскими данными. Он сочетает в себе процесс извлечения информации из баз данных (как правило, векторных) с последующей генерацией текста. Это позволяет моделям предоставлять ответы, основанные на данных, которые не были им видны в процессе обучения, но есть в базе данных. Как и в любой сложной системе, есть ключевые моменты, которые нужно и важно учитывать при построении. В докладе спикеры рассказали, что требуется, чтобы создать надежный конвейер RAG. Обсудили основные моменты, которые помогут лучше понять концепцию дополненной поисковой генерации на примере чат-бота для технической поддержки.