RAG
Retrieval-Augmented Generation
RAG — архитектура AI-системы: LLM + векторная база знаний. Запрос пользователя → поиск релевантных фрагментов в вашей базе документов → передача найденного в LLM → генерация ответа на основе реальных данных. Точность по корпоративным запросам: 85–95% против 40–60% у обычного LLM. Стандарт для корпоративных чатботов.
Как работает RAG: шаги
Индексация документов
Ваши документы (PDF, DOCX, HTML) разбиваются на чанки (500–1000 токенов). Каждый чанк превращается в вектор через embedding-модель. Векторы хранятся в векторной БД (Pinecone, Qdrant, Chroma).
Поиск по запросу
Входящий вопрос тоже превращается в вектор. В базе ищутся 3–10 ближайших чанков по косинусному сходству. Это семантический поиск: находит смысл, а не ключевые слова.
Генерация ответа
LLM получает промпт: "Используй только следующие документы: [найденные чанки]. Ответь на вопрос: [запрос]". Галлюцинации невозможны — модель цитирует конкретные источники.
B2B-применения RAG
Клиентский чатбот
Отвечает на вопросы по продукту, прайсу, договорам. Обучается на ваших документах за 1–2 дня.
Юридический ассистент
Поиск по договорной базе, ответы по регуляторным требованиям. Точность критична — RAG обязателен.
Медицинская документация
Протоколы, справочники, история пациентов. RAG обеспечивает точность, ссылки на источники.
Техническая поддержка
База знаний из тысяч статей. Агент находит решение за секунды, escalate только нестандартное.
Финансовая аналитика
Вопросы по отчётам, нормативам, данным. LLM работает с конкретными цифрами из документов.
Корпоративное обучение
Чатбот по внутренним материалам, регламентам, онбординг новых сотрудников.
FAQ
Что такое RAG простыми словами? ▼
RAG (Retrieval-Augmented Generation) — архитектура: LLM + база знаний. Вместо того чтобы отвечать из своей обучающей памяти (и галлюцинировать), модель сначала ищет релевантные документы в вашей базе, затем генерирует ответ на основе найденного. Результат: точные ответы по вашим данным.
Чем RAG отличается от fine-tuning? ▼
Fine-tuning — дообучение модели на ваших данных (дорого, $1000–10 000+, нужны ML-инженеры). RAG — подключение базы знаний без изменения модели (дёшево, $50–200/мес, настраивает разработчик за 1–2 недели). RAG лучше для часто обновляемых данных: договора, FAQ, прайсы.
Какие инструменты нужны для RAG? ▼
Минимальный стек: LLM (GPT-4o или Claude), векторная БД (Pinecone, Qdrant, Chroma), embedding-модель (text-embedding-3-small). Готовые фреймворки: LlamaIndex, LangChain. Оркестратор: n8n с HTTP Request узлами.
Насколько RAG точнее обычного LLM? ▼
По специализированным корпоративным запросам: RAG даёт точность 85–95% против 40–60% у обычного LLM. Причина: модель отвечает по конкретным документам, а не по общей обучающей базе. Критично для юридических, медицинских и финансовых запросов.
Нужен RAG-чатбот для вашего бизнеса?
Написать в Telegram →