AI-чат-бот на своих данных (RAG): как это работает простыми словами

Обычный чат-бот на GPT знает много всего вообще и ничего конкретного про вас. Спросите его про ваши тарифы или график работы — он либо признается, что не знает, либо придумает правдоподобный ответ. Для бизнеса второе хуже первого: клиент получает уверенную неправду про вашу же услугу.

RAG решает ровно эту проблему. Таких ассистентов я собираю на Claude, документы храню в базе Postgres. Ниже разберу без жаргона, как RAG чат-бот для сайта устроен внутри, чем отличается от обычного бота и от квиза, где он ошибается и как передавать сложные диалоги живому менеджеру.

Что такое RAG простыми словами

RAG расшифровывается как Retrieval-Augmented Generation — «генерация ответа с подглядыванием в источник».

Retrieval это поиск. Перед тем как отвечать, система лезет в вашу базу знаний и достаёт оттуда 3–4 самых подходящих фрагмента текста. Generation это ответ. Модель (у меня обычно Claude) получает вопрос клиента плюс эти найденные фрагменты и формулирует ответ, опираясь только на них.

Аналогия: обычный бот отвечает как студент на экзамене по памяти. RAG-бот, как студент, которому разрешили открыть учебник, но заставили отвечать строго по тому, что там написано. Второй ошибается реже, потому что ему не надо ничего вспоминать. Надо просто пересказать найденный кусок.

Модель не хранит ваши данные в «голове», они лежат отдельно, в базе, и подставляются в запрос в момент вопроса. Обновили прайс: бот сразу отвечает по-новому, переобучать ничего не нужно.

Как RAG находит нужный ответ: эмбеддинги и pgvector

Самая непонятная часть, как компьютер понимает, какой фрагмент подходит к вопросу. Здесь работает поиск по смыслу. Разберу по шагам.

1. Режем базу знаний на куски. Ваши документы — FAQ, описания услуг, условия, статьи — я нарезаю на небольшие фрагменты по 200–500 слов. Каждый кусок должен быть самодостаточным, чтобы модель поняла его без соседних.
2. Превращаем каждый кусок в вектор (эмбеддинг). Специальная модель переводит текст в длинный список чисел — координаты смысла. Тексты про «возврат денег» и «как вернуть оплату» получают близкие координаты, хотя слова разные.
3. Складываем векторы в базу. Я использую Postgres с расширением pgvector. Это обычная база данных, которая умеет быстро искать ближайшие по смыслу векторы. Не нужен отдельный дорогой сервис, всё живёт в одной базе рядом с остальными данными сайта.
4. Вопрос клиента тоже превращаем в вектор и ищем в базе фрагменты с самыми близкими координатами. Это и есть retrieval: вернулись 3–4 куска, максимально релевантных вопросу.
5. Отдаём вопрос и фрагменты модели. Claude получает инструкцию: ответь на вопрос, используя только этот контекст; если ответа в нём нет — честно скажи. На выходе: ответ по вашим данным.

Почему поиск по смыслу так важен. Клиент напишет «а если передумаю», а в вашем FAQ пункт называется «Условия возврата предоплаты». По ключевым словам совпадения ноль. По векторам: прямое попадание. Именно поэтому RAG обходит старые боты на кнопках и на поиске по точным фразам.

Чем RAG-бот отличается от обычного чат-бота и от квиза

Три инструмента часто путают, а решают они разные задачи. Я почти всегда сначала выясняю, что клиенту реально нужно. Иногда вместо дорогого AI-бота хватает детерминированного квиза с уходом заявки в Telegram, и это честнее по деньгам.

Практический вывод. Если у вас 5 стандартных вопросов и цель — записать на консультацию, квиз дешевле и надёжнее. Если у вас десятки страниц условий, тарифов, кейсов и клиенты задают вопросы своими словами в любое время суток, тогда оправдан RAG. А обычный GPT без вашей базы на коммерческом сайте я ставить не советую: слишком велик риск красивой дезинформации.

Где RAG-бот ошибается и как это лечить

RAG сильно снижает выдумки, но не убирает их до нуля. Вот где я вижу сбои чаще всего и что с этим делаю.

Плохо нарезанная база знаний

Если документ порезан криво (половина ответа в одном фрагменте, половина в другом), бот вернёт неполный кусок и ответит наполовину. Лечится нарезкой по смысловым блокам, а не по количеству символов, и небольшим перекрытием между кусками.

Нужного фрагмента просто нет в базе

Если про рассрочку в ваших документах ничего нет, честный RAG так и ответит: «не нашёл информации». Плохо настроенный бот додумает. Я всегда прописываю в инструкцию модели правило: нет в контексте — не выдумывай, предложи связаться с менеджером.

Слишком общий или двусмысленный вопрос

«Сколько стоит?» без уточнения услуги вернёт нерелевантные фрагменты. Здесь помогает переспрос: бот уточняет, о чём именно речь, прежде чем искать.

Устаревший контент в базе

Плюс RAG в том, что чинится это за минуту: правится документ-источник, а не код. Но кто-то должен следить за актуальностью базы. Это часть поддержки, а не «поставил и забыл».

Передача диалога в Telegram: когда бот зовёт менеджера

Хороший ассистент знает свои границы. Передачу диалога вам в Telegram подключаю, если она нужна вашему бизнесу. Срабатывает он в трёх случаях: бот не нашёл ответа в базе, клиент прямо просит менеджера, или разговор дошёл до денег и договорённостей.

Технически это просто. В момент передачи бот собирает контекст диалога, что спрашивал клиент, что отвечал бот, контакты, и отправляет карточку в Telegram-чат менеджера через Bot API. Менеджер видит всю переписку и подхватывает разговор, не переспрашивая с нуля. Клиент не чувствует шва.

Бот закрывает типовые вопросы сам и работает круглосуточно, а сложные и горячие обращения передаёт менеджеру, чтобы лид не потерялся. Так бот не теряет людей, готовых купить.

Так же устроен квиз на сайте Nexora Legal: заявка сразу приходит в Telegram. RAG-ассистент отличается тем, что до передачи ведёт осмысленный диалог, а не гонит по фиксированным веткам.

Сколько данных нужно, чтобы бот заработал

Частый страх: «у меня нет большой базы знаний». На старте достаточно того, что уже написано на сайте и в переписке с клиентами. Обычно я собираю базу из четырёх источников: страницы услуг, раздел FAQ, условия и оферта, реальные вопросы из чатов и почты за пару месяцев. Последнее — самое ценное: живые формулировки клиентов показывают, о чём они спрашивают на самом деле.

Для старта обычно хватает нескольких десятков хорошо написанных фрагментов. Дальше база растёт: каждый вопрос, на который бот не ответил, становится кандидатом в новый фрагмент.

Как я строю RAG-ассистента: этапы

1. Собираю базу знаний. Выгружаю ваш контент, чищу, нарезаю на смысловые фрагменты.
2. Строю индекс. Считаю эмбеддинги, заливаю в Postgres с pgvector.
3. Настраиваю модель. Пишу системную инструкцию для Claude: тон, границы, правило «не выдумывай», сценарий передачи диалога.
4. Ставлю виджет на сайт. Лёгкий чат в углу страницы, он не замедляет загрузку.
5. Подключаю передачу диалога в Telegram. Настраиваю передачу горячих диалогов менеджеру.
6. Тестирую на реальных вопросах и докручиваю нарезку и инструкцию по слабым местам.

Если вам ближе цифры и бюджет, посмотрите разбор сколько стоит AI-чат-бот для сайта — там я раскладываю ценник по этапам. А если сомневаетесь, нужен ли бот, начните с квиза: он часто окупается быстрее.

Стоит ли ставить RAG-бота вашему бизнесу

Коротко: да, если у вас много контента и повторяющиеся вопросы клиентов, которые сейчас разгребает менеджер вручную. Нет, если у вас две услуги и три вопроса. Тогда хватит квиза или простой формы.

Бота собираю под ваши данные сам. Если хотите обсудить, подойдёт ли RAG именно вам, напишите мне в Telegram или WhatsApp, посмотрим на ваш контент и прикинем, что даст больше отдачи: полноценный ассистент или квиз. Другие проекты: в разделе кейсов.

Частые вопросы

Чем RAG-бот отличается от обычного бота на ChatGPT?

Обычный бот отвечает по памяти модели и легко выдумывает факты про ваш бизнес. RAG-бот перед ответом ищет нужный фрагмент в вашей базе знаний и отвечает строго по нему. Поэтому он ссылается на ваши реальные условия и тарифы, а не на «в целом по интернету», и ошибается заметно реже.

Нужен ли программист, чтобы поставить RAG-бота?

Да, самостоятельно собрать связку из базы знаний, поиска по смыслу, модели, виджета и передачи диалога без разработчика сложно. Конструкторы дают упрощённые версии, но качество поиска и контроль над выдумками там слабее. Я настраиваю всё сам: от разбора документов до передачи диалога в Telegram.

Сколько данных нужно, чтобы бот отвечал по делу?

Для старта хватит того, что уже есть: страниц услуг, FAQ, оферты и вопросов клиентов из чатов за пару месяцев. Обычно хватает нескольких десятков хорошо написанных фрагментов. База растёт постепенно: каждый вопрос без ответа становится кандидатом в новый фрагмент.

Может ли RAG-бот всё равно выдумать ответ?

Риск снижается сильно, но не до нуля. Если нужного фрагмента нет в базе или вопрос двусмысленный, плохо настроенный бот может додумать. Я прописываю в инструкции правило «нет в контексте — не выдумывай, предложи менеджера» и подключаю передачу диалога в Telegram, так что спорные случаи уходят живому человеку, а не превращаются в дезинформацию.

Что лучше для сайта: RAG-бот или квиз?

Зависит от задачи. Если цель: собрать заявку за 3–5 шагов и вопросов немного, дешевле и надёжнее квиз. Если у вас десятки страниц контента и клиенты задают вопросы своими словами круглосуточно, оправдан RAG-бот. Часто разумно начать с квиза, а RAG добавить, когда поток вопросов вырастет.