Что нужно было сделать
Референсное решение: типовая задача, которую мы закрываем RAG-ассистентом. Ниже — архитектура, стек и параметры такого внедрения, а не отчёт по конкретному заказчику.
Знания компании есть, но найти их невозможно. Регламенты лежат в папках на диске, инструкции — в Wiki, условия по клиентам — в 1С и CRM, а половина ответов вообще живёт в голове у двух опытных сотрудников.
Что болит у бизнеса:
- Новичок выходит на рабочий темп месяцами и постоянно дёргает коллег
- Поддержка отвечает по памяти — и по-разному в разных сменах
- Актуальную версию документа приходится искать среди пяти похожих
- Публичные нейросети не помогают: они не знают ваших правил и уверенно выдумывают ответ
Задача: сделать ассистента, который отвечает строго по документам компании, показывает, откуда взял ответ, честно говорит «не знаю» вместо выдумки — и при этом не выносит документы за пределы компании.
Как мы это видим
Спроектировали чат по базе знаний в привычных сотруднику интерфейсах: веб-кабинет, Telegram или виджет внутри вашей системы.
Что закладываем в прототип:
- Ответ + источники — под каждым ответом ссылки на документ, раздел и страницу; ответ можно проверить в один клик
- Честное «не знаю» — если в базе нет ответа, ассистент говорит об этом и предлагает, к кому обратиться
- Права доступа — сотрудник видит только то, что ему разрешено; ассистент не «протечёт» документами другого отдела
- Уточняющие вопросы — если запрос неоднозначный, ассистент переспрашивает, а не угадывает
- Внешний контур — тот же движок можно поставить на сайт или в поддержку, ограничив его публичной частью базы знаний
Как мы это строили
Ключ к точности — не «умная модель», а правильно построенный поиск по вашим документам. Модель только формулирует ответ по найденным фрагментам.
Как это устроено:
- Коннекторы к источникам — сетевые папки, Google Drive и Яндекс Диск, Confluence и Wiki, сайт, 1С и CRM. Индекс обновляется по расписанию, новые версии документов подхватываются автоматически.
- Разбор документов — PDF, DOCX, XLSX, презентации и сканы; для сканов и фото подключаем OCR. Документ режется на фрагменты с сохранением структуры — заголовков, таблиц, пунктов регламента.
- Гибридный поиск — связка полнотекстового поиска (BM25) и векторного по эмбеддингам, сверху реранкер. Это заметно точнее, чем «просто векторная база», особенно на номерах пунктов, артикулах и терминах компании.
- Генерация ответа — LLM получает только найденные фрагменты и инструкцию отвечать строго по ним, с обязательными цитатами. Дообучение модели не требуется — знания живут в индексе и обновляются вместе с документами.
- Контроль качества — собираем набор эталонных вопросов с правильными ответами и прогоняем его при каждом изменении промптов или модели: видно, стало точнее или хуже.
- Стек — Python/Django, PostgreSQL + pgvector или Qdrant, LLM через API (GPT, Claude, YandexGPT, GigaChat) либо локальная модель (Qwen, Llama) на вашем сервере — тогда ни один документ не покидает контур компании.
Что получилось
Получается корпоративный ассистент, который отвечает за секунды и которому можно доверять, потому что каждый ответ проверяем.
Что получает бизнес:
- Ответы по регламентам, договорам и инструкциям — вместо поиска по папкам и вопросов коллегам
- Ссылка на источник в каждом ответе: сотрудник видит, на чём основан вывод
- Быстрый онбординг новичков и одинаковые ответы поддержки в любую смену
- Разграничение доступа по ролям и отделам
- Вариант с локальным развёртыванием — для документов, которые нельзя отдавать во внешние сервисы
- База знаний обновляется сама: положили новый документ — ассистент уже отвечает по нему
Как идёт проект: начинаем с одного набора документов и одного отдела — пилот от 2–3 недель, замер точности на эталонных вопросах, затем расширение источников и подключение остальных команд.