ИИ-ассистент по базе знаний компании (RAG)

Референсное решение: типовая задача, которую мы закрываем RAG-ассистентом. Ниже — архитектура, стек и параметры такого внедрения, а не отчёт по конкретному заказчику.

Знания компании есть, но найти их невозможно. Регламенты лежат в папках на диске, инструкции — в Wiki, условия по клиентам — в 1С и CRM, а половина ответов вообще живёт в голове у двух опытных сотрудников.

Что болит у бизнеса:

• Новичок выходит на рабочий темп месяцами и постоянно дёргает коллег
• Поддержка отвечает по памяти — и по-разному в разных сменах
• Актуальную версию документа приходится искать среди пяти похожих
• Публичные нейросети не помогают: они не знают ваших правил и уверенно выдумывают ответ

Задача: сделать ассистента, который отвечает строго по документам компании, показывает, откуда взял ответ, честно говорит «не знаю» вместо выдумки — и при этом не выносит документы за пределы компании.

Ключ к точности — не «умная модель», а правильно построенный поиск по вашим документам. Модель только формулирует ответ по найденным фрагментам.

Как это устроено:

1. Коннекторы к источникам — сетевые папки, Google Drive и Яндекс Диск, Confluence и Wiki, сайт, 1С и CRM. Индекс обновляется по расписанию, новые версии документов подхватываются автоматически.
2. Разбор документов — PDF, DOCX, XLSX, презентации и сканы; для сканов и фото подключаем OCR. Документ режется на фрагменты с сохранением структуры — заголовков, таблиц, пунктов регламента.
3. Гибридный поиск — связка полнотекстового поиска (BM25) и векторного по эмбеддингам, сверху реранкер. Это заметно точнее, чем «просто векторная база», особенно на номерах пунктов, артикулах и терминах компании.
4. Генерация ответа — LLM получает только найденные фрагменты и инструкцию отвечать строго по ним, с обязательными цитатами. Дообучение модели не требуется — знания живут в индексе и обновляются вместе с документами.
5. Контроль качества — собираем набор эталонных вопросов с правильными ответами и прогоняем его при каждом изменении промптов или модели: видно, стало точнее или хуже.
6. Стек — Python/Django, PostgreSQL + pgvector или Qdrant, LLM через API (GPT, Claude, YandexGPT, GigaChat) либо локальная модель (Qwen, Llama) на вашем сервере — тогда ни один документ не покидает контур компании.