Чат с документами — это ещё не поиск
Когда вендор говорит «мы подключили ваши документы к ИИ», речь обычно идёт о пайплайне retrieval-augmented generation, сокращённо RAG. Документы нарезаются на фрагменты, каждый превращается в векторное представление, по запросу система находит похожие фрагменты и подаёт их модели как контекст. Формально это и есть поиск по документам.
Но Gartner относит такой продукт не к поиску, а к классу ассистентов. В аналитическом релизе об агентном ИИ прямо сказано: ассистенты «упрощают задачи и взаимодействие для пользователей, но зависят от ввода человека и не действуют самостоятельно», а самый распространённый маркетинговый приём — называть таких ассистентов агентами, что получило название «agentwashing». Чат с документами отвечает, но не выполняет задачу от начала до конца и не гарантирует, что ответ опирается на конкретный проверяемый документ.
Из этого следует практический вывод: «чат с документами» и «корпоративный поиск» — разные классы систем, и метрика для них разная. Ассистент оценивается по удобству диалога, поиск — по тому, возвращает ли он нужный факт из нужного документа с соблюдением прав доступа.
Под капотом RAG: почему галлюцинации не исчезают сами
Главное обещание RAG — избавить модель от галлюцинаций, заставив отвечать по найденному контексту. Академические обзоры формулируют это осторожнее. По одной из работ, «галлюцинации могут быть смягчены до некоторой степени», и формулировка «до некоторой степени» здесь принципиальна: полного устранения ошибок не обещает ни один серьёзный источник.
Скептики идут дальше. Обзор, посвящённый надёжности RAG, прямо утверждает: «несмотря на успех и потенциал RAG, недавние исследования показали, что парадигма RAG также вносит новые риски», включая предвзятость при извлечении, шум в выборке и утечки данных. Ошибки накапливаются по стадиям конвейера: если на этапе поиска выбран не тот фрагмент, модель уверенно ответит по нему, и ответ будет гладким и неправильным одновременно.
Цена такой ошибки больше не теоретическая. Российская деловая пресса фиксирует: штрафы за галлюцинации нейросетей в судах мира превысили 1,6 млн долларов, а в базе учёных числится 298 денежных взысканий за ссылки на вымышленные прецеденты. Для юриста или сотрудника, который опирается на регламент, это не «особенность технологии», а риск для компании.
Парадигма RAG также вносит новые риски, включая проблемы устойчивости, вопросы приватности, атакующие воздействия и проблемы подотчётности.
arXiv, обзор «Towards Trustworthy RAG for LLMs»
Что отличает настоящий корпоративный поиск
Разница между чатом с RAG и корпоративным поиском видна, если сравнить, из чего собран каждый. Ниже — сопоставление по ключевым элементам.
| Элемент | Чат с документами (голый RAG) | Корпоративный поиск |
|---|---|---|
| Поиск по базе | Семантический по эмбеддингам | Гибридный: лексический и семантический |
| Ранжирование | По похожести векторов | Повторное ранжирование релевантности |
| Права доступа | Часто игнорируются | Учитываются ещё на индексации |
| Цитирование и версии | Опционально | Обязательно: факт из конкретного документа |
| Галлюцинации | Смягчены, но возможны | Контролируются проверкой и ограничением генерации |
Исследовательские работы подчёркивают, что «нет золотого правила» для размера фрагмента, а компромисс между скоростью и качеством поиска — главная задача модуля извлечения. На практике качество достигается гибридным сочетанием лексических и семантических методов и повторным ранжированием результатов, о чём подробно пишут инженеры в разборах собственных систем.
Ключевое различие формулирует Stanford в отчёте об индексе ИИ: стандартные пайплайны RAG «извлекают отдельные фрагменты текста по похожести запроса и могут испытывать трудности, когда вопрос требует синтеза информации из нескольких документов». Корпоративный вопрос «какие условия действуют для этого клиента в этом году» почти всегда требует такого синтеза, и голый чат тут проигрывает.
Права доступа: где именно ломается «просто чат»
Самая дорогая ошибка при внедрении чата с документами — забыть про права доступа. Аналитический обзор Gartner по рынку корпоративного ИИ-поиска прямо указывает: обработка безопасности должна «извлекать и разрешать исходные права информации (списки контроля доступа)» ещё на этапе индексации. То есть доступ проверяется не после ответа, а до того, как документ попал в индекс.
Исследование рисков RAG подтверждает опасность: интеграция внешних баз «вводит дополнительные каналы утечки», и приватные данные могут выйти наружу как из самой базы, так и из обучающих данных модели. Если чат проиндексировал весь файловый сервер без учёта прав, вопрос формулируется иначе: не «найдёт ли он нужное», а «кому он это покажет», и для российского контрагента добавляется регуляторное измерение — локализация персональных данных и ответственность за их передачу вовне.
Российский контекст: контур, 152-ФЗ и верифицированные данные
Российская практика сходится с академической картиной, но добавляет специфику. Финансовые компании, которым по определению нельзя выносить данные наружу, строят собственный периметр. В открытом разборе от «ЮMoney» прямо говорится: «мы не можем передавать конфиденциальные данные внешним сервисам», поэтому собственная платформа дала контроль над источниками, индексацией и выбором моделей, а чувствительные данные обрабатываются локальными моделями внутри защищённого контура.
Ценность корпоративного ИИ — не в универсальном чат-боте, а в глубокой интеграции с внутренними данными, процессами и инструментами компании.
ЮMoney, разбор внутреннего ИИ-помощника на базе RAG
Отдельная тема — качество самих данных, по которым ищет система. Российские юристы, столкнувшись с галлюцинациями в судебной практике, переходят к саморегулированию через локальные нормативные акты и к продуктам, обученным на верифицированных юридических данных, а не на свободной генерации. Это повторяет общий мировой тренд: Stanford называет суверенитет и контроль над ИИ-инфраструктурой «определяющей чертой национальной политики».
Для руководителя из России выбор «чат с документами или корпоративный поиск» — это ещё и выбор архитектуры: доверить вопрос внешней модели или строить ответ в собственном контуре на проверенных данных. Одно из решений — выбор моделей и контура, другое — проработка сценариев доступа к документам по ролям.
Как понять, что вам нужен поиск, а не чат
Прежде чем оплачивать «подключение документов», руководителю стоит пройти короткую проверку. Если хотя бы на часть вопросов ответ «да», разговор надо вести о корпоративном поиске, а не о чате.
- Сотрудники должны ссылаться на конкретный документ, версию и абзац, а не получать пересказ.
- Доступ к документам различается по ролям и подразделениям, и это нужно соблюдать в ответах.
- Вопросы требуют сведения фактов из нескольких документов, а не ответа по одному фрагменту.
- Заблокировать неверный ответ компании важнее, чем скорость выдачи.
Итоговая метрика успеха проста и проверяема: система возвращает факт из конкретного документа, с проверяемым источником и учётом прав пользователя. Всё остальное — ассистент, полезный, но не корпоративный поиск. Если задача именно такая, есть смысл смотреть на возможности построения поиска по собственной базе, а не на очередной чат поверх общего индекса.
Прагматичный путь — начать с пилота на узкой базе, измерить, находит ли система нужный факт с первого раза и как часто даёт уверенный, но неверный ответ, а уже потом масштабировать. Такой сценарий подробнее описан в сценариях применения, но решение о том, что считать успехом, компания принимает до внедрения, а не после.
Частые вопросы
Чем поиск по документам отличается от чата с ИИ?
Чат формирует ответ на основе похожих фрагментов и может обобщать. Поиск по документам возвращает факт из конкретного документа: с гибридной выдачей, повторным ранжированием, версией и учётом прав доступа.
Почему RAG не убирает галлюцинации полностью?
RAG смягчает галлюцинации, подавая модели нужный контекст, но сам вносит риски: предвзятость извлечения, шум и утечки. Ответ остаётся генерацией, а не доказанным фактом, пока система не цитирует источник.
Что такое права доступа в корпоративном ИИ-поиске?
Это учёт списков контроля доступа (ACL) ещё на этапе индексации: пользователь видит в ответе только те документы, к которым у него есть права. Без этого индекс превращается в инструмент утечки.
Источники
- Towards Trustworthy Retrieval Augmented Generation for Large Language Models — arXiv, обращение 2026-09-19
- Retrieval-Augmented Generation for Natural Language Processing: A Survey — arXiv, обращение 2026-09-19
- The 2026 AI Index Report — Stanford HAI, обращение 2026-09-19
- Gartner Predicts 40% of Enterprise Apps Will Feature Task-Specific AI Agents by 2026 — Gartner, обращение 2026-09-19
- Enterprise AI Search Reviews and Ratings — Gartner, обращение 2026-09-19
- Прецедент или галлюцинация — Коммерсантъ, обращение 2026-09-19
- Как мы создали внутреннего ИИ-помощника на базе RAG — Хабр, блог ЮMoney, обращение 2026-09-19