Три года назад суд в Нью-Йорке впервые наказал адвокатов за ссылки на выдуманные нейросетью решения. С тех пор ошибки ИИ в процессуальных документах не исчезли, а размножились: только в США их нашли почти в 1400 делах. Россия подключилась к этой практике в 2026 году, и вывод судов совпал в одном: отвечает человек или организация, а не модель. А вот кого именно наказывать — компанию-сторону или её представителя — практика разошлась.
Ошибки ИИ в документах не исчезли через три года
Reuters 17 сентября 2026 года описал три эпизода, случившихся за три дня. В Нью-Мексико защитника отчитали за поддельные показания свидетелей полиции, поданные в дело об убийстве. В Оклахоме прокуратура признала, что приказ судьи ссылался на несуществующие дела. В Лос-Анджелесе адвоката, представлявшего State Farm, оштрафовали за неточные ссылки в семи процессуальных документах.
По данным того же материала, галлюцинации ИИ всплыли как минимум в 1395 делах в штатных и федеральных судах США. Пользоваться ИИ адвокатам не запрещено, но правила этики обязывают проверять достоверность поданных документов.
«Можно было подумать, что юридическая профессия — вооружённая знанием о том, что галлюцинации случаются, — станет внимательнее».
П. Кевин Кастель, судья федерального окружного суда в Манхэттене; Reuters, 17 сентября 2026
Глобальный срез даёт «Коммерсантъ» 9 июля 2026 года со ссылкой на базу исследователя Дамьена Шарлотена из Высшей коммерческой школы Парижа. На 5 июля в ней было 1725 дел из Австралии, Бразилии, Великобритании, США, Франции, России и других стран и 5169 некорректных ссылок.
Динамика внутри базы: 16 дел в 2023 году, 59 в 2024-м, 827 в 2025-м и уже 814 только за первое полугодие 2026-го. Чаще всего ошибаются граждане, которые ведут дело сами: 1014 инцидентов. Юристы отстают не сильно — 673 случая. Выдуманные ссылки встречаются даже в документах судей, около 20 дел.
Денежная часть: 298 взысканий, сумма которых, по подсчётам «Ъ», превышает 1,6 млн долларов. Здесь важна оговорка самого Шарлотена — большинство санкций пока просто предупреждения. И ещё одна граница: база считает выявленные случаи, а не долю ошибочных документов в общем потоке. Складывать 1725 и 1395 нельзя: судя по описанию, это две выгрузки одной и той же базы, а не два независимых подтверждения.
Российская практика: проверять достоверность «на свой риск»
3 сентября 2026 года судебная коллегия по экономическим спорам Верховного суда рассматривала дело о банкротстве, в котором отзыв представителя кредитора ссылался на пункт 15 постановления Пленума ВС от 25 декабря 2018 года № 48. Такого пункта не существует: в постановлении их четырнадцать. Об этом 9 сентября написали «Ведомости».
«Если стороны готовят свою позицию с опорой на „использование программного обеспечения“, то они делают это на „свой риск“».
определение СКЭС Верховного суда РФ; «Ведомости», 9 сентября 2026
Дальше — адресат. Верховный суд направил в первую инстанцию вопрос о наложении судебного штрафа лично на представителя кредитора. Юрист Lidings Алена Троицкая в комментарии «Ведомостям» подчёркивает: за недостоверное содержание процессуального документа отвечает не доверитель, а его представитель.
Более ранний российский эпизод — май 2026 года. Арбитражный суд Западно-Сибирского округа оштрафовал ООО «ЦСС» на 50 тыс. рублей: часть приведённых в кассационной жалобе актов не существовала, часть касалась других споров. Судья увидел в этом «прямой обман» и «грубейшее проявление неуважения к правосудию», которое «не может иметь никаких оправданий».
Институты подстраиваются. 5 сентября председатель Верховного суда Игорь Краснов сообщил, что российские суды в пилотном режиме применяют четыре разные модели ИИ, обученные на судебной практике. Недостоверные ссылки при этом разбирают отдельным заседанием: и в майском деле, и в сентябрьском штраф стал самостоятельным эпизодом, а не приложением к основному спору.
Оценки экспертов расходятся, и это расхождение полезно знать заранее. Вице-президент гильдии российских адвокатов Елена Авакян считает наказание в деле ЦСС негативным: за неаккуратное отношение к достоверности ссылок наказывать нельзя. Профессор МГЮА Алексей Ефремов и Владислав Архипов, наоборот, со штрафом согласны: текст с несуществующей практикой — это фальсификация источников. Третий риск называет Вадим Виноградов: ложная ссылка может попасть в судебное решение, оттуда — в справочно-правовые базы, и ошибка начнёт воспроизводиться.
На кого ложится штраф: практика разошлась
Если свести эпизоды в одну картину, видно, что вопрос «кто виноват» суды решают по-разному. Разница не в сумме, а в том, на кого санкция оформлена.
| Эпизод | Что оказалось недостоверным | Кто ответил |
|---|---|---|
| АС Западно-Сибирского округа, май 2026 | Ссылки на несуществующие акты в кассационной жалобе | Штраф 50 тыс. ₽ на компанию-сторону |
| СКЭС Верховного суда РФ, 3 сентября 2026 | Ссылка на несуществующий пункт постановления Пленума | Вопрос о штрафе направлен лично представителю |
| Апелляционный суд 6-го округа США, март 2026 | Несуществующие прецеденты в жалобе | По 15 тыс. долларов каждому из двух адвокатов |
| Суд в Калифорнии, сентябрь 2026 | Неточные ссылки и цитаты в семи документах | 999,99 доллара с адвоката, представлявшего State Farm |
Практический вывод простой: ссылка на исполнителя от штрафа не спасает. В майском деле представитель компании прямо признал, что практику для жалобы подобрал ИИ, — и это не помогло: штраф получила компания. В сентябрьском деле Верховный суд, наоборот, адресовал вопрос о штрафе лично представителю. Значит, компания не может заранее рассчитывать, что риск останется у юриста или у подрядчика, — как и наоборот.
Обратная сторона той же логики: если ответственность следует за контролем, то и защита строится на контроле. Компания, которая может показать, кто проверял документ и по какому правилу, находится в другом положении, чем та, у которой нет ни правила, ни записи.
Почему договор с вендором не закрывает риск
Расчёт на то, что убытки уйдут поставщику модели, разбирают авторы Reuters 9 сентября 2026 года. Их аргумент: ни одна сторона не контролирует весь стек. Вендор делает базовую модель, интегратор дообучает и встраивает её в продукт, а пользователь определяет, как система применяется. Ответственность распределена между несколькими участниками.
Отсюда разрыв, который стоит проверить в своём договоре. Ответственность возникает внизу стека, а права на возмещение согласуют наверху: заказчик обещает защиту своим клиентам, не разобравшись в ограничениях защиты, которую даёт вендор модели. Получается договорная дыра — ответственность есть, а покрытия под неё нет.
Исключения усиливают проблему. Многие вендоры исключают претензии, связанные с модификациями, сочетанием с чужими технологиями, данными заказчика. Авторы Reuters предупреждают, что такие исключения пересекаются с обычным внедрением, а не с экзотическим злоупотреблением. Отдельная сложность — вероятностный характер моделей: определить, ошибка пришла от модели, реализации, промпта или данных, само по себе становится спорным вопросом.
Что говорят регуляторы, тоже показательно. Глава Федеральной торговой комиссии США Эндрю Фергюсон 25 сентября отказался описывать ИИ-агентов как самостоятельных акторов: если инструменту дали задание и он его выполнил, отвечает тот, кто дал задание. Разбор журналов, по его словам, показывал, что системы выполняли полученные инструкции. Закон Калифорнии AB 316 прямо запрещает защиту «виновата сама технология».
Свежий пример из практики. В апреле 2026 года американский судья оштрафовал руководителя юридической фирмы за недостаточный контроль работы младшего юриста: в поданном документе оказалась ложная ссылка. Фирма пользовалась профессиональным ИИ-помощником CoCounsel, и продавец уверял, что галлюцинации исключены. Штраф 1001 доллар плюс обязательное обучение — гарантия вендора от ответственности не спасла. Поэтому выбор модели стоит рассматривать вместе с договором, а не отдельно от него.
Что закрепить до инцидента
Российские юристы уже реагируют: по наблюдениям «Ъ», компании вводят саморегулирование через локальные нормативные акты, и здесь лидируют инхаусы крупных корпораций. Что имеет смысл зафиксировать до первого разбора:
- Регламент использования ИИ: разрешённые сервисы и задачи, запрет на передачу персональных данных и коммерческой тайны, обязательная проверка результата.
- Матрица ролей: кто владелец системы, кто проверяющий, кто утверждает документ с последствиями.
- Восстанавливаемая цепочка по каждому значимому действию: кто дал полномочия, от чьего имени действовал агент, кто должен был проверить результат, в каком состоянии была система в момент инцидента.
- Отдельный порядок для юридически значимых документов: ссылки, реквизиты, суммы и сроки проверяет человек, а результат ИИ считается черновиком.
- Правило времени: «двадцать минут на генерацию, три часа на перепроверку» — рекомендация Елены Авакян, и она честнее любой декларации о качестве.
- Договорная работа с поставщиками: границы ответственности, право на аудит и журналы, уведомление о смене версии модели.
Отдельно стоит проговорить, чего эти меры не делают. Они не отменяют ответственность и не заменяют проверку — они дают компании возможность объяснить и доказать, как принималось решение. Разная глубина контроля нужна и разным задачам: внутренний черновик и договор, уходящий контрагенту, — не одно и то же, и сценарии применения удобно разложить именно по этому признаку.
Что это значит для решения о внедрении
Ждать отдельного закона об ответственности за ИИ не стоит. Статья 11 закона № 243-ФЗ сформулирована отсылочно: участники отношений несут ответственность по законодательству РФ, то есть готовой матрицы «агент сделал X — отвечает Y» в законе нет. Основные положения вступили в силу 1 сентября 2026 года, а наиболее содержательные, включая обязанности разработчиков и маркировку, — только 1 марта 2027 года.
Значит, последствия собираются из того, что уже есть: действующих норм, договоров, внутренних ролей, процессуальных правил и способности компании доказать свою версию событий. Это неприятная новость для тех, кто ждал ясности, и хорошая для тех, кто готовит регламент заранее. Цена вопроса — несколько документов и часов работы юриста; цена инцидента измеряется в другом масштабе.
Если решение о внедрении уже принято, начинать разумно с инвентаризации: какие системы работают, какие документы они готовят, кто их подписывает и что остаётся в журналах. И дальше возможности конкретной системы оценивать не по демонстрации, а по тому, оставляет ли она след, пригодный для разбора через полгода.
Разница между компаниями в 2026 году не в том, пользуются ли они ИИ, — пользуются почти все. Разница в том, что остаётся в журналах после того, как модель ошиблась и документ ушёл адресату.
Частые вопросы
Если ошибку допустила нейросеть, кто отвечает перед контрагентом?
Тот, кто использовал технологию и подписал документ. В майском деле Арбитражного суда Западно-Сибирского округа объяснение, что ссылки подобрал ИИ, штраф не отменило: 50 тыс. рублей получила компания-сторона.
Можно ли переложить риск на разработчика модели?
Рассчитывать на это не стоит. Вендорские соглашения ограничивают ответственность и исключают претензии за модификации, сочетание с другими технологиями и данные заказчика, а такие исключения пересекаются с обычным внедрением.
Что нужно фиксировать, чтобы доказать добросовестность?
Восстанавливаемую цепочку: кто дал агенту полномочия, от чьего имени он действовал, кто проверял результат и в каком состоянии была система в момент инцидента.
Источники
- Прецедент или галлюцинация — Коммерсантъ, 9 июля 2026 г.
- AI error-ridden court filings surge despite three years of court sanctions — Reuters, 17 сентября 2026 г.
- Who is liable when AI goes rogue? Lawyers see new risks — Reuters, 7 августа 2026 г.
- FTC chair suggests AI developers should be liable for conduct of agents — Reuters, 25 сентября 2026 г.
- The hidden limits of AI indemnification — Reuters, 9 сентября 2026 г.
- Верховный суд рекомендовал адвокатам проверять документы после использования ИИ — Ведомости, 9 сентября 2026 г.
- Кто отвечает за ИИ-агента: юридический контур цифрового сотрудника — Habr / ГК ЛАНИТ, 29 сентября 2026 г.