От клиентских данных до чат-ботов: юристы отвечают на вопросы о нейросетях

Начать стоит с аудита сценариев. Компания должна понять, какую роль она выполняет в каждом из них: разрабатывает или дообучает модель, эксплуатирует систему, владеет сервисом или просто пользуется готовым инструментом.

Роли могут совмещаться. Но чем сложнее архитектура — например, базовая модель одного поставщика, обертка другого и интеграция третьего, — тем важнее их разграничить. От роли зависят права, обязанности и объем ответственности

Исключительные права на оригинальные произведения и другие объекты интеллектуальных прав при обучении модели остаются за их первоначальными правообладателями. Значит, генерация контента также может повлечь риск нарушения прав третьих лиц. Еще стоит задуматься над правовой квалификацией внедряемого инструмента (модель, система, сервис), оценкой будущих требований, конфиденциальностью и защитой персональных данных.

Следующий шаг — подготовка договоров и внутренних регламентов. В договоре нужно распределить роли и ответственность, зафиксировать качество сервиса, скорость и доступность, порядок обновлений и отката версий, условия обработки персональных данных, права на результаты генерации и помощь при инцидентах.

Внутри компании стоит подготовить регламенты с учетом ее роли — оператора системы, владельца сервиса или пользователя. Эти документы помогут подтвердить, что компания приняла «исчерпывающие меры» для предотвращения вреда. Согласно законопроекту о регулировании искусственного интеллекта, это может стать условием освобождения от ответственности.

Первый шаг — не выбор инструмента, а определение задачи. Компания должна понять, какую функцию она автоматизирует и где проходят границы этой автоматизации. Только после этого можно искать подходящее решение.

Legal Tech-инструменты отличаются сложностью. Одни юрист может использовать без технической помощи. Другие требуют настройки конфигурации, но все еще работают без программистов. Третьи предполагают участие IT-специалистов. Для большинства юридических задач подходят инструменты без программирования. Юрист управляет ими через интерфейс: меняет шаблоны, правила согласования и справочники. Если выбрать решение, которое требует сложной настройки или кода, компания рискует попасть в ежедневную зависимость от технических специалистов.

Некоторые компании для безопасной работы с LegalTech предпочитают не облачные решения, а модели, развернутые на собственных серверах. Учет этих ограничений на входе требует участия IT-специалистов, чтобы встроить решение в вашу информационную инфраструктуру с соблюдением законодательства. Но это скорее разовая история, а не постоянная поддержка.

На рынке LegalTech часть стартапов выдает обертки к общедоступным ИИ-продуктам за ноу-хау. Поэтому к выбору Legal Tech-продуктов стоит относиться скептически: проверять, что именно делает инструмент, где он обрабатывает данные и насколько компания зависит от внешней модели.

Просто юристу пытаться стать LegalTech Engineer не имеет смысла, поскольку это отдельная специализация. Хочется верить, что даже в небольших юрфирмах есть понимание, что выбор и интеграция LegalTech-решений — это не сфера профессиональной компетенции юриста.

Эксперт дает такие советы:

не пытаться отрицать неизбежное — все более тесную связь юридической профессии и LegalTech-продуктов, в частности ИИ;

не забывать, что основа профессии — это по-прежнему человек и его навыки;

быть прозрачным с клиентами и коллегами при использовании LegalTech-продуктов;

не забывать о рисках, связанных с раскрытием конфиденциальной информации. 

Для погружения в тему он рекомендует ресурсы по промпт-инжинирингу для юристов, материалы Microsoft & Singapore Academy of Law, Centre for Legal Innovation, Google и Gemini, методическое пособие O2 Consulting по базовому промптингу, а также книги Ричарда Сасскинда, Итана Моллика, Ника Бострома, Ноа Вайсберга, Александра Худека и Рэя Курцвейла.

Внедрение ИИ не столько усложняет, сколько трансформирует подготовку начинающих специалистов. Нейросети сильно влияют, во-первых, на инструментарий юриста и, во-вторых, на требования к профессии. При этом никто не знает, как именно ИИ изменит юриспруденцию в долгосрочной перспективе. Тем не менее юридическая профессия существовала за тысячи лет до распространения электричества и интернета, без которых современный мир так же невозможно представить, как скоро будет невозможно представить без ИИ.

В настоящее время мы нанимаем столько же молодых специалистов, как и раньше, и сами растим их. В горизонте 2–5 лет это вряд ли изменится. Начинающим юристам легче усваивать работу с ИИ, искать информацию, составлять документы, обобщать анализ. Но, с другой стороны, это требует от них и новых навыков, в частности работы с IT-системами и проверки результатов за ИИ.

Скорее всего, распространение нейросетей приведет к повышению важности soft skills в работе юриста, потому что hard skills у искусственного интеллекта точно будут выше, чем у человека. А значит, молодых сотрудников надо учить не столько праву, сколько работе со сложными системами и искусству коммуникации. Пока уход партнеров никто не отменял, и без замены старых специалистов на более приспособленных к меняющимся условиям не обойтись.

Загружая проект договора во внешний чат-бот, юрист де-факто раскрывает информацию провайдеру модели, его сотрудникам с доступом к логам и потенциально его субподрядчикам. Это нарушает режим коммерческой тайны и договорные обязательства о конфиденциальности. Типовые NDA обычно считают раскрытием любую передачу информации третьему лицу. Для адвокатов действует отдельное ограничение: закон «Об адвокатской деятельности» запрещает раскрывать информацию доверителя третьим лицам.

Для клиентов из финансового сектора, субъектов критической информационной инфраструктуры, госкомпаний и стратегических предприятий риск выше. В их отношении могут действовать отраслевые запреты и ограничения на использование иностранных облачных сервисов. В таком случае загрузка документа в зарубежную модель нарушит не только закон о персональных данных, но и специальное регулирование, причем последствия могут наступить уже для клиента.

Если документ содержит персональные данные, загрузка в зарубежную нейросеть считается трансграничной передачей. А об этом оператор должен уведомить Роскомнадзор по ст. 12 закона «О персональных данных» еще до передачи. За нарушение требования возможен штраф по ст. 13.11 КоАП: для юрлиц — от 300 000 до 700 000 руб. при первичном нарушении, а в отдельных случаях — 1–3% годовой выручки, то есть от 20 до 500 млн руб.

Есть и уголовные риски. Юриста могут привлечь за незаконное разглашение коммерческой, налоговой или банковской тайны, если эти сведения доверили ему по работе. Разглашение сведений о частной жизни без согласия человека образует отдельный состав.

Важно различать версию нейросети для потребителей и корпоративный тариф. Если юрист использует корпоративный план и заключил с провайдером договор об обработке данных, провайдер будет действовать как обработчик по поручению, а не как независимое третье лицо. При корректно выстроенном договоре режим тайны сохраняется.

Данные могут попасть в открытый доступ несколькими способами. Самый очевидный — включение пользовательских промптов в обучающую выборку, что по умолчанию допустимо в бесплатных и массовых версиях нейросетей. Так, в 2023 году Samsung столкнулась с утечкой после того, как инженеры загрузили фрагменты исходного кода в ChatGPT.

Утечки возможны и на стороне провайдера. В марте 2023 года баг в Redis-клиенте OpenAI позволил части пользователей видеть заголовки чужих разговоров и фрагменты платежных реквизитов. В январе 2025 года исследователи Wiz обнаружили открытую базу ClickHouse китайского DeepSeek: около миллиона записей логов, историю чатов, API-ключи и внутренние данные чат-бота.

Еще один риск — атаки на извлечение обучающих данных. В 2023 году исследователи Google DeepMind показали, что специально сконструированные запросы могут вытягивать из коммерческих моделей фрагменты обучающей выборки. Это не гипотетический риск, а воспроизведенный научный результат.

Отдельно стоит учитывать промпт-инъекции. Это вредоносные инструкции, скрытые в документе из недоверенного источника. Они могут заставить модель выполнить команды злоумышленника, например раскрыть содержимое предыдущих чатов или выгрузить документы через подключенные инструменты.

Не стоит забывать о запросах правоохранительных органов, в ответ на которые, к примеру, документы по сделке против иностранного контрагента могут быть изъяты и прочитаны в его же юрисдикции. Важно учитывать также человеческий фактор. Если у компании есть процедура ревью для выявления и контроля небезопасного контента, значит, ваш промпт может увидеть живой сотрудник и использовать в своих интересах.

Удаление диалога в интерфейсе не означает удаление данных у провайдера. Многие сервисы хранят логи минимум 30 дней, а при расследовании инцидентов — дольше. Если сведения уже оказались в обучающей базе, удалить конкретный документ или факт с гарантированным результатом практически невозможно. Поэтому рабочее правило одно: клиентские данные изначально не должны попадать в открытые нейросети.

Можно, но сначала нужно понять, действительно ли такие сведения нужны для дообучения. Часто цели можно достичь на качественных синтетических данных, приближенных к реальным. Это снижает расходы на комплаенс и уменьшает риск нарушения закона «О персональных данных». Если без реальных данных не обойтись, компании нужно заранее получить правовое основание для их обработки. Иногда дообучение на таких данных вообще невозможно, если нет нужного разрешения.

Когда все же важны реальные клиентские данные, ключевое и самое сложное — найти и внедрить корректное правовое основание для их обработки. Это могут быть как данные, не прошедшие процедуру обезличивания, так и обезличенные.

Для обучения на персональных данных без обезличивания критично найти оптимальное правовое основание. Им может быть стандартное согласие — ст. 9 закона «О персональных данных», но это далеко не самый комфортный инструмент для бизнеса.

Распространен миф, что обезличенные данные уже не считаются персональными. Но они сохраняют свой статус, а значит, к ним применяются требования закона «О персональных данных».

Да, если компания использует только законно размещенные открытые сведения. Ответственность по ст. 183 УК наступает за незаконный сбор информации, которая составляет коммерческую тайну. Данные на сайте конкурента или в прайс-листах обычно не отвечают этому критерию, потому что к ним есть свободный доступ. Поэтому сбор таких сведений сам по себе не образует промышленного шпионажа. Но остаются риски в сфере авторского и смежного права.

Если при обучении нейросеть копирует чужие объекты авторского права в свою базу и позже обращается к ним, это могут квалифицировать как незаконное воспроизведение. При других технологиях, когда модель не хранит данные, а только учится на них, нарушения авторского права может не быть.

Есть и еще один риск. Если было массовое извлечение данных и создание продуктов, конкурирующих с исходным сервисом, такие действия могут быть квалифицированы как недобросовестная конкуренция.

Для общих категорий персональных данных — Ф. И. О., возраста или номера телефона — специальных требований к согласию нет. Если компания обрабатывает специальные категории сведений, например о политических взглядах, религиозных убеждениях и состоянии здоровья и биометрические данные, нужно письменное согласие субъекта.

На практике модели обучают и на общих, и на специальных категориях персональных данных. Поэтому качество обезличивания имеет ключевое значение. Если после обезличивания можно провести обратную идентификацию, обработку признают незаконной.

Чтобы снизить риск, для обучения модели можно использовать несколько методов:

введение идентификаторов — замену Ф. И. О. и иных прямых идентификаторов на уникальные коды;

замену состава или семантики части сведений;

декомпозицию — разделение данных на несколько частей и их хранение в разных информационных системах;

перемешивание — перестановку отдельных значений в массиве данных.

Существует распространенное заблуждение: если данные уже получены по договору, их можно использовать для любых внутренних нужд, включая обучение ИИ. Это не так. Еще многие операторы включают в стандартную форму согласия фразы типа «обезличивание в статистических и иных исследовательских целях». Применительно к обучению ИИ такую цель нельзя назвать конкретной.

Чаще всего — да. Если чат-бот сообщает клиенту условия сделки, например о самом товаре, цене, размере скидки или сроке поставки, это может считаться офертой. Риск технической ошибки в таком случае несет продавец. Если спор дойдет до суда, продавцу, вероятно, придется исполнить обещание бота и уплатить штраф.

Но многое зависит от интерфейса, формулировок и оговорок. Если из сообщения видно, что бот дает только справочную информацию, а окончательные условия должен подтвердить человек, суд признает это не офертой, а приглашением сделать оферту. Например: «Сегодня действуют скидки до 30%, уточните у менеджера при оформлении заказа».

В таких спорах решающей становится конкретная фраза, которую сказал бот. От нее зависит, возникла ли у продавца обязанность заключить договор на предложенных условиях.

Еще одна линия защиты продавца — ссылка на очевидную грубую ошибку. Если товар, который обычно стоит 100 000 руб., бот предложил за 1 руб. или с 95%-ф скидкой без всяких объяснений, разумный потребитель должен понять, что произошел сбой. В этом случае суд, скорее всего, займет сторону продавца.

Можно, если обозначение отвечает требованиям охраноспособности. Закон не требует, чтобы товарный знак обязательно создал человек своим творческим трудом. Для Роспатента важнее другое: может ли обозначение индивидуализировать товары и не нарушает ли оно запреты на регистрацию. Если нейросеть выдала банальную рекламную фразу, описательный слоган или стандартную картинку, ведомство признает их не обладающими различительной способностью по п. 1 ст. 1483 ГК. Риски возникнут и тогда, когда обозначение слишком похоже на уже существующее средство индивидуализации.

Автором результата интеллектуальной деятельности в российском праве может быть только гражданин, творческим трудом которого создан результат. Саму нейросеть автором не признают. Но логотип или слоган, созданные нейросетью, можно зарегистрировать как товарный знак, если они обладают различительной способностью и не вводят потребителя в заблуждение.

Трудовой кодекс запрещает отказывать в заключении трудового договора по дискриминационным или иным необоснованным основаниям. Кандидат вправе потребовать письменное объяснение причин отказа и обратиться в суд. За необоснованный отказ работодателю грозит административная ответственность по ч. 1 ст. 5.27 КоАП.

Ответственность несет работодатель. Именно он определяет, как устроен наем, какую ИИ-систему использует и какую роль она играет в отборе кандидатов.

Есть и ограничение по закону «О персональных данных». Нельзя принимать решения, которые порождают юридически значимые последствия для человека, только на основании автоматизированной обработки его персональных данных, если он заранее не дал письменное согласие. Поэтому ИИ в рекрутинге должен оставаться цифровым помощником, который формирует рекомендации. Финальное решение о найме или отказе должен принимать человек. В ином случае работодатель рискует получить претензии по ст. 13.11 КоАП.