Как распределяется ответственность
Сейчас в российском праве не прописана отдельно модель ответственности за ошибки ИИ, поэтому юристы применяют общие нормы ГК. По словам партнера Digital & Analogue Partners Юрия Брисова, при внедрении ИИ практически весь риск принимает на себя оператор — гражданин или юрлицо, эксплуатирующие нейросеть. Чаще всего оператором выступают компании, которые внедряют ИИ в свой сервис и общаются через него с клиентом. В некоторых случаях оператором выступает государство.
За ошибку нейросети отвечает тот, кто ее контролирует и извлекает из нее выгоду. Например, если чат-бот банка сообщил клиенту неверные условия вклада, перед клиентом будет отвечать банк. Ведь именно он выбрал инструмент, настроил его, интегрировал в клиентский путь и получает экономический эффект от его использования. Банк контролирует, какие данные получает модель, какие ограничения на нее наложены и какой дисклеймер видит пользователь. Даже если чат-бот работает на сторонней модели, ответственность перед клиентом все равно несет оператор.
Пострадавшие от ошибки нейросети компании могут сослаться на ст. 1095–1098 ГК, а граждане — на закон «О защите прав потребителей». Брисов напоминает: вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юрлица из-за недостатков товара, работы или услуги, возмещается независимо от наличия договора и вины причинителя. Если ИИ-система встроена в услугу (банковскую консультацию, медицинскую диагностику, расчет кредитного рейтинга), недостаток этой системы — это недостаток услуги, говорит эксперт. И потребитель вправе потребовать полного возмещения убытков, компенсацию морального вреда (ст. 15 ГК), неустойку и штраф в размере 50% от присужденной суммы (п. 6 ст. 13 ГК). При этом стоит помнить: закон «О защите прав потребителей» применяется, когда пострадавший — физическое лицо, получившее услугу для личных нужд.
Потребительские иски за ошибки ИИ экономически могут быть очень чувствительны для бизнеса. Но чтобы суд удовлетворил такой иск, потребителю необходимо зафиксировать выходные данные системы (скриншоты, логи чата), обеспечить экспертизу корректности работы модели и доказать, что он разумно полагался на полученный ответ.
Юрий Брисов, партнер Digital & Analogue Partners
Партнер Comply и руководитель практики интеллектуальной собственности Максим Али напоминает: если функции нейросети предоставляются в пользование бесплатно, нормы закона «О защите прав потребителей» уже не будут работать. На этом может быть построена логика разделения платных и бесплатных сервисов компании, говорит Али.
Разработчиком ИИ может выступать физлицо, юрлицо или ИП, осуществляющие исследования, проектирование, разработку, обучение, тестирование или модификацию нейросети. Разработчик несет ответственность за ошибку нейросети:
если есть дефект архитектуры модели;
при некачественных или предвзятых обучающих данных;
в отсутствие необходимых предупреждений об ограничениях модели.
Ответственность разработчика нейросети эксперты сравнивают с ответственностью изготовителя за конструктивный недостаток товара (ст. 1095 ГК). При этом старший юрист ККМП | Кучер Кулешов Максименко и партнеры Елена Полевая напоминает: ИИ способен к самообучению и постепенно отдаляется от первоначально заложенных алгоритмов, поэтому результат его работы во многом зависит от формулировки запроса пользователя. Возможно также внешнее вредоносное воздействие, при котором третьи лица целенаправленно искажают работу нейросети. По словам Полевой, разработчик должен нести ответственность, только если он первоначально заложил в систему противоправное поведение, предоставил возможность ее использования иным лицам, а между базовым алгоритмом и причинившим вред результатом есть прямая причинно-следственная связь.
Например, ИИ клиники поставил неверный диагноз. Полевая объясняет: клиника должна ответить перед пациентом, но затем она вправе предъявить регрессное требование разработчику, если докажет, что ошибка заложена в свойствах самой модели и не могла быть выявлена при нормальной эксплуатации. Напротив, если клиника игнорировала предупреждения разработчика об ограничениях модели либо не внедрила процедуры верификации результата человеком, вина будет на самой клинике, резюмирует эксперт.
Особый режим установлен для государства: вред, причиненный при использовании ИИ в деятельности правоохранительных и иных госорганов, возмещается за счет казны независимо от ведомственной принадлежности технологии (ст. 1069–1070 ГК). Эта конструкция пока не учитывает специфику ИИ и, вероятно, потребует развития, но сам принцип ответственности государства применим уже сегодня.
Елена Полевая, старший юрист ККМП | Кучер Кулешов Максименко и партнеры
Почему договор с вендором не всегда спасает
Вендор — это компания, которая одновременно занимается разработкой программного обеспечения и продажей лицензий на его использование. В его задачи входит создание, внедрение, поддержка и дальнейшее развитие системы.
Стандартная позиция крупных вендоров ИИ (OpenAI, Google) — максимальное ограничение собственной ответственности, говорит Брисов. Поэтому типичное лицензионное соглашение содержит три ключевых элемента.
Оговорка as is — продукт предоставляется «как есть», без гарантий точности, полноты и пригодности для конкретных целей. Вендор прямо указывает, что модель может «галлюцинировать» — генерировать убедительно звучащую, но ложную информацию.
Ограничение ответственности. Совокупную ответственность вендора обычно ограничивают суммой, которую клиент заплатил за лицензию за последние 12 месяцев. Для компании, которая заплатила за API-ключ 500 000 руб., но понесла убытки в десятки миллионов из-за ошибки модели, такой лимит делает регресс нецелесообразным.
Индемнификация. Клиент обязуется возместить вендору убытки, возникшие из-за использования продукта, включая претензии третьих лиц.
В итоге компания, которая внедрила ИИ, может оказаться между двух огней. Перед клиентом она отвечает как оператор сервиса. А в отношениях с вендором ее возможности ограничены договором, который заранее снижает ответственность поставщика технологии.
В договорах с вендорами есть и серые зоны. Брисов отмечает сложности с определением границы между дефектом модели и некорректным использованием. Например, вендор может утверждать, что модель работала верно в заявленных параметрах, а оператор применил ее неправильно. Оператор, наоборот, будет говорить, что использовал стандартный сценарий, а ошибка возникла из-за скрытого дефекта модели. Без доступа к логам обучения и данным тестирования разграничить ответственность невозможно, подчеркивает эксперт.
Кроме того, вендоры регулярно обновляют модели и не всегда запрашивают отдельное согласие оператора. Новая версия может вести себя иначе, чем та, на которой оператор тестировал свой продукт. При этом договоры часто не регулируют ответственность за изменение поведения модели после обновления. На практике оператор может пройти полный цикл тестирования, а затем обнаружить, что продукт начал работать некорректно после очередного «тихого» обновления.
Если модель обучена на предвзятых данных — это дефект разработчика. Когда оператор дообучил модель на собственных данных и ошибка возникла в результате дообучения — ответственность переходит к нему. При этом Брисов объясняет: определить, какой именно слой обучения вызвал ошибку, часто технически невозможно.
Есть и проблема «черного ящика». Современные генеративные модели не объясняют своих решений. Если невозможно установить, почему модель выдала тот или иной результат, невозможно и достоверно определить виновника. Это системный риск для всех участников цепочки.
Пользователь несет ответственность в тех случаях, когда сам неверно применяет ИИ. Лидер направления интеллектуальной собственности и защиты данных White Square Никита Айрапетов объясняет: когда нейросеть предназначена для обработки естественного языка, генерации текста и ведения диалога в режиме реального времени, не надо с ее помощью разрешать межличностные конфликты и ставить себе медицинские диагнозы. Если это произошло и человек получил вред или понес убытки, привлечь к ответственности никого не получится, говорит эксперт.
Ошибки нейросетей
Практика по ошибкам ИИ пока складывается точечно, но общий подход уже наметился: суды не воспринимают нейросеть как самостоятельного ответчика. Риск остается на том, кто использует технологию, встраивает ее в сервис или полагается на сгенерированный результат.
Один из самых наглядных примеров — спор с Air Canada. В 2024 году чат-бот авиакомпании сообщил пассажиру Джейку Моффатту, что тот может подать заявку на льготный тариф в связи с утратой близкого человека в течение 90 дней после покупки билета. Это оказалось неверно: правила компании не позволяли оформлять такую льготу задним числом.
Air Canada отказала в возврате и попыталась доказать, что чат-бот — отдельное юридическое лицо, которое само отвечает за свои действия. Суд этот довод отклонил. Он указал: компания отвечает за информацию на своем сайте независимо от того, разместили ее на статической странице или сгенерировал чат-бот. Потребитель не обязан сверять ответ бота с другой частью сайта. В итоге Air Canada пришлось возместить разницу в стоимости билетов по делу Moffatt v. Air Canada.
Другой тип споров связан уже не с деньгами, а с вредом жизни и здоровью. В США в 2025 году мать подростка подала иск к разработчику чат-бота, его основателям и Google по делу Garcia v. Character Technologies. Она утверждала, что после общения с ИИ ее сын покончил с собой. Суд Среднего округа Флориды допустил такую конструкцию спора. Он указал, что разработчик может отвечать за дефекты ИИ-системы, если они причинили реальный вред. Кроме того, оператор ИИ должен заботиться о пользователях, потому что выпуск системы в открытый доступ создает предвидимые риски. Суд также допустил привлечение Google как поставщика инфраструктуры. То есть в споре остались не только разработчик и оператор Character Technologies, но и провайдер мощностей Google LLC.
В России практика привлечения к ответственности за ошибки нейросетей только начинает формироваться. Так, человек увидел в интернете публикации о себе и подал иск на СМИ с требованием признать сведения не соответствующими действительности и опубликовать опровержение (дело № 2-34/2024). Ответчик утверждал, что спорные публикации были созданы искусственным интеллектом автоматически. Тем не менее суд не освободил владельца информационного портала от ответственности. Он взыскал с нарушителя компенсацию морального вреда за оскорбительный характер материалов, сгенерированных ИИ, подчеркнув: размещение такого контента на принадлежащем ответчику ресурсе влечет ответственность по общим правилам ГК (дело № 33-5273/2024).
Отдельная практика касается не вреда от ИИ-сервиса, а использования ИИ в процессуальных документах. 19 мая суд оштрафовал кемеровскую компанию «ЦСС» на 50 000 руб. (дело № А27-7831/2025). Компания подала кассационную жалобу со ссылками на несуществующие судебные акты, которые сгенерировал ИИ. Суд указал: участник дела отвечает за достоверность текста, даже если готовил его с помощью искусственного интеллекта. В определении он подчеркнул, что использование ИИ не оправдывает такие ошибки, а ответственность за сгенерированный текст несет лицо, которое применило эту технологию.
Кроме того, ИИ уже может управлять реальным объектом, например беспилотным автомобилем. В таких спорах последствия ошибки могут быть гораздо серьезнее, а суд может применить ст. 1079 ГК об ответственности за вред от источника повышенной опасности. В зарубежной практике суды смотрят не только на технологию, но и на человека, который должен был ее контролировать. Так было в деле о гибели Элейн Херцберг после наезда беспилотного автомобиля Uber. Компанию к ответственности не привлекли, поскольку основной вопрос возник к водителю-оператору, который должен был следить за дорогой.
Как минимизировать ответственность
Чтобы снизить риски, Айрапетов советует разработчикам заранее информировать операторов и пользователей об ограничениях модели. Например, прямо предупреждать, что ИИ может «галлюцинировать» и не заменяет профессиональные консультации. Разработчикам также важно внедрять технические меры контроля: ограничивать чувствительные темы, отслеживать аномальное поведение ИИ, регулярно обновлять модели и корректировать безопасные сценарии использования. Кроме того, нужно документировать обучение и тестирование модели, вести логи входных и выходных данных и сохранять возможность аудита.
Брисов добавляет: нужно документировать дообучение и тестирование модели, регулярно проверять изменения после обновлений и фиксировать состояние системы на момент поставки — версию, параметры и ограничения.
Операторам советую выстроить процедуры контроля нейросети, ограничить области ее применения и, что не менее важно, аккуратно формулировать публичные обещания. Разработчикам нужно более прозрачно описывать ограничения своих решений и управлять ожиданиями заказчиков. А специалистам рекомендую помнить: использование ИИ не снижает стандартов профессиональной ответственности.
Дарья Петрухина, консультант IPN Partners
