ИИ-агенты в ретейле: кто ответит за несуществующую скидку и зачем нужен контроль со стороны человека

В России объем рынка искусственного интеллекта в 2025 году оценивали в $2,1 млрд — рост примерно на 45% за год. Доля компаний в России, использующих ИИ для бизнеса, выросла с 28% в 2024-м до 43% в 2025 году. Российский ретейл и e-commerce формируют примерно 15% национального рынка ИИ, что составляет около $315 млн. В первую очередь ИИ-решения применяют для рекомендательных систем, управления запасами и динамического ценообразования. Более 40% ретейлеров в России к середине 2025 года использовали различные ИИ-решения для стимулирования продаж. При этом 20% уже внедрили генеративные нейросети в свои бизнес-процессы.

Ретейл, вероятно, станет одной из отраслей, где переход от обычного генеративного ИИ к агентным системам будет особенно заметен, считает Елена Полевая, старший юрист ККМП По ее словам, причина проста: здесь много стандартизированных операций, которые можно автоматизировать, — подбор товара, консультация покупателя, программы лояльности, управление запасами, формирование заказов, динамическое ценообразование и взаимодействие с поставщиками. Сергей Сайганов, партнер, руководитель практики Tech Comply, добавляет, что проникновение ИИ в бизнес в любом случае неизбежно и будет только усиливаться с развитием технологий. По мнению эксперта, стратегическая цель — повышение эффективности за счет снижения расходов на людей и ускорение процессов благодаря автоматизации, поэтому на ИИ будут стараться переложить все возможные задачи. 

Несмотря на широкое использование ИИ-решений, они пока не настолько совершенны, чтобы не допускать ошибок. Сбои, «галлюцинации» и неправильное обучение приводят к реальным имущественным последствиям, за которые отвечать придется людям. А избыточное доверие к технологии и возможность поручить системе самостоятельные действия делает ошибки особенно опасными, подчеркивает Артем Подшибякин, эксперт Фонда «Сколково», директор юридического департамента LIME.

Полевая настаивает, что с точки зрения интересов потребителя не принципиально, ошибся работник магазина или ИИ-агент, которого сам продавец поставил в канал взаимодействия с клиентом. Если чат-бот находится на официальном сайте или в приложении ретейлера и сообщает покупателю условия продажи, у потребителя есть основания воспринимать эту информацию как исходящую от самого продавца.

Если ИИ-агент магазина пообещал покупателю несуществующую скидку, фраза «Это придумал искусственный интеллект» сама по себе не освобождает компанию от ответственности.

Сайганов добавляет, что ответственность за обработку данных и применение юридически значимых решений на базе ИИ будет нести ретейлер как оператор данных. Он же будет отвечать за компанию-разработчика, которую привлек к обработке ПДн. Тем более разработчик, как правило, снимает с себя любую ответственность в договоре, а решения о поручении агенту полномочий, например сообщать о скидке, принимает именно ретейлер, рассуждает эксперт.

При этом конкретные последствия будут зависеть от содержания сообщения агента, отмечает Полевая. Если агент лишь сообщил о несуществующей акции, вопрос возникнет о достоверности предоставленной потребителю информации. Но если агент назвал конечную цену, подтвердил применение скидки или прямо участвовал в оформлении заказа, спор уже может перейти в договорную плоскость, вплоть до вопроса о том, связан ли продавец условиями, которые его система сообщила покупателю, предостерегает эксперт.

Показательный зарубежный пример — дело Moffatt vs. Air Canada, в котором чат-бот авиакомпании сообщил пассажиру неправильные условия применения льготного тарифа. Суд не позволил компании дистанцироваться от ошибочной информации собственного чат-бота и исходил из того, что ИИ-бот остается частью клиентского сервиса компании. «Поэтому для ретейлера здесь важен не столько дисклеймер о возможности ошибок в ответах ИИ, сколько техническое ограничение самого агента. Ограничение дискреции ИИ должно обеспечиваться архитектурно: агент должен получать цены и промоусловия из достоверного источника, а не генерировать их самостоятельно», — резюмирует Полевая.

Российские суды также последовательно отклоняют довод о том, что ошибку допустила нейросеть, указывает Ольга Яшина, советник практики интеллектуальной собственности ЭБР Так, предпринимателя, чьи карточки товаров с чужим товарным знаком якобы сгенерировал ИИ, не освободили от ответственности. Суд указал на рисковый характер предпринимательской деятельности и на то, что предприниматель обязан сам проверять материалы, связанные с продажей товаров (дело № А12-32165/2024).

Но Серафим Заморозный, DPO и руководитель правовой поддержки IT Lamoda, обращает внимание, что не во всех случаях проблемного использования ИИ-продуктов ответственность лежит на продавце.

При использовании ИИ клиентами, к примеру чат-ботов, продавец не должен нести ответственность за результат, поскольку он не может никак его контролировать. Единственная обязанность, которая может быть у продавца, — это четко дать понять клиенту, что он общается не с сотрудником компании, а с ботом, способным выдавать хоть чаще всего и верные, но случайные результаты.

Как минимум ретейлеру нужно продумать качественную обвязку механизма работы ИИ в компании: локальное регулирование, которое будет устанавливать вопросы обработки персональных данных с использованием ИИ и интеллектуальной собственности на сгенерированные результаты, указывает Сайганов. Кроме этого, нужно тщательно проверить договор с провайдером ИИ на предмет тех же рисков. Связано это с тем, что небрежность в этом вопросе может стать большой и денежной проблемой для ретейлера в случаях, если персональные данные его клиентов утекут через ИИ-агента или будут неправомерно переданы за границу, настаивает эксперт.

Бизнесу от юристов необходимы качественные инструкции по принципу: «Это можно, это лучше не делать, а это вообще нельзя». В них на конкретных примерах следует указать допустимые рамки этичного использования ИИ и определить, когда можно перевести клиента на автономное обслуживание ботом, а когда лучше оставить человека. 

Отдельная проблема, по мнению Подшибякина, — легкость, с которой пользователи загружают в ИИ-сервисы документы с персональными данными клиентов и сотрудников. Передача таких сведений без законного основания — это уже нарушение закона. Нужно заранее понимать, кому уходят данные, где они обрабатываются и как защищены. Удобство инструмента не отменяет требований к конфиденциальности, подчеркивает эксперт. По его мнению, внутреннее регулирование должно прежде всего обеспечивать понятные границы полномочий агента, прозрачность его действий и возможность вмешательства человека.

Не стоит забывать и об этических вопросах использования ИИ-агентов, призывает партнер ККМП Анна Максименко. Для ретейла они могут быть связаны с персонализацией поведения продавца. Агент потенциально знает о покупателе значительно больше обычного консультанта: историю покупок, платежеспособность, реакцию на скидки, привычки и иногда даже признаки уязвимости.

ИИ-агент может подобрать предложение индивидуально, но грань между персонализацией и манипулированием здесь достаточно тонкая, особенно при использовании поведенческих техник, которые подталкивают человека к покупке: создание искусственного дефицита, давление ограниченного времени, настойчивые рекомендации. То, что такое воздействие осуществляет алгоритм, не делает его этически нейтральным. Для бизнеса важна не только формальная законность решения агента, но и возможность объяснить логику его поведения и установить категории решений, которые он не вправе принимать автономно.

Полевая предупреждает, что по мере роста автономности будет меняться и юридический риск. «Следующим этапом развития ИИ в ретейле, вероятно, станет не столько появление новых запретов, сколько формирование внутренней системы управления такими агентами: кто вправе их запускать, какие операции им разрешены, какие требуют подтверждения человека и каким образом сохраняется история их действий», — рассуждает Полевая.

Эксперты сошлись во мнении, что сейчас создавать отдельное регулирование для ИИ-агентов в ретейле не нужно. Как отмечает Максименко, значительная часть возникающих рисков уже укладывается в существующие рамки регулирования законами «О защите прав потребителей», «О рекламе» и «О персональных данных». Поэтому жесткое регулирование сверх имеющегося избыточно, добавляет Сайганов.

Кроме этого, в законодательстве уже есть инструменты для ситуаций, когда ИИ-агенты подталкивают покупателей к импульсивным покупкам или показывают разным людям разные цены без объяснения причин, отмечает Яшина. Так, для розничной купли-продажи это публичный договор, и цена в нем должна быть одинаковой для всех потребителей, кроме случаев, когда закон допускает льготы. Для крупных игроков с доминирующим положением к этому добавляются нормы антимонопольного законодательства, подчеркивает эксперт.

Обсудить правовые вопросы регулирования ретейла приглашаем на конференции Право.ru «Право на продажу: новые правила ретейла». Программа строится вокруг трех тематических треков: продуктовый ретейл, непродуктовый и e-commerce. Каждый трек — только практические темы и кейсы, подготовленные при поддержке крупнейших ретейл-компаний.