Сотрудники используют ИИ без правил
Когда возникает риск. Компания официально не внедряла ИИ, но сотрудники уже пользуются нейросетями через личные аккаунты. Они проверяют договоры, переписывают письма, готовят презентации, анализируют таблицы, загружают резюме, клиентские базы или внутренние материалы.
В чем проблема. Компания не видит, какие данные сотрудники отправляют во внешний сервис и что потом происходит с этой информацией. В нейросеть могут попасть персональные данные, коммерческая тайна, материалы под NDA, исходный код, адвокатская или другая профессиональная тайна. Для сотрудника это может выглядеть как обычная помощь в работе, а для компании — как раскрытие закрытой информации.
Что с этим делать. Нужно ввести понятные правила работы с ИИ. В них стоит указать, какими сервисами можно пользоваться, какие задачи можно отдавать нейросети, какие данные туда нельзя загружать и кто проверяет результат перед использованием. Просто запретить ИИ обычно не помогает — безопаснее признать, что сотрудники им пользуются, и поставить понятные ограничения.
Подробнее — в материале «Политика работы с ИИ: зачем она нужна и какие правила стоит зафиксировать».
Персональные данные уходят в ИИ-контур
Когда возникает риск. В нейросеть загружают договоры с Ф. И. О., паспортными данными и телефонами, кадровые документы, резюме, записи звонков, медицинские сведения, переписку, фото, голосовые записи или клиентские базы. Риск есть и тогда, когда ИИ-сервис передает запросы зарубежному поставщику или хранит данные в иностранных сервисах.
В чем проблема. Если в ИИ попали персональные данные, компания должна соблюдать закон «О персональных данных». Для данных россиян действует правило локализации: при сборе их нужно сначала записывать и хранить в базе на территории России. Передавать такие данные за рубеж можно, но только при соблюдении специальных требований, включая уведомление Роскомнадзора. За нарушение норм о локализации штраф может доходить до 6 млн руб. за первое нарушение и до 18 млн руб. — за повторное. При утечках с 2025 года действуют новые крупные штрафы, а за повторные и отдельные тяжелые нарушения возможны оборотные штрафы.
Что с этим делать. До запуска ИИ нужно понять, какие данные в него попадают, где они хранятся, кому передаются и используются ли для обучения модели. Если данные обрабатывает подрядчик, с ним нужно оформить договор по правилам закона «О персональных данных». Если данные уходят иностранному поставщику, нужно проверить, локализованы ли данные, уведомили ли Роскомнадзор, получены ли согласия пользователей и есть ли политика конфиденциальности. В документах для пользователей нужно прямо написать, какие данные попадают в ИИ и зачем.
Подробнее — в материале «От клиентских данных до чат-ботов: юристы отвечают на вопросы о нейросетях».
Киберриски и атаки
Когда возникает риск. Компания подключает ИИ к CRM, базе знаний, почте, документообороту, колл-центру, клиентскому кабинету или внутреннему поиску. В такой ситуации нейросеть уже не просто отвечает на вопрос, а получает доступ к рабочим данным и помогает выполнять задачи.
В чем проблема. ИИ может стать новой целью для атаки. Опасность не только во взломе базы или краже пароля. Злоумышленник может попробовать обмануть саму модель: заставить ее игнорировать правила, раскрывать закрытые данные, выдавать коммерческую тайну, генерировать вредный код или отправлять неправильный ответ клиенту. Особенно опасны корпоративные ИИ-помощники с широким доступом к документам. Если права настроены плохо, пользователь может получить через нейросеть договоры, кадровые документы, переписку или код, которые он не должен видеть.
Что с этим делать. ИИ не должен видеть все данные компании. Ему нужно давать доступ только к тем документам и системам, которые нужны для конкретной задачи. Перед запуском стоит проверить, не может ли один пользователь через ИИ увидеть данные другого отдела, клиента или сотрудника. Также нужно тестировать, можно ли обмануть модель и понудить ее к необычным действиям, как разграничены права, ведется ли журнал запросов, а еще необходимо создать план на случай инцидента.
Использование чужого контента и генерация спорного результата
Когда возникает риск. Компания обучает ИИ на чужих текстах, фото, видео, коде, базах данных или материалах из интернета. Риск есть и тогда, когда сотрудники загружают в нейросеть чужие документы, изображения, дизайн или используют результат ИИ в рекламе, продукте, договоре, статье или презентации.
В чем проблема. Если ИИ обучали на чужом контенте или он выдал результат, похожий на чужую работу, правообладатель может подать иск. Он вправе потребовать прекратить использование материала, удалить его из продукта, взыскать убытки или компенсацию. В отношении текстов, изображений, дизайна и кода компенсация может доходить до 10 млн руб. за нарушение либо считаться от стоимости права использования. При коммерческом использовании компенсацию в предпринимательской деятельности могут взыскать независимо от вины, если компания не докажет форс-мажор. Даже если в условиях сервиса прописано, что результат принадлежит пользователю, это еще не значит, что на него точно возникли авторские права. По российскому праву автором может быть человек, а не сама нейросеть.
Что с этим делать. Если компания собирается использовать ИИ-контент в коммерческом продукте, рекламе или документах, стоит сохранять промпты, промежуточные версии и правки человека. Это поможет показать, что результат не появился полностью автоматически, а человек внес творческий вклад. Еще нужно проверять условия модели: некоторые сервисы запрещают использовать их ответы для обучения других ИИ-систем или требуют маркировать созданные материалы.
Перед обучением ИИ нужно проверить, можно ли использовать выбранные материалы: есть ли лицензии, согласия, права на базы данных, изображения, голос и код. В пользовательском соглашении нужно разделить, что пользователь загружает в сервис и что сервис выдает на выходе. Пользователь должен отвечать за законность загруженных материалов, а сервис обязан честно описывать, какие права дает на результат и чего не гарантирует.
Подробнее — в материале «Создание ИИ-продукта: что учесть на каждом этапе, чтобы не получить штраф и претензии» и «Claude, DeepSeek или GigaChat: как бизнесу выбрать ИИ-модель и не нарушить лицензию».
Ошибки ИИ в клиентском сервисе или продукте
Когда возникает риск. ИИ отвечает клиентам в чате, рассказывает об условиях тарифа, помогает с медицинской диагностикой, рассчитывает кредитный рейтинг, советует финансовый продукт, готовит юридический документ или дает инструкцию, на которую человек может положиться.
В чем проблема. ИИ не отвечает сам за себя. Обычно отвечает компания, которая выбрала сервис, настроила его, дала ему данные и встроила в работу с клиентами. Если банковский бот сообщил неверную информацию о продукте, претензии получит банк. Если медицинский сервис дал ошибочную рекомендацию, отвечать будет медицинская организация. Если ИИ встроен в услугу, его ошибку могут признать недостатком этой услуги.
Дисклеймер помогает оговорить ограничения, но не снимает ответственности за все. Нельзя обещать «точный диагноз», «безошибочный юридический документ» или «гарантированный финансовый результат», а потом мелким шрифтом писать, что ИИ может ошибаться.
Что с этим делать. Нужно заранее определить, что ИИ может делать, а какие решения он не должен принимать. В интерфейсе стоит ясно показать, что пользователь общается с ИИ, какой статус имеет ответ и где важна проверка специалиста. Внутри компании нужны тестирование, контроль странных ответов, журнал запросов и план действий, если ошибка уже дошла до пользователя.
Подробнее — в материале «Продукт ИИ-содержащий, идентичный натуральному: как его юридически „упаковать”».
ИИ принимает кадровые решения
Когда возникает риск. ИИ отбирает резюме, ранжирует кандидатов, проводит первичное интервью, оценивает сотрудников, помогает выбрать людей для сокращения, готовит кадровые документы или анализирует продуктивность.
В чем проблема. Ошибка алгоритма может превратиться в спор о дискриминации, незаконном отказе в приеме на работу или незаконном увольнении. Работодатель не может отказывать кандидату по причинам, которые не связаны с деловыми качествами. Модель хуже оценивает людей определенного пола, возраста, семейного положения, места проживания или состояния здоровья, даже если компания прямо не просила их отсеивать.
Если ИИ забирает часть функций работника и должность становится не нужна, компания должна проводить сокращение по правилам ТК. Нельзя просто уменьшить зарплату и предложить сотруднику уйти. Суд может решить, что работодатель прикрыл сокращение другой процедурой и лишил человека положенных гарантий.
Что с этим делать. ИИ в HR лучше использовать только как помощника. Работодатель должен понимать, по каким критериям программа отбирает кандидатов или оценивает сотрудников, и проверять, не ведут ли эти критерии к дискриминации. Если решение принимает только автоматизированная система и это влияет на права человека, нужно получить письменное согласие, объяснить, как принимается решение, какие последствия оно может иметь и как его можно оспорить.
Подробнее — в материале «ИИ в кадровых решениях: как работодателю не нарушить права сотрудников».
Пользователя вводят в заблуждение «упаковкой» продукта
Когда возникает риск. Компания запускает чат-бота, генератор документов, сервис анализа изображений, систему рекомендаций, скоринговый модуль или ИИ-помощника. В рекламе и интерфейсе продукт выглядит как экспертный сервис, а важные ограничения спрятаны в длинном дисклеймере.
В чем проблема. Пользователь должен понимать, с чем он работает: с человеком или ИИ, с экспертным заключением или черновиком, с точным расчетом или рекомендацией. Если реклама обещает гарантированный результат, а дисклеймер снимает все гарантии, компания рискует получить претензии из-за недостоверной рекламы, нарушения прав потребителей и введения в заблуждение.
Что с этим делать. Генерируемые документы должны согласовываться с реальной работой сервиса. В пользовательском соглашении нужно простым языком описать конкретную функцию: что делает нейросеть, какие данные берет, какой результат выдает и можно ли на него полагаться без проверки. Если продукт собирает данные, это должно быть отражено в политике обработки данных. Если решение влияет на права пользователя, нужно получать отдельные согласия и объяснять порядок автоматизированной обработки. Если сервис создает синтетический контент, например изображение, видео или аудио, нужно проверить, требуется ли предупреждение о том, что материал создан с помощью ИИ.
Дисклеймер не должен быть фразой «ИИ может ошибаться». Лучше прямо написать, что пользователь работает с ИИ, результат может быть неточным или устаревшим, его нужно проверять, а сервис не заменяет врача, юриста, финансиста или другого специалиста. Такой дисклеймер не снимает ответственности полностью, но помогает показать, что компания честно предупредила пользователя об ограничениях технологии.
Подробнее — в материале «Продукт ИИ-содержащий, идентичный натуральному: как его юридически „упаковать”».
Компания не закрепила риски с поставщиком ИИ
Когда возникает риск. Компания не создает ИИ сама, а пользуется чужим сервисом, покупает доступ к готовой модели, скачивает модель с открытым доступом, нанимает подрядчика для настройки или строит продукт на чужой технологии. В итоге в проекте участвуют несколько сторон: поставщик модели, разработчик интерфейса, подрядчик по настройке, облачный сервис и сама компания.
В чем проблема. Перед клиентом и регулятором обычно отвечает бизнес, который использует ИИ в своей работе. Именно компания выбрала нейросеть, дала ей данные, настроила сценарий и показала результат клиенту или сотруднику. Если чат-бот ошибся, скоринговая система сделала неверный вывод или генератор документов подготовил не тот текст, претензии в первую очередь получит компания. Переложить убытки на поставщика получится, только если правильно составить договор. Нужно будет доказать, какая версия ИИ работала, кто ее настраивал, что обещал поставщик и где возникла ошибка. Если в договоре написано, что сервис предоставляется «как есть», ответственность поставщика ограничена и точность результата не гарантируется, компания может остаться с претензиями один на один.
Что с этим делать. В договоре с поставщиком нужно прямо написать, кто отвечает за качество модели, настройки, обновления, обработку данных, обучение ИИ на данных компании, права на результат и помощь при инциденте. Если ИИ настраивает отдельный подрядчик, его ответственность за подключение базы знаний, тестирование и контроль качества нужно закрепить.
Если компания использует модель с открытым доступом, нужно проверить лицензию и убедиться, что можно применять ее в коммерции, дообучать под свои задачи и использовать результат в продукте.
Подробнее — в материале «Ответственность за ошибку ИИ: кто заплатит, если нейросеть навредила».
ИИ влияет на цены и конкуренцию
Когда возникает риск. Компания использует ИИ или алгоритм для установки цен, скидок, организации закупок, участия в торгах или мониторинга конкурентов. Сам по себе такой инструмент не запрещен. Риск появляется, когда программа получает данные конкурентов, дает похожие рекомендации нескольким игрокам рынка или настроена так, чтобы удерживать цену и контролировать скидки.
В чем проблема. Алгоритм может вести себя так, что это станет похоже на сговор. Например, несколько конкурентов используют одну платформу для расчета цен, а она выдает им одинаковые или близкие рекомендации. Прямой переписки между компаниями может не быть, но похожее поведение, общая платформа, повторяющиеся связи между участниками и необычная динамика цен дадут ФАС повод проверить, не координировал ли алгоритм поведение конкурентов.
Что с этим делать. Нужно понимать, как работает алгоритм, какие данные он использует и не попадает ли в него закрытая информация конкурентов. Нельзя автоматически принимать рекомендации о ценах. Внутри стоит закрепить следующие правила: кто отвечает за ценовые решения, какие данные можно загружать, кто проверяет рекомендации ИИ и как компания фиксирует, что решение принял человек, а не алгоритм.
Подробнее — в материале «Картель без переговоров: как ценовые алгоритмы и ИИ могут привести к сговору».
