Создание ИИ-продукта: что учесть на каждом этапе, чтобы не получить штраф и претензии

Определение сферы работы и роли

Первое, что необходимо сделать при разработке ИИ-продукта, — это определить, в какой сфере он будет работать и какую задачу решать. Это нужно, чтобы проверить, существуют ли в выбранной отрасли дополнительные ограничения и контроль. Например, если ИИ-продукт предназначен для медицины, то нужно понять, есть ли в нем функция автоматической интерпретации данных, полученных от медицинского работника или напрямую от медицинского изделия, уточняет партнер и руководитель практики цифрового права Афонин, Божор и партнеры Михаил Божор. Если такая функция есть, то продукт, согласно письму Росздравнадзора от 13.02.2020 № 02И-297/20, уже считается медицинским изделием и до начала использования на него нужно получить регистрационное удостоверение.

По словам Божора, многие разработчики медицинского ПО стараются уйти от подобных требований, указывая в пользовательском соглашении, что ПО не предназначено для использования медицинскими работниками. Но юрист предупреждает: Росздравнадзор при проверках анализирует функции самой программы, а не формулировки в документах.

Подобные ограничения и дополнительные требования могут быть в банковской сфере, в работе с критической инфраструктурой (например, энергетика), в отраслях, где нужно обеспечить повышенную безопасность пользователей, и при внедрении продукта в госуслуги и социальную сферу.

Для критических инфраструктур и компаний, работающих с чувствительными данными, особым порогом входа будет вопрос безопасности. IT и служба безопасности потребуют гарантии, заинтересуются логами, интеграциями, потенциальными рисками утечки данных. Необходимо глубоко проработать и разобрать детали каждого компонента, чтобы обосновать возможность использования той или иной модели.

Евгений Журба, партнер практики Legal Tech BGP Litigation

Дальше нужно определить вашу роль в создании ИИ-продукта, так как от этого зависит объем ответственности. Это может быть разработчик программного обеспечения, оператор или владелец ИИ-сервиса.

Минимальный объем ответственности будет у разработчика, который формирует основу продукта, датасеты, механизмы безопасности. Он отвечает за нарушение исключительных и авторских прав на этапе создания сервиса, уточняет Божор, например если использовал фрагменты чужого кода. Кроме этого, именно разработчик несет ответственность, если заложит в продукт дискриминационные механизмы или системные ошибки, добавляет старший юрист ККМП | Кучер Кулешов Максименко и партнеры Елена Полева. В итоге разработчик отвечает перед лицом, которому причинен вред, лишь тогда, когда он изначально допустил в системе противоправное поведение и между базовым алгоритмом и причинившим вред результатом есть прямая причинно-следственная связь, рассуждает юрист. Но дальше модель обучается, а в этом участвуют и другие лица, и сами пользователи. Поэтому разработчик, скорее всего, не будет нести ответственности за обучение модели на проприетарных объектах (фотографиях, текстах, базах данных), предполагает Божор.

Основная ответственность лежит на операторе ИИ-сервиса. Именно это лицо предоставляет конечным пользователям доступ к модели, поэтому он должен обеспечивать безопасность при работе с ИИ-продуктом, соблюдать требования к обработке персональных данных и нести ответственность за их утечку, перечисляет Божор. Кроме того, оператора наряду с разработчиком компонентов сервиса, могут привлечь к ответственности за незаконное использование объектов интеллектуальной собственности.

Все риски оператора ИИ-сервиса можно снизить или нейтрализовать за счет переноса ответственности на разработчика в договоре с ним в порядке регресса. Но первым перед пользователями и государством будет все равно отвечать именно оператор платформы.

Михаил Божор, партнер, руководитель практики цифрового права Афонин, Божор и партнеры

Сбор, анализ и подготовка данных

Чтобы ИИ-продукт работал, обучался и подстраивался под нужды пользователей, ему нужно обрабатывать большой массив данных. Но проблема в том, что не всю информацию можно использовать. Поэтому основная задача на этапе формирования датасета — проверить правовой статус данных, которые планируется использовать для обучения модели, указывает юрист BIRCH Илья Казеко.

Первая категория защищенных данных — это интеллектуальная собственность. Разработчику нужно получить соответствующую лицензию, чтобы ее использовать, предупреждает Казеко. При этом российский проект закона об ИИ, который пока находится на стадии обсуждения, исходит из того, что нейросеть может обучаться на охраняемых объектах ИС и правообладатели не могут отказаться от такого обучения. По словам Казеко, подобный подход уже раскритиковали. Учитывая это и то, что закон еще не принят, юрист практики интеллектуальной собственности Адвокатское бюро Nordic Star Дарья Биткина рекомендует все же получать согласие правообладателя. 

Проблемы возникают и при использовании публичной информации. Например, американская газета The New York Times подала иск к OpenAI и Microsoft из-за того, что их ИИ-системы используют материалы журналистов с сайта газеты и таким образом обучаются. В России спор по поводу общедоступных данных тоже был — это разбирательство «ВКонтакте» и «Дабл Дата» (дело № А40-18827/2017). Социальная сеть посчитала, что сбор данных с ее сайта незаконен, так как это все база данных, которая принадлежит «ВКонтакте». «То есть содержимое сайта рассматривается как охраняемый объект ИС даже в тех случаях, когда сами по себе данные не произведение и не принадлежат владельцу ресурса», — разъясняет партнер и руководитель практики IP / TMT Comply Максим Али.

С точки зрения управления рисками разработчику безопаснее исходить из презумпции, что любые тексты, изображения, аудио- и видеоматериалы — это охраняемые объекты, пока не доказано обратное. Соответственно, в датасет желательно включать собственные материалы компании, данные с лицензиями, которые допускают соответствующее использование, либо объекты, перешедшие в общественное достояние.

Илья Казеко, юрист BIRCH

Другая проблемная категория данных — это персональные данные. Чтобы их использовать, нужно просить согласие пользователя. Но проблема в том, что часто разработчик не запрашивает такое согласие напрямую, а лишь заключает договор с оператором на предоставление массива данных, рассказывает Биткина. Поэтому на этом этапе кроется наибольшая опасность для разработчика: субъект вправе в любой момент отозвать согласие, потребовать прекращения обработки и удаления данных из ИИ-системы, но реализовать такие требования может быть невозможно с технической точки зрения. Чтобы избежать этого риска, Биткина рекомендует обезличивать персональные данные. 

Еще есть проблемы с использованием данных, которые охраняются как нематериальные блага. Это, например, право на изображение и голос, который используют для генерации синтезированной речи.

Если модель обучается на большом объеме общедоступных данных, то гарантировать 100%-ю юридическую чистоту датасета невозможно. Даже если разработчик проверяет такую чистоту (собирает согласия, использует специальные базы, синтезированные данные и подобное), остается вероятность наткнуться на специфичные объекты прав наподобие нематериальных благ и столкнуться с отзывом согласия. Есть и вероятность банальной ошибки, которая сама по себе не будет исключать ответственность, — за нарушение прав на ИС коммерческая организация отвечает независимо от того, есть ли вина.

Максим Али, партнер и руководитель практики IP / TMT Comply

Выбор модели

Помимо технических характеристик и оценки затрат, нужно оценить несколько юридических аспектов перед выбором модели. Первый — это условия ее использования. Например, для open-weights моделей нужно смотреть лицензию, при этом они будут разными. Некоторые более либеральны и допускают коммерческое использование почти без условий, другие устанавливают порог в определенное количество активных пользователей в месяц и запрет некоторых применений, а третьи вводят отдельную политику запрещенного использования, перечисляет советник практики M&A и корпоративного права, руководитель практики AI & Legal Tech O2 Consulting (О2 Консалтинг) Софья Смирнова. Дополнительно нужно проверить, кто разработчик модели. Например, Llama — это open-weights модель, но ее разрабатывает Meta, которая признана в России экстремистской организацией. Поэтому сама возможность использовать модель требует юридической оценки, уверена Смирнова.

Доступ к closed-source моделям регулируется через пользовательское соглашение. Здесь типичными будут запреты доступа из России и других санкционных юрисдикций, запрет реверс-инжиниринга и обучения конкурирующих моделей на выводах, ограничения на дообучение, оговорки о правах на результат, рассказывает Смирнова. Дополнительно юрист обращает внимание: контроль над информацией в таком случае минимальный — запросы уходят на чужую инфраструктуру, что отдельно бьет по персональным данным и конфиденциальности.

Российские модели снимают санкционный и трансграничный риск, но имеют собственные условия использования, которые тоже нужно проверять. Законопроект об ИИ делит модели на категории по происхождению и уровню доверия, предполагает обучение ИИ на территории РФ, обязательную маркировку сгенерированного контента и сертификацию систем высокого и критического риска (ФСТЭК и ФСБ). Это пока проект, но выбор модели сегодня разумно делать с оглядкой на эти требования.

Софья Смирнова, советник практики M&A и корпоративного права, руководитель практики AI & Legal Tech O2 Consulting (О2 Консалтинг)

Журба перечисляет, что нужно проверить перед выбором модели для ИИ-продукта:

• лицензии и права коммерческого использования — если модель подразумевала только исследовательское, а не коммерческое использование, то можно потерять право на ее использование;

• ограничения по объемам использования — количество пользователей, отрасли, объемы выручки;

• ограничения по сценариям допустимого использования — это касается дискриминационных решений, медицинских или юридических рекомендаций, обучения других моделей;

• права на вводные данные (input) и результат модели (output) — как распределяются права, есть ли возможность коммерческого использования результатов модели, как разграничивается ответственность. А Смирнова добавляет: результат, созданный ИИ без творческого вклада человека, авторским правом не охраняется, поэтому нечего присвоить как объект ИС и продуктовую ценность приходится защищать иначе (ноу-хау, база данных, договор);

• возможности дообучения модели;

• персональные данные и трансграничная передача — если данные загружаются в проприетарную зарубежную модель, появляется необходимость предусмотреть, например, модуль предварительной анонимизации. Иначе есть риск получить многомиллионный штраф за утечку персональных данных;

• авторские права и права на обучающие данные — помимо исходного кода и интерфейса, надо учесть датасеты, системные инструкции, промпты, векторные базы, результаты разметки, дообучения;

• применимость иностранных режимов — помимо применимого права и суда для разрешения споров, следует уточнить доступность модели в стране. Если ее нельзя использовать в России, то аккаунт могут заблокировать.

Смирнова рекомендует фиксировать проверку каждого элемента письменно, так как это понадобится затем при привлечении инвестора или продаже бизнеса, где статус прав на модель и данные напрямую влияет на оценку.

Взаимодействие с пользователем

Разработать продукт — это полдела. Дальше с ним начинает работать пользователь, для которого нужно предусмотреть несколько дисклеймеров, чтобы избежать претензий. Юрист практики Legal Tech BGP Litigation Полина Штерн рекомендует в первую очередь предупредить, что человек взаимодействует с ИИ, а это лишь вспомогательный инструмент, который не заменяет консультацию с живым специалистом. Такое уведомление поможет избежать обвинений в обмане или во введении пользователя в заблуждение, предупреждает Али. Более того, подобная обязанность уже есть в проекте закона об ИИ.

В пользовательском интерфейсе и документах нужно честно описать, что ИИ может ошибаться, выдавать неполную информацию, некорректно интерпретировать факты, ссылаться на несуществующие источники или делать выводы, которые требуют проверки специалиста. Если же ИИ-продукт используют в сферах с повышенным риском, то, по мнению Штерн, следует ограничить возможность модели отвечать на конкретные темы или предусмотреть ответственного специалиста.

Отдельный блок работы — это управление персональными данными. Пользователь должен дать согласие на обработку его персональных данных, а оператору нужно проработать политику конфиденциальности и предусмотреть логику и правила загрузки данных со стороны пользователей, указывает Журба.

Еще нужно учитывать правила трансграничной передачи персональных данных, так как запросы могут быть в адрес иностранных нейросетей. По словам Божора, агрегаторы в таком случае либо вовсе не указывают на зарубежные модели в документации, либо запрещают российским пользователям отображать в запросе свои персональные данные. «Но если Роскомнадзор будет проводить проверку пристально, такой подход не сработает. Поэтому я рекомендую клиентам заранее подать в ведомство уведомление о трансграничной передаче персональных данных», — говорит юрист. Кроме этого, нужно учитывать риски, связанные с возможным непланируемым использованием ИИ-системы, предупреждает Биткина.

Пользователи ИИ-продукта могут умышленно давать инструкции по созданию объектов, сходных до степени смешения с объектами авторского права, например просить дословно воспроизвести текст песни или картину. При этом, поскольку указанные действия будет осуществлять ИИ-система, нельзя исключать риск претензий напрямую к разработчику такой системы. В связи с этим уже на старте разработки важно уделить внимание пользовательскому соглашению с конечными пользователями, в котором будет отдельное положение об ответственности последних за нарушение прав третьих лиц.

Дарья Биткина, юрист практики интеллектуальной собственности Адвокатское бюро Nordic Star

Дополнительно Журба рекомендует предусмотреть дисклеймер о соблюдении законов и этики поведения при использовании продукта. С этим согласен и Божор, который советует в пользовательском соглашении четко прописать, что пользователь сам несет ответственность за загруженный контент и соблюдение российского законодательства, и заранее установить запреты на незаконные действия. Еще запрещают дискредитацию органов власти и вооруженных сил, рекламу товаров, ограниченных в обороте, и экстремистские высказывания.

Отдельно стоит прописать, кому принадлежат права на сгенерированный контент. Проект закона об ИИ устанавливает, что это определяется соглашением между пользователем и оператором сервиса.

Контроль продукта

Получить идеально работающий ИИ-продукт сразу не получится: у модели будут ошибки и «галлюцинации». И чтобы эффективно работать с ними и защититься в потенциальном споре, нужно разработать систему контроля — через нее удастся разбираться, что и почему система выдала в конкретный момент, уточняет Смирнова. С учетом этого юрист рекомендует:

• логировать и отслеживать весь путь конкретного запроса (трассировка) — это и операционный инструмент, и доказательственная база;

• отслеживать деградации, то есть снижения точности работы алгоритмов, — это включает долю «галлюцинаций» и отказов давать ответ. Стоит заранее зафиксировать пороги, при которых функция ставится на паузу;

• очерчивать границы применения и дисклеймеры — следить, что пользователь видит предупреждения и не использует продукт за пределами заявленного назначения. Это критично для чувствительных сфер (медицина, право, финансы);

• назначать человека в контуре (human-in-the-loop) — это значит, что в значимых сценариях есть точки, где решение подтверждает специалист;

• создавать канал обратной связи и регистрировать инциденты с измеримым временем реакции.

Эти инструменты помогут вовремя зафиксировать и локализовать проблему и при необходимости отключить те или иные функции ИИ-продукта. Это может быть критично, так как если совет модели причинил вред здоровью, то это потенциальный деликт, предупреждает Смирнова. Кроме того, недостаточная безопасность или недостатки продукта могут привести к нарушению закона «О защите прав потребителей», а несвоевременное обнаружение утечки персональных данных и, соответственно, неуведомление об этом Роскомнадзора — к повышенным штрафам.