Полис для нейросети: какие риски при работе с искусственным интеллектом покроет страховка

Мировой рынок страхования рисков искусственного интеллекта только формируется, но аналитики ожидают, что он быстро вырастет. По оценке Deloitte, к 2032 году объем ежегодных премий может достигнуть $4,7–4,8 млрд при среднем росте около 80% в год. Исследование Geneva Association среди 600 корпоративных покупателей страхования показало, что более 90% компаний хотят страховать риски генеративного ИИ, а две трети готовы платить за такие полисы на 10–20% больше обычной премии.

За рубежом специальные страховые продукты, посвященные страхованию рисков ИИ, начали появляться уже в прошлом году. Пока они не стали массовыми, но как считает ведущий юрист практики «Страхование» КИАП Александр Карташов, это вопрос времени. По его мнению, подогреет интерес к новому виду страхования увеличение числа споров, связанных с ошибками ИИ и его некорректной работой.

В России спрос тоже начинает формироваться. По данным опроса «Совкомбанк страхования» и Всероссийского бизнес-центра, 69% предпринимателей готовы застраховать бизнес от ошибок ИИ, а четверть считают такую защиту критически важной. При этом согласно исследованию юрфирмы «Яков и партнеры» и «Яндекса», 71% крупных российских компаний уже используют генеративный ИИ хотя бы в одной функции бизнеса. Чем шире компании внедряют такие решения, тем чаще возникает вопрос о том, кто отвечает за возможный ущерб. Главные опасения бизнеса — утечки данных и репутационные последствия.

Страховщики оценивают спрос по-разному. В «СберСтрахование» первые запросы по таким рискам начали поступать в 2025 году. В «Ингосстрах» в основном обращаются за страхованием транспорта с автопилотом: для него у компании есть отдельный продукт. В «Росгосстрахе» пока не получали запросы на страхование ответственности или финансовых рисков разработчиков. Это связывают с тем, что закон пока не закрепил границы такой ответственности, а без этого страховщикам сложно рассчитывать тарифы и формировать предложения.

Обязательное страхование гражданской ответственности уже действует для юрлиц и ИП — участников экспериментальных правовых режимов, в рамках которых тестируют цифровые решения. Такие изменения в 2024 году внесли в закон об экспериментальных правовых режимах в сфере цифровых и технологических инноваций. Участники таких режимов должны страховать ответственность за вред жизни, здоровью или имуществу третьих лиц, в частности если он причинен решениями, разработанными с применением ИИ. Если такой вред возникнет, регулирующий орган создаст комиссию. Она установит характер и размер вреда, причины его причинения (технический сбой, ошибка при разработке или внедрении, действия или бездействие участников), и оценит, нужно ли менять, приостанавливать или корректировать экспериментальный режим. Участники режима также должны вести реестр лиц, вступивших с ними в отношения в рамках эксперимента, и отражать сведения об использовании таких решений, страховых суммах и страховщиках.

Для остального бизнеса отдельного комплексного продукта на российском рынке пока нет. Риски чаще распределяют между действующими программами: страхованием гражданской и профессиональной ответственности, киберстрахованием, страхованием ответственности директоров, страхованием ответственности IT-компаний, страхованием имущества и перерыва в деятельности.

Большинство ИИ-рисков могут быть покрыты в рамках существующих страховых продуктов. При этом в рамках этих страховых продуктов необязательно прямо прописывать отдельное покрытие для ИИ-рисков, за исключением каких-то специальных случаев. Достаточно использовать широкие формулировки, которые не исключали бы ИИ-риски.

Программы гражданской и профессиональной ответственности могут покрывать вред третьим лицам, расходы на юридическую защиту и экспертизу. По словам директора корпоративного страхования «СберСтрахование» Зары Геворкян, экспертиза нужна, чтобы установить связь между ошибкой ИИ и вредом и рассчитать размер ущерба. Условия полиса можно адаптировать под то, как именно компания использует технологию.

Для разработчиков и интеграторов ключевые риски — это ошибки проектирования, внедрения и эксплуатации. Старший юрист KISLOV.LAW Илья Чехин говорит, что применимые полисы ответственности могут покрывать сбои, недостоверные результаты, неправомерное использование данных и объектов интеллектуальной собственности. Возможны также страхование ответственности IT-компаний за дефекты программного обеспечения с ИИ-компонентами и E&O — профессиональная ответственность за ошибочные заключения или услуги, подготовленные с использованием ИИ.

Часть рисков может покрыть киберстрахование. Как отметили в «СОГАЗе», такое покрытие может включать защиту от последствий кибератак, сбоев в ПО, краж данных, а также помощь в локализации, реагировании и расследовании инцидента. Отдельно в компании выделяют промпт-инъекции: когда злоумышленник воздействует на алгоритмы принятия решений, а доверенный цифровой помощник начинает выполнять вредоносную инструкцию, замаскированную под обычный запрос. Подобные атаки рассматривают как компонент киберстрахования.

Киберстрахование может быть важно и при утечках через ИИ-сервисы. Среди рисков Чехин называет утрату коммерческой тайны и конфиденциальной информации через промпты, логи, облачных провайдеров, а также при использовании поставщиком данных компании для дообучения модели без согласия. Руководитель практики «Страховое право» AKS Legal Руслан Кожевников также относит к возможному покрытию утечки персональных и корпоративных данных и усиленные ИИ атаки. При этом Карташов уточняет: киберстрахование обычно покрывает ущерб от внешнего воздействия на информационные системы. Если убыток вызван некорректной работой программы без такого вмешательства, событие могут не признать страховым случаем.

ИИ-риски могут затронуть и D&O — страхование ответственности директоров и должностных лиц. Решение руководителя внедрить цифрового агента может привести к убыткам третьих лиц или претензиям акционеров из-за неэффективных расходов. Кожевников также относит к D&O решения директоров, принятые на основе рекомендаций модели, и ответственность за выбор и внедрение системы. Карташов считает, что такие риски менее характерны для D&O, но не исключает срабатывание полиса из-за управленческих решений по внедрению технологии.

Отдельная категория — интеллектуальные права. Старший партнер и глава практики страхования SEAMLESS Legal Леонид Зубарев называет нарушение авторских прав при обучении моделей одной из главных «страшилок» индустрии. Риск возникает, когда модели обучаются на больших массивах данных из открытых источников, включая книги, изображения, музыку и статьи, защищенные авторским правом. На международном рынке для таких случаев используют специализированное страхование ответственности, расширение к киберстрахованию или E&O-покрытие, где нарушение авторских прав при обучении модели рассматривают как непреднамеренную профессиональную ошибку. Вопросы могут возникнуть как при обучении модели на защищенных материалах без согласия правообладателя, так и при генерации результата, похожего на чужое произведение. В таких случаях спор может касаться не только компенсации, но и запрета на использование данных или результата.

При этом таким крупным американским ИИ-разработчикам, как OpenAI и Anthropic, уже сложно застраховать бизнес от потенциальных убытков по судебным искам. Значительная часть таких претензий связана именно с интеллектуальными правами — использованием защищенного контента для обучения моделей без согласия правообладателей. Даже если покрытие удается получить, оно значительно ниже потенциальных убытков. Так, OpenAI получила покрытие до $300 млн, но как отмечали эксперты, такая сумма несопоставима с риском многомиллиардных требований.

В целом для страхового рынка предпочтительнее иметь отдельные программы по страхованию рисков ИИ, поскольку их включение в более общие страховые покрытия не всегда полностью отвечает интересам страхователей. По мере роста использования ИИ интерес к подобным продуктам будет увеличиваться, так как спрос рождает предложение. При этом вполне возможно, что на первых порах страховые компании за образцы возьмут полисы иностранных коллег.

Не все риски можно переложить на страховщика. Страхование ответственности покрывает случайные события, но обычно исключает умышленные действия и нарушения закона, напоминает Зубарев. Например, если несколько компаний используют один сервис для установления цен и это приводит к их синхронному повышению, ситуацию могут трактовать как алгоритмический сговор. В таком случае страховщик может возместить расходы на защиту от претензий государства, но при проигрыше выплату потребуют назад со ссылкой на невозможность страхования противоправных интересов.

Административные и уголовные штрафы по российскому праву также нельзя застраховать. Договор может покрывать сопутствующие расходы, но не сам штраф.

Границы покрытия сужают и специальные оговорки. Карташов отмечает, что прямых исключений по ИИ-рискам пока немного, но общие условия договора могут косвенно выводить их из покрытия, например если полис исключает убытки из-за дефектов ПО или ошибок информационных систем. Чехин, напротив, указывает, что такие исключения уже встречаются и будут появляться чаще.

В правилах страхования некоторых страховщиков можно встретить такие исключения: не покрываются убытки, прямо или косвенно возникающие из создания, публикации или распространения контента, полностью или частично сгенерированного системами искусственного интеллекта.

Проблемой может стать и silent AI-покрытие. Многие действующие полисы писали до массового внедрения генеративных моделей, поэтому они прямо не называют такие риски, но и не всегда исключают их. Из-за этого уже после инцидента возникает спор о том, покрывает ли договор ущерб, связанный с применением технологии, или это за пределами страховой защиты.

Кожевников допускает, что страховщики могут быть заинтересованы в исключениях из-за сложностей с тарификацией и отсутствия статистики. Но им нужно учитывать позицию Верховного суда о пределах исключений из страхового покрытия: к ним могут относиться обстоятельства, не связанные с действиями или бездействием страхователя либо выгодоприобретателя (дело № А56-72067/2023).

Практика по спорам, где фигурирует ИИ, пока только формируется. Число таких дел в публичных источниках растет, но реальный масштаб оценить сложно: использование ИИ часто остается за рамками судебного акта или упоминается лишь косвенно, отмечает Зубарев.

Среди доступных дел эксперт выделяет две категории: процессуальное использование нейросетей, например для подготовки правовых позиций, проектов решений или «экспертных заключений», и споры о сгенерированном контенте, включая дело о дипфейке Киану Ривза (№ А40-200471/2023). Но даже в них применение ИИ, как правило, остается за кадром, из-за чего крайне сложно не только определить реальное количество подобных споров, но и проследить прямую связь: в каких именно случаях использование алгоритмов привело к юридически значимым ошибкам.

Пока специальных правил нет, такие споры рассматривают по ст. 1064 ГК. Пострадавшему нужно доказать вред, вину, незаконность действий и связь между ними. В случае с ИИ сложнее всего понять, чье действие привело к ущербу — разработчика, поставщика сервиса, компании-пользователя или третьего лица.

Чехин предлагает оценивать ответственность по модели «разделенная ответственность» (shared responsibility): каждый отвечает за тот слой системы, который контролирует. Сбой у разработчика относится к его зоне, неверные настройки или загрузка лишних данных — к зоне клиента, ошибка субподрядчика — к зоне провайдера. Кожевников при этом напоминает, что первичную ответственность перед пострадавшим несет компания, которая предоставляет конечный сервис. Затем она может предъявить требования к поставщику инструмента, если это позволяют условия лицензионного соглашения.

Даже после определения потенциально ответственного лица остается проблема доказывания. Чехин подчеркивает, что установить связь между работой модели и ущербом непросто: системы непрозрачны, могут давать разные ответы на одинаковые запросы, часто обновляются, а в инциденте обычно фигурируют несколько факторов. Дополнительно мешают пробелы в логах, перераспределение ответственности в договорах, совместная вина сторон и сложность подтверждения размера ущерба.

Архитектуры современных ИИ-моделей содержат десятки миллиардов параметров, поэтому установить, почему модель выдала конкретный вывод, крайне сложно даже разработчику. Кроме того, между решением ИИ и наступившим вредом, как правило, есть промежуточное звено — действия человека, которое разрывает цепочку причинности.

Карташов считает, что в таких спорах ключевым станет вопрос, на каком этапе возникла ошибка: при разработке, поставке, настройке или использовании программы. Поэтому досудебное урегулирование и судебные процессы, вероятно, будут опираться на сложные компьютерно-технические экспертизы. Партнер практики разрешения споров Melling Виктор Петров обращает внимание на контроль со стороны пользователя. Если компания недостаточно проверяла результаты, страховщик поставит вопрос о грубой неосторожности страхователя. Поэтому значение будут иметь внутренние защитные механизмы, включая обязательную проверку человеком.

Развитие страховых продуктов замедляет правовая и техническая неопределенность. Страховщикам нужно понимать, какие события считать страховым случаем, какие относить к исключениям и чья ответственность должна быть застрахована. При этом начальник управления андеррайтинга ответственности и финансовых рисков «Росгосстраха» Галина Лунева отмечает, что тема пока активно не обсуждается в страховом сообществе и даже в профильных комитетах Всероссийского союза страховщиков. По ее словам, причина как раз в том, что в законе пока не закрепили периметр ответственности разработчиков, а значит, у страховщиков нет базы для расчетов и подготовки предложений клиентам.

Похожие нюансы выделяет и Зубарев. По его словам, заказчики пока не требуют от разработчиков отдельного страхования ответственности, потому что нет ясного ответа на вопрос, кто именно отвечает за вред. При этом страховщики уже изучают направление. Шишкин говорит, что рынок готов разрабатывать специализированные продукты после устранения пробелов в регулировании, а в «СберСтраховании», по словам Геворкян, рассматривают возможность запуска отдельного продукта.

Юристы по-разному оценивают необходимость специального регулирования. Чехин считает, что отдельные правила ответственности и специализированный полис помогли бы стандартизировать распределение рисков. Карташов проводит параллель с киберстрахованием: общие нормы ГК позволяют заключать такие договоры. Но эксперт предупреждает, что отсутствие специальной базы на первом этапе приведет к терминологической путанице и спорам о страховых случаях и исключениях. Зубарев же не видит необходимости вводить отдельную статью ГК об ответственности за действия ИИ.

Закрепить более детальную модель ответственности попытались в законопроекте «Об основах государственного регулирования сфер применения технологий искусственного интеллекта». В качестве субъекта отношений там выделяют разработчика модели, оператора системы, владельца сервиса и пользователя, а ответственность предлагает распределять соразмерно степени вины каждого. Но как отмечает Зубарев, это пока только проект, причем обязанности и ответственность в нем разделены достаточно абстрактно. Кроме того, инициативу уже раскритиковал Совет при президенте по кодификации, указав, что часть положений дублирует действующее гражданское регулирование или конфликтует с ним.

Пока ИИ — это лишь инструмент в руках человека, пусть и обладающий довольно большой самостоятельностью. Кроме того, появляются предложения приравнять ИИ к источнику повышенной опасности, возложив таким образом на его владельца безвиновную ответственность за причиненный вред. Такое решение тоже неидеально, ведь и оно не дает ответа на вопрос об ответственном лице.

Толчком для развития страхования могут стать крупные судебные споры, рост числа инцидентов или появление специальных требований к управлению такими системами. Кожевников считает, что конкретные дела о возмещении значительного ущерба могут подтолкнуть законодателя к закрытию пробелов.