Депутаты Европейского парламента поддержали большинством голосов первый в мире закон о разработке и применении искусственного интеллекта. За принятие ранее согласованного документа проголосовали 523 депутата, против — 46, воздержались 49 парламентариев.
Закон исходит из важности сохранения человеческого контроля за ИИ и запрета на использование опасных для человека систем. К ним относят те, что используют методы манипулирования или предназначаются для социальной оценки людей (их классификации по разным критериям: поведению, социальному статусу и личностным характеристикам).
Документ запрещает распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение сделают для расследования тяжких преступлений, но в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда. Системы распознавания эмоций людей нельзя будет использовать силовикам, работодателям, учебным заведениям и органам пограничного контроля. Отдельно в законе оговаривается запрет прогностических систем полиции — это механизм, который использует ИИ для анализа больших объемов данных (биографии человека, связанных с ним местах или совершенных ранее преступлениях) и выявляет потенциальных преступников или жертв преступлений.
Закон выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском и генерирующие системы (нейросети). К высокорисковым отнесут системы, которые причиняют ущерб здоровью, безопасности и основным правам человека и вредят окружающей среде. Еще в эту категорию попали системы, влияющие на мнение избирателей в политических кампаниях, и рекомендательные алгоритмы, которые используют соцсети более чем с 45 млн пользователей.
В одобренном Европарламентом законе содержатся также требования к разработчикам систем ИИ. В работе они должны не допускать генерацию нелегального контента и сообщать о материалах, которые используют для обучения системы. Обладатели авторских прав на такие материалы смогут подать иск, если обнаружат, что разработчик незаконно обучал нейросеть на их контенте. За нарушение этих правил придется заплатить до €30 млн штрафа или 6% годовой глобальной выручки компании.
Теперь закон должен одобрить Европейский совет. Предполагается, что он вступит в силу в конце мая, пишет CNBC.