Комитеты Европейского парламента по внутреннему рынку и гражданским свободам 11 мая согласовали основные положения проекта закона о регулировании искусственного интеллекта (ИИ), как следует из пресс-релиза на сайте Европарламента. За принятие документа проголосовали 84 депутата, против — 7, воздержались 12 членов комиссий. Теперь законопроект предстоит утвердить на пленарном заседании Европарламента в июне. После этого пройдут переговоры с Советом ЕС об окончательной редакции закона.
Депутаты Европарламента отметили, что предложенные ими к первоначальной версии закона поправки должны обеспечить ориентированное на людей и этичное развитие ИИ в Европе. Обновленная редакция документа исходит из важности сохранения человеческого контроля за ИИ и запрета на использование опасных для человека систем. К таким проект относит системы, которые используют подсознательные или целенаправленные методы манипулирования или предназначены для социальной оценки людей (их классификации по разным критериям: поведению, социальному статусу и личностным характеристикам).
Закон запрещает распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение сделали для расследования тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к системам у суда. Системы распознавания эмоций людей нельзя будет использовать правоохранительным органам, любым работодателям, учебным заведениям и органам пограничного контроля. Отдельно оговаривается запрет прогностических систем полиции — это механизм, который использует ИИ для анализа больших объемов данных (фактов биографии человека, его местах нахождения или совершенных ранее преступлений) и выявляет потенциальных преступников или жертв преступлений.
Депутаты также расширили категорию сфер высокого риска и отнесли к ним ущерб здоровью, безопасности и основным правам человека, вред окружающей среде. К рисковым системам ИИ отнесли те, что влияют на мнение избирателей в политических кампаниях, и рекомендательные алгоритмы, которые используют социальные сети более чем с 45 млн пользователей.
Закон предусмотрел также требования к разработчикам нейросетей. В работе они должны не допускать генерацию нелегального контента и сообщать о материалах, которые используют для обучения системы. Обладатели авторских прав на такие материалы могут подать иск, если выяснят, что разработчик незаконно обучал нейросеть на их контенте.
Нарушителям нового закона может грозить штраф до €10 млн и запрет на работу в Евросоюзе. Исключение сделали для исследователей искусственного интеллекта, чтобы поощрить инновации в области ИИ.
После голосования содокладчик Драгош Тудораче предположил, что новый закон предоставит инновационные возможности для стартапов, компаний и промышленности, а также сможет защитить права человека при использовании ИИ.