Прогноз повторных правонарушений
В США распространен механизм залогов как меры пресечения. Чтобы определить, какую именно меру выбрать в конкретном случае, оценивают опасность человека для общества. Склонен к повторным преступлениям — отправится в тюрьму. Если к правонарушению привела случайность, то можно оставлять на свободе. Вероятность повторного совершения правонарушений судьи оценивают через множество факторов.
Для такой оценки компания Northpointe разработала программу COMPAS (Correctional Offender Management Profiling for Alternative Sanctions, или Профилирование правонарушителей для применения альтернативных исправительных мероприятий). Алгоритм применяют для оценки риска повторного преступления, и суды пользуются им для решения вопроса о тюремном заключении или применении мер пробации: освобождения под залог, условно-досрочного освобождения и подобного.
Система анализирует ответы на 137 вопросов: часть из них дает сам оцениваемый, часть берут из дела. Конкретные вопросы не разглашают — это считают коммерческой тайной. Многие судьи определяли тяжесть наказания, опираясь на оценку программы как на непреложный факт.
Вокруг применения алгоритма ведется дискуссия. Некоммерческая организация ProPublica, специализирующаяся на журналистских расследованиях, в 2015 году обвинила создателей алгоритма в предвзятости их модели. Результаты прогнозов отличались в зависимости от цвета кожи нарушителей, даже если они совершили одно и то же преступление. Афроамериканцев система чаще оценивает как склонных к повторным правонарушениям, поэтому суд назначает им более жесткие наказания. При этом в приведенных изданием примерах в течение двух лет как раз афроамериканцы оказывались законопослушными.
COMPAS — не единственный алгоритм оценки риска повторного преступления. В США разработаны и другие системы того же назначения. Разработчики некоторых из них — спонсоры ProPublica.
Расследование ProPublica привело к оживленной общественной дискуссии, одним из участников которой стал Верховный суд штата Висконсин, где COMPAS активно применяют в судопроизводстве. Суд, который ранее рекомендовал «машинные» решения, указал: оценки компьютера не должны заменять собой судебное усмотрение, это только вспомогательный инструмент.
Альтернативное исследование алгоритма COMPAS провел The Washington Post. Журналисты издания обнаружили, что в целом алгоритм оценивает ситуацию корректно: преступники, которым ставили максимальный риск рецидива, нарушали закон вчетверо чаще, чем носители минимального показателя. При этом авторы расследования задаются вопросом: что означает для алгоритма быть справедливым? Четкого ответа на этот вопрос получить не удалось.
А последние исследования показали, что COMPAS предсказывает риск рецидивов лучше, чем неопытные судьи, но опытным все же проигрывает.
Виртуальный судья
В китайском городе Ханчжоу в 2019 году появился ИИ-судья. Онлайн-суды — процессы, которые от подачи заявления до вынесения вердикта проходят в дистанционном формате, — появились здесь еще в 2017 году.
Ханчжоу — центр китайской электронной коммерции, в котором сконцентрированы дела, связанные с онлайн-покупками и иной интернет-активностью. Именно здесь стартовала практика ведения онлайн-судов, которая потом распространилась на Пекин, Гуанчжоу и другие провинции.
Государственная политика Китая направлена на превращение страны в интернет-державу, и деятельность, связанная с правом, начала переходить в онлайн еще с 2013 года. Сначала появилась возможность подать электронный иск в суд, затем начали регистрировать дела, и наконец в 2017 году появилось полноценное судебное производство, которое выручило страну во время пандемии COVID-19.
Недавно широко освещали новость, что в Китае искусственный интеллект рассматривает судебные дела и выносит вердикты. Правда оказалась не настолько впечатляющей: система «Умный суд System of Systems», доступ к которой имеет каждый судья в стране, выполняет функции ассистента. Программа ищет дела, похожие на рассматриваемые, предлагает нужные нормы, а еще исправляет ошибки человека. И этого уже немало: машинный разум сократил нагрузку на судей более чем на 30% и значительно снизил затраты китайцев на адвокатов. Кстати, ИИ порой и исполняет решения суда, например арестовывает имущество.
Использование «Умного суда» — важный шаг к единообразию в судопроизводстве. Судья должен либо принять рекомендацию ИИ, либо обосновать, почему он ее отклонил. Это вызывает критику со стороны консервативной части общества. По мнению части юристов, ИИ не всегда выбирает оптимальные законы или материалы с точки зрения конкретного дела, а судьи опасаются с ним спорить.
ИИ-прокурор
Пока в Китае ИИ занят в сфере гражданского и административного права и власти только задумываются о его внедрении в уголовное судопроизводство, в Малайзии роботы уже ассистируют при вынесении решений в делах, связанных с хранением наркотиков и изнасилованиями. Система AiCOS (искусственный интеллект при вынесении судебных приговоров) в режиме тестирования внедряют в штатах Сабах и Саравак, расположенных на острове Борнео. Она дает рекомендации о приговорах в делах. Некоторые юристы даже трактуют результат действий системы как вынесение приговоров.
Противники использования ИИ-системы в правосудии Малайзии упирают на неконституционность технологии, отсутствие законодательного регулирования применения ИИ-технологий в целом и в судебной практике в частности. Из этого следует опасность вынесения подсудимым более жестких приговоров. Кроме того, формулировка «на усмотрение судьи» в случае с ИИ теряет смысл, по крайней мере на сегодняшнем этапе его развития. Отягчающие и смягчающие обстоятельства робот учитывать не может.
Еще один аспект, который беспокоит консерваторов, — зависимость мнения судей-людей, особенно молодых, от решений ИИ. На практике решения людей и машины совпадают примерно в трети случаев.
За использование ИИ-технологий говорят удешевление судопроизводства и улучшение качества судебных решений, под которым чаще всего понимают стандартизацию подхода к делам и назначение одинаковых наказаний при равной степени вины осужденных.
Судья в отпуске без содержания
В Эстонии шесть лет назад объявили о создании ИИ-системы, рассматривающей простые гражданские иски на сумму до €7000 евро без участия человека. Предполагалось, что стороны будут просто загружать все необходимые документы, а ИИ-судья выдаст решение. Планировалась возможность обжаловать решения у живого судьи.
Целью нововведения, как и в других странах, была разгрузка системы судопроизводства от мелких дел. Обучали систему на типовых спорах. Но до внедрения инициативы дело не дошло: после марта 2019 года новостей об эстонском роботе-судье не выходило. Только в 2023 году председатель Госсуда Эстонии Виллу Кыве сообщил о тяжелой ситуации в судебной системе государства. Суды перегружены, почти четверть судей вскоре должна выйти на пенсию, а желающих заместить их нет. В качестве одного из инструментов решения ситуации юрист назвал внедрение искусственного интеллекта.
Не исключено, что проволочки с внедрением ИИ-судьи в Эстонии, как и отсутствие новостей о роботах-юристах в Европе, связаны с разработкой Закона ЕС об искусственном интеллекте, который приняли в 2024 году. Согласно логике закона, ИИ, которые работают в области юриспруденции и влияют на решения судов, нужно относить к группе высокого риска. А значит, для системы требуется оценка соответствия европейским нормам, которая занимает определенное время. Возможно, об эстонском роботе-судье у нас еще есть шанс услышать.
Переговорщик
Канадские разработчики интеллектуальных систем решили сократить количество исков за счет внедрения ИИ не в судебную систему, а в переговорный процесс. Так появился единственный в нашей подборке пример работы искусственного интеллекта внутри правовой системы, против которого не выступил никто.
Разработка Smartsettle ONE создана для досудебного урегулирования коммерческих споров. Как и другие ИИ-решения, она привлекает стоимостью услуги: решение робота-переговорщика стоит дешевле, чем обращение в суд.
Есть две стороны спора или больше и их позиция, далее в ход идут прозрачные алгоритмы, по которым работает ИИ. У сторон собственные ожидания от результатов спора, в которые закладывают как финансовую составляющую самого спора, и судебные издержки, потери из-за вывода средств из оборота и другие расходы.
Система анализирует предложения сторон и с помощью алгоритма взаимных уступок приводит требования к значениям, приемлемым для каждого участника спора. Стороны могут влиять на итоговое решение, принимая или отвергая предложения системы. Это позволяет быстро и без судебных разбирательств привести стороны к решению проблемы, даже если классические переговоры не давали результатов в течение нескольких месяцев. Именно так урегулировали спор из-за £2000, которые одна сторона задолжала другой за курс индивидуального консультирования.
Попытки внедрять искусственный интеллект в судебную систему активно происходят в Америке и Азии. Они наталкиваются на противодействие юристов: ставится под сомнение их законность, беспристрастность и корректность в определении наказания. В то же время перегруженность судебной системы вынуждает правительства разных стран прибегать к автоматизации судопроизводства. Не всегда для этого требуется заменять судью роботом. Бывает достаточно дать сторонам другой инструмент законного решения конфликтов, кроме суда, или снять с юристов рутинную работу с документами, переложив ее на электронных ассистентов.
