Проект под названием Palantir ("Палантир") был основан в 2012 году и действовал в Новом Орлеане вплоть до февраля 2018 года. Сейчас нет достоверной информации о статусе разработки, так что остается вероятность, что контракт продлили (в компании на запрос не ответили). Система владела огромным массивом данных о всех жителях города. Внутри программы можно было проследить за любым человеком: узнать, с кем он общается, на какой машине ездит, кого добавляет в друзья в соцсети. Полицейский мог просто ввести имя человека в систему и узнать о нем все, а иногда и имя было не обязательно, достаточно номера машины или даже клички преступника.
"Палантир" составлял электронную "паутину" из всех людей и их контактов, а затем анализировал ее и пытался предположить, какой человек совершит или, наоборот, рискует стать жертвой преступления.
При этом местные жители не знали о программе абсолютно ничего. "Палантир" был секретным заказом ЦРУ, проходил по документам как благотворительная программа, и доступ к нему имели только полицейские. "Удивляет, что столь тщательное наблюдение за жизнями обычных граждан хранилось в тайне", – говорит руководитель Roderick and Solange MacArthur Justice Center (центр правосудия Нового Орлеана) Джим Крейг, его слова приводит журнал The Verge. Корреспонденты издания связались с членами городского совета, и даже они понятия не имели, что в городе работала система "Палантир", однако лично мэр города знал о ней.
В книгах Дж. Р. Р. Толкина палантирами назывались камни, с помощью которых можно было увидеть, что происходит в другом месте, – в прошлом или в настоящем.
Компания Palantir Technologies (разработчик системы "Палантир") была основана в 2004 году. Прогнозирование преступности в Новом Орлеане – не первый ее проект, раньше компания работала в военной сфере, Пентагон использовал ее продукты для прогнозирования местонахождения самодельных бомб в Афганистане и Ираке. Начиная с 2009 года "Палантир" привлекли и в гражданскую сферу, чтобы научиться прогнозировать преступность.
Инвестиции в интеллектуальную технологию и интерес к ней увеличились после 2009 года, когда Национальный институт правосудия начал выпуск грантов для пилотных проектов по прогнозированию преступности. Эти гранты лежат в основе некоторых из наиболее известных и наиболее тщательно продуманных мер по предупреждению преступности в Чикаго и Лос-Анджелесе. Программы различаются, но все они направлены на то, чтобы перерабатывать огромные объемы данных. В последующие годы многие начинающие фирмы боролись за то, чтобы монетизировать метод борьбы с преступностью, но удавалось не многим.
Программы для прогноза действуют примерно одинаково вне зависимости от того, применяются они для поиска бомб или следят за гражданами. Основной функционал "Палантира" – визуализация больших объемов информации, чтобы позволить людям без специального технического образования видеть связь между объектами.
После долгого сотрудничества с Новым Орлеаном и спецслужбами США "Палантир" запатентовал свою систему прогнозирования преступности и продал еще одну программу иностранным разведывательным службам. Она, по информации The Verge, нужна, чтобы прогнозировать теракты.
Вопрос, не нарушает ли деятельность "Палантира" гражданские права и свободы людей, еще открыт. В компании на него отвечают отрицательно. По словам одного из разработчиков, гарантией благонадежности "Палантира" является то, что каждое действие сотрудников навсегда заносится в лог. На своем сайте компания позиционирует себя как некую "корпорацию добра" с лозунгом об упрощении жизни и помощи людям. "Наша команда предана работе на общее благо", – сказано на сайте.
В последнее время города по всей Америке начали сталкиваться с вопросом о том, как муниципалитеты должны регулировать обмен данными и конфиденциальность. Некоторые города, такие как Сиэтл и Окленд, приняли надзорные законы, в то время как другие, такие как Нью-Йорк, обсуждают, какую роль должны играть городские советы в отношении конфиденциальности в эпоху цифровых технологий.
"Я – единственный зачинщик этого проекта"
Такое заявление сделал Джеймс Карвилл, член Демократической партии и создатель успешной президентской кампании Билла Клинтона в 1992 году. Он сказал, что лично инициировал сотрудничество между "Палантиром" и Новым Орлеаном. "Это была моя идея", – прямо заявляет он. Карвилл и генеральный директор "Палантира" Алекс Карп вылетели в Новый Орлеан, чтобы встретиться с мэром города. "У меня был мотив. Молодые люди стреляли друг в друга, и общественность не была так вовлечена, как должна была", – говорит Карвилл, имея в виду высокий уровень преступности и убийств в городе. На тот момент она была на шестом месте по всей стране.
"Генеральный директор компании "Палантир " – парень по имени Алекс Карп – сказал, что они хотят сделать благотворительную работу, и спросил, что я думаю? Я сказал, что в Новом Орлеане у нас очень ужасный уровень преступности", – сказал Карвилл. "И вот он встретился с нашим мэром... они сошлись в мнениях о безнравственности молодых людей, убивающих друг друга, и оба были недовольны обществом, которое ничего не делают с этим. И мы смогли без каких-либо затрат для города начать интегрировать данные, прогнозировать и вмешиваться в то, где будут возникать эти конфликты. Мы видели, вероятно, что это поможет сократить уровень убийств как минимум на треть с момента начала этого проекта".
Ронал Серпас, глава полиции Нового Орлеана с 2010 по август 2014, вспоминал о своем знакомстве с персоналом "Палантира": "Они подошли и обсудили работу, которую они проводят на войне и которую они выполняют в других частях света", – сказал Серпас во время интервью в своем кабинете в Университете Лойолы. "Мне показалось, что "Палантир" заинтересовался попыткой разработать продукт, который мог бы предсказать преступление".
Снизилась ли в итоге преступность?
Сначала снизилась. В течение первых двух лет работы "Палантира" в городе произошло резкое падение убийств и насилия с применением оружия, но это было ненадолго. По мере того, как все больше городов и компаний начали экспериментировать с предсказаниями преступности, исследования, финансируемые правительством, ставят под сомнение его эффективность.
Исследовательская организация RAND еще в 2016 году писала, что статистика говорит о том, что программа в целом работает, но это далеко не означает, что общество способно предотвратить преступность, даже если у полиции есть представление о том, кто может быть вовлечен в преступление.
Чикагская полиция ("Палантир" работал в городе уже после Нового Орлеана) утверждает, что три из четырех жертв стрельбы в 2016 году находились в секретном "горячем списке", то есть программа распознала их и показала, что они находятся под угрозой. И 80% виновников стрельбы были в списке. Но если это так, то почему это преступление никто не предотвратил?
Программа позволила предотвратить менее двух убийств в год, что составляет меньше 1% от общего уровня.
Чтобы добиться снижения уровня убийства в городе хотя бы на 5%, необходимы огромные скачки как в прогнозировании, так и в эффективности вмешательства. Ни один алгоритм не может предсказать с абсолютной уверенностью, что там-то и тогда-то будет преступление. Программа может примерно показать, кто может быть замешан, но в чем конкретно, она не знает.
"Короче говоря, это не сработало", – заключают эксперты. Чикагская полиция выявила 426 человек, которые подвержены наибольшему риску насилия с применением оружия. В многомиллионном городе это управляемое количество людей, на которых нужно сосредоточиться. Однако Чикагская полиция не предоставила им никаких услуг или программ.
Так что недостаточно просто поставить программу и положиться на нее. Необходимо, чтобы полиция работала: тщательно проверяла тех, кого система называет преступником, и предупреждала тех, кто рискует стать жертвой.
При подготовке материала использовались следующие источники:
The Verge - Palantir has secretly been using New Orleans to test its predictive policing technology
The Verge - Chicago’s predictive policing tool just failed a major test
The RAND Blog - Pitfalls of Predictive Policing
Wired - How Peter Thiel's secretive data company pushed into policing
NOLA - With spike in violence, New Orleans had more shootings per capita than Chicago in 2016