ПРАВО.ru
Legal Week NY
5 февраля 2020, 19:03

Обратная сторона прогресса: чего стоит бояться в автоматизации права

Обратная сторона прогресса: чего стоит бояться в автоматизации права
Big Data помогает хранить большой объём информации о клиентах, но регулятор принимает закон - и вот часть данных нарушает их права. Алгоритмы могут определить идеальную цену для страховки, но непонятно, как они работают. Можно сгенерировать условия договора, но вряд ли судья поймёт исходный код. Об этом поговорили на юридической неделе в Нью-Йорке.

4 февраля на конференции Legaltech в Нью-Йорке представители разных юридических фирм и компаний, которые специализируются на информационных технологиях в правовой отрасли, обсудили тёмную сторону технического прогресса. По словам специалистов, минусов от автоматизации в юриспруденции не меньше, чем плюсов. О том, как прошел первый день конференции, рассказал Law.com, а мы перевели эти новости.

Как уследить за персональными данными?

На одной из панельных дискуссий участники вспомнили Общий регламент ЕС по защите данных. Это дало повод для дискуссий на тему конфиденциальности.

Клиенты юрфирм обеспокоены хранением данных в облаке

Анджу Хурана, директор и глава отдела конфиденциальности и защиты банка BNY Mellon, сообщила, что законы о конфиденциальности существуют более чем в 100 юрисдикциях. Некоторые из них, как европейский регламент, носят экстерриториальный характер, т.е. применяются к компаниям, основные мощности которых находятся за пределами границ Евросоюза. В то же время, в США свои особенности законотворчества в этой отрасли. Здесь отдельные штаты могут принимать законы о конфиденциальности без какого-либо общегосударственного регулирования. Кеннет Рашбаум, партнёр юридической фирмы Barton, советует клиентам не ждать, пока подобные законы примут общенациональный характер, а начинать менять свои внутрикорпоративные  нормы уже сейчас. 

Рашбаум добавил, что не стоит сильно переживать из-за новых мер, поскольку все принципы, на которых базируются законы о конфиденциальности, более или менее похожи. В основе их лежит защита прав субъектов персональных данных. Рашбаум сказал, что клиенты, как правило, не хотят вникать во все тонкости конкретного закона, и поэтому у них нет плана действий, как приводить внутренние регламенты в соответствие с новыми нормами. Кортни Стаут, главная специалистка по конфиденциальности в компании S&P Global считает, что адаптация к законодательству в этой сфере - процесс перманентный. По её словам, сложности создают сами субъекты персональных данных, которые впадают в ярость всякий раз, когда спрашивают у представителей бизнеса, как используются их данные. “Физлица всегда будут жаловаться регулятору и сразу же уведомлять вас об этом”, - говорит Стаут.

"Люди впадают в ярость, когда спрашивают, как используются их персональные данные. Физлица всегда будут жаловаться регулятору и сразу же уведомлять вас об этом".

Рашбаум предложил организациям ввести так называемое “дерево решений”, чтобы нарушение закона не застало их врасплох. Полезный шаг в этом направлении - иметь карту данных - схему, из которой было бы ясно где хранятся все персональные данные, собранные организацией. Хурана добавила, что такие карты должны быть соотнесены с конкретными физлицами, чтобы было удобнее удалить информацию по запросу. Но в крупной компании тяжело определить какое подразделение виновно в нарушении законов о защите персональных данных.  

Алгоритмы в учёбе и страховании

В цифровую эпоху часто бывает, что преимущества от технологий слишком хороши, чтобы быть правдой.  Например, компьютерные программы для принятия решений, основанные на алгоритмах и искусственном интеллекте, могут помочь учебным заведениям улучшить академические достижения, а страховым компаниям - установить оптимальную ценовую политику. Но обратная сторона этих преимуществ - сложности в понимании, ограничении и управлении самими этими инструментами. Этот парадокс обсудили ещё на одной панели

Искусственный интеллект для юристов: чем он полезен и опасен

Помощник главного юридического советника и менеджер отдела по защите персональных данных Нью-Йоркского технологического института Джордан Томпсон отметил, что его заведение разрабатывало алгоритмические инструменты, чтобы помочь"определить студентов, которые с наибольшей вероятностью станут отстающими и не преуспеют в учёбе". По словам Томпсона, "эту аналитическую работу проводили ещё до того, как эти студенты пересекли порог кампуса". Анализ использовал такие данные, как доход родителей и социально-экономический статус семьи. Он применялся только в отношении тех, кого приняли в учебное заведение. Целью было помочь отобрать студентов на вспомогательную работу. Томпсон добавил, что его беспокоит злоупотребление такими технологиями. По его словам, в такой децентрализованной системе “есть факультеты и группа людей, работающих на этих факультетах, которая не всегда прислушивается к администрации”. Возможна такая ситуация, когда профессор будет допускать дискриминацию отдельных студентов только на основе результата алгоритмического анализа. 

В страховой сфере анализ, основанный на алгоритмах, тоже может оказаться не так прост. Стивен Полли, партнёр фирмы Anderson Kill, вспоминает одну страховую компанию, которая “разработала отличный прогностический алгоритм, основанный на машинном обучении. Используя незначительный объём данных, он мог точно определить стоимость страховки”. Проблема была в том, что сами разработчики не знали, как именно софт добивается нужных результатов. Полли отмечает, что некоторые регуляторы, вроде Департамента Нью-Йорка по финансовым услугам, оставляют за собой право проверять алгоритмы и требуют, чтобы те были транспарентны. 

"Умные контракты" против традиционных договоров

Главным преимуществом так называемых “умных контрактов”, которые автоматически генерируют условия соглашения, часто называют возможность избавиться от посредников. Но участники панели, посвящённой блокчейну, опровергли эту идею. Они считают, что такой уровень независимости наступит ещё не скоро, а скорее всего вообще не наступит.

Мойше Малина, первый помощник главного юрисконсульта в Citigroup, считает, что хоть все и говорят об “умных контрактах” как о полностью автоматизированном процессе, на практике он этого не видит. На его взгляд, это самые обычные договоры, составленные на традиционном языке, которые лишь стоят на верхушке цепочки блокчейна.

Новый софт поможет оформить патентную заявку и составить контракт

Джо Дьюи, партнёр фирмы Holland & Knight, отметил, что хотя услуги “умных контрактов” уже давно в продаже, они сильно эволюционировали с момента их выхода на рынок. “Многие из них начинали  как платформы, ориентированные на блокчейн, а если вы посмотрите на них сегодня, основной фокус приходится на автоматизацию”.

Малина добавил, что есть несколько причин, по которым “умные контракты”, скорее всего, не заменят традиционные. Во-первых, как и любая технология, они не всегда будут работать как надо. “В некоторых “умных контрактах” на Ethereum были ошибки в кодах, генерировавшие сделку, которая изначально не планировалась”. 

"В некоторых смарт-контрактах были ошибки. В результате генерировалась сделка, которую изначально не планировали".

Во-вторых, в традиционных договорах есть необходимый уровень гибкости, поскольку они могут обеспечить больший набор средств правовой защиты и встречного удовлетворения. И даже если это совсем простое соглашение, которое может быть легко автоматизировано “умным контрактом”, традиционный договор всё равно будет нести больше преимуществ для судебного оспаривания. Малина отметил, что при рассмотрении “умного контракта” в суде возникнут сложности, поскольку “ни судьи, ни присяжные компьютерные коды не читают”. В таких случаях судьям придётся прибегать к услугам экспертов по кодировке, а эта процедура не из лёгких.

На конференция Legaltech сотрудники различных компаний обсуждают роль и перспективы информационных технологий в юридической отрасли.  Конференция проходит в Нью-Йорке в рамках Юридической недели