Семь грехов искусственного интеллекта: как убрать риски для профессии юриста
В начале сессии заместитель декана юридического факультета СПбГУ Сергей Оленников подчеркнул, что юридическое образование не должно бороться с искусственным интеллектом. Его задача — научить будущего юриста мыслить, анализировать и самостоятельно обосновывать позицию. Один из тезисов, который обсуждают в профессиональной среде, такой: выпускник юрфака должен быть способен подготовить процессуальный документ и правовую позицию даже в ситуации, если отключились электричество и интернет. Поэтому спикер считает, что искусственный интеллект можно использовать как новый инструмент, но он не отменяет гуманитарную миссию юридического образования. Технический навык работы с цифровыми сервисами важен, но вторичен. Главная задача университета — развивать интеллектуальные способности, профессиональное мышление и способность юриста решать сложные задачи с помощью новых инструментов, не подменяя ими собственное суждение.
Директор по правовым вопросам «Яндекса» Юлия Попелышева считает, что для будущих выпускников ИИ становится не только большим новым инструментом, но и вызовом: привычный путь от подмастерья к мастеру уже меняется, потому что часть задач, на которых учились молодые юристы, теперь могут выполнять технологии. Работодатели рассчитывают на участие вузов в этой перестройке, но и сами должны помочь рынку. Например, в «Яндексе» решили запустить грантовую программу для вузов и юридических клиник, которая даст доступ к их сервису «Нейроюрист». Попелышева полагает, что такие инструменты должны помочь студентам учиться работать с ИИ на практике: понимать, где он усиливает юриста, а где требует самостоятельной проверки и профессионального суждения. Она сравнила это с доступом к справочно-правовым системам, который когда-то стал важным инструментом для поиска судебной практики и нормативных материалов.
Оленников поддержал идею практических форматов обучения, но подчеркнул, что в условиях распространения ИИ особенно важно сохранять живое общение студентов с людьми. Погружение в цифровую среду уже влияет на коммуникативные навыки, а для юриста умение разговаривать с доверителем остается базовым профессиональным навыком. В этом смысле важную роль играют юридические клиники. Они работают по модели юридической фирмы внутри университета: реальные люди приходят с реальными проблемами, а студенты под руководством преподавателей помогают им разобраться в ситуации. Такой формат нужно сохранять и развивать, потому что юридическая профессия во многом остается работой с человеком, а не только с текстом или цифровым инструментом.
Прежде чем поставить задачу искусственному интеллекту, юрист должен понять проблему человека, который часто приходит в конфликтной и эмоционально сложной ситуации. Поэтому наряду с цифровыми навыками студентам нужно развивать эмоциональный интеллект и способность вести профессиональный диалог.
Управляющий партнер «Меллинг, Войтишкин и партнеры» Сергей Войтишкин рассказал, как юрфирма подходит к внедрению искусственного интеллекта на практике. По его словам, сначала рынок сдерживали два риска: «галлюцинации» моделей и невозможность загружать конфиденциальные данные в «черный ящик». Но после того как крупнейшие международные фирмы начали использовать ИИ, российским консультантам тоже пришлось ускориться. Войтишкин подчеркнул, что запретами проблему не решить: сотрудники все равно будут пользоваться удобными инструментами на личных устройствах, если фирма не предложит безопасную альтернативу. Поэтому компания пошла по пути создания собственной инфраструктуры и обучения сотрудников. При этом полностью разрабатывать модель внутри оказалось слишком дорого и рискованно: такие инвестиции могут быстро устареть, когда крупные технологические игроки выпускают новые продукты. В итоге фирма выбрала ограниченную облачную модель и отслеживает, как сотрудники используют систему.
Сейчас около 80% сотрудников уже работают с этим инструментом, отметил Войтишкин. Лучшие результаты ИИ показывает в переводах, анализе текстов, подготовке проектов документов и поиске информации. Но все результаты юристы перепроверяют, потому что модели продолжают придумывать факты, а ошибки могут ударить по репутации фирмы. Дополнительные ограничения связаны с конфиденциальностью: данные остаются в России, информацию анонимизируют, а некоторые клиенты прямо запрещают обрабатывать отдельные сведения с помощью ИИ без согласия.
Клиенты пока готовы оплачивать только время «естественного интеллекта», то есть работу юриста, а не время, которое тратит ИИ. Но если фирма быстро выдает качественный результат благодаря инвестициям в технологии, почасовая модель хуже отражает ценность работы. Поэтому рынок будет двигаться к value based pricing — оплате за результат, а не только за часы.
Попелышева поделилась тем, как ИИ внедряют в работу юридических подразделений и несколькими типичными ошибками при внедрении. Первая — сопротивление команды. Если руководитель просто спускает сверху указ «с завтрашнего дня используем ИИ», юристы часто воспринимают это как угрозу или дополнительную нагрузку. Поэтому внутри команды нужен проводник изменений — не IT-специалист, а юрист, который сможет объяснить коллегам, какие процессы можно оптимизировать и зачем это нужно.
Вторая ошибка — «зоопарк» несвязанных решений. Компании покупают отдельные системы для договоров, комплаенса или анализа практики, но они не стыкуются друг с другом, внутренними процессами и требованиями безопасности. В итоге проект может остановиться еще на ранней стадии. По словам Попелышевой, перед внедрением нужно оценить не только цену продукта, но и затраты на интеграцию, обучение, человеческий ресурс и работу в защищенном контуре.
Третья проблема — нереалистичные ожидания. Нельзя сразу заменить всех юристов ИИ или внедрить инструмент во все процессы одновременно. Поэтому следует идти поэтапно: сначала — пилот, затем — выделенный процесс, сбор обратной связи, настройка. И только после этого — масштабирование.
Попелышева также назвала практические правила успешного внедрения. Она подчеркнула, что начинать нужно не с хайпа вокруг технологии, а с конкретной боли команды — поиска рутинного процесса, который больше всего мешает юристам. Затем нужно обучать людей, а не только «кормить машину» данными. И наконец, внедрять ИИ нужно как юридический проект — итеративно, с оговорками и настройкой под реальные задачи.
Успешность внедрения нужно измерять деньгами: сколько компания сэкономила на консультантах и насколько эффективнее распределила внутренние ресурсы. Можно смотреть, в каком количестве кейсов использовали модель, довольны ли сотрудники результатом и какие комментарии дают руководители по сокращению расходов. Сейчас это все измеримо, и об этом можно говорить вполне конкретно.
Член коллегии, министр по конкуренции и антимонопольному регулированию ЕЭК Максим Ермолович рассказал, что общий объем инвестиций в ИИ до 2030 года оценивают в $1 трлн, поэтому игнорировать эту технологию уже нельзя. При этом государства внедряют ИИ не только ради экономии, а чтобы эффективнее решать публичные задачи — от анализа цен до выявления сговоров на торгах. В антимонопольной сфере страны ЕАЭС уже используют такие инструменты. Армения, Белоруссия и Киргизия начали с анализа цен и больших данных, чтобы отслеживать ценовую стабильность. Россия активнее применяет ИИ для выявления сговоров на закупках и анализа экономической концентрации. Казахстан внедряет собственные системы для поиска нарушений на торгах. ЕЭК тоже автоматизирует свою работу. С помощью ИИ готовят протоколы совещаний, отслеживают нормативные акты стран союза и поиска несоответствий праву ЕАЭС, мониторят публичные заявления компаний о намерении повысить цены. Следующий этап — создать инструмент для анализа товарных рынков и состояния конкуренции. Сейчас ЕЭК способна анализировать около 150 рынков в год, а ИИ, по оценке Ермоловича, может увеличить этот показатель в десятки раз.
Старший управляющий директор правового департамента Сбербанка Владислав Колосков говорил о рисках использования ИИ в юридической работе. Он считает главной проблемой массовое применение инструментов без контроля работодателя и без системы управления рисками. Таких рисков несколько: загрузка клиентских документов в публичные модели, слабое обезличивание, скрытые вредоносные инструкции в документах, сохранение данных в логах и служебных файлах, чрезмерные права доступа у ИИ-агентов и возможность восстановить фрагменты информации по запросам. Поэтому юрист, который загружает данные в модель, отвечает за правомерность их обработки.
Для оценки рисков Колосков предложил делить сценарии использования ИИ на три зоны. В зеленой зоне — безопасные задачи: общие правовые вопросы и работа с документами, из которых полностью удалили персональные данные и конфиденциальную информацию. В желтой — работа с ограниченным набором данных, но только в утвержденных корпоративных сервисах: с настройками безопасности, запретом на обучение модели на клиентских документах и ограниченным доступом. В красной зоне — полный запрет: нельзя загружать в публичные модели реальные клиентские документы, персональные данные, банковскую, коммерческую и другую охраняемую тайну. При этом простой запрет не решит проблему, а потому использование ИИ нужно вывести из тени и сделать управляемым инструментом юрфункции, считает эксперт. Для этого компании должны определить разрешенные сценарии, дать сотрудникам безопасные сервисы, запретить личные аккаунты для клиентских данных, минимизировать объем загружаемой информации, проводить аудит решений и выстроить управление моделями, данными и рисками.