"Это не я, ваша честь, это мой мозговой имплантат"

Глубокая стимуляция мозга помогает "изнутри" бороться с его заболеваниями. Но как выяснили врачи, имплантаты способны попутно менять пристрастия пациентов и даже вызывать галлюцинации. Ученые беспокоятся, что по мере развития технологий это может привести к "навязанным извне" преступлениям. Доцент нейроэтики Лора Кабрера и адъюнкт-профессор права Дженнифер Картер-Джонсон из Университета штата Мичиган рассказывают о вызовах, которые нейротехнологии бросают праву и морали уже сейчас.

Б. очень любит кантри-исполнителя Джонни Кэша, хотя вообще-то он его не любит. А И. увидел, как его доктора превращаются в итальянских поваров прямо у него на глазах.

Что объединяет этих людей? Оба проходили процедуры глубокой стимуляции мозга (ГСМ), когда имплантат посылает электрические импульсы в определенную цель в мозгу, чтобы изменить нейроактивность. Мозговые имплантаты используются для лечения заболеваний нервной системы, но подобные случаи говорят о том, что они могут менять поведение и сознание пациентов в нежелательную сторону.

Б. прописали глубокую стимуляцию мозга для лечения серьезного обсессивно-компульсивного расстройства. Он никогда не был меломаном, но после начала процедур обнаружил в себе глубокую любовь к единственному исполнителю – Джонни Кэшу. Б. купил все его диски и проигрывал их без устали. Но когда курс лечения окончился, пристрастие исчезло.

Эпилептик И. проходил мозговую стимуляцию для того, чтобы врачи могли узнать, какой участок мозга отвечает за приступы.  Но во время процедуры у пациента начались галлюцинации. Вместо больничной палаты он увидел знакомые ему места: свой дом и станцию метро, а врачи на его глазах превратились в поваров-итальянцев из местной пиццерии.

В обоих случаях ГСМ очевидно было причиной изменившегося восприятия. И это ставит целый ряд сложных вопросов. ГСМ и подобные нейротехнологии становятся все более популярными и поведение людей с имплантатами мозга может бросить вызов общественным представлениям об ответственности.

Юристы, философы и этики определили условия, при которых человек должен отвечать за свои поступки – по закону или морали. Мозг считается центром контроля, рационального мышления и эмоций: он управляет поведением людей. Соответственно, он является ключевым фактором действий, автономии и ответственности.

Кто отвечает за действия человека, который совершает поступки под влиянием своего мозгового имплантата? В качестве нейроэтика и эксперта по праву мы предлагаем обществу разобраться с этим вопросом сейчас, до того, как его будут решать судебные инстанции.

Кого винить, если что-то пойдет не так?

Представим, что К., которая была за рулем, испытала внезапное желание свернуть на автобусную остановку, полную людей. В результате несколько людей получили ранения, а остановка была повреждена. Во время расследования выяснилось, что у К. стоял мозговой имплантат для лечения болезни Паркинсона. Более того - по словам К., в месте, куда она свернула, никакой остановки не было.

По мере развития нейтротехнологий этот умозрительный случай заставляет задуматься о вопросах ответственности К. перед законом и моралью. Стоит ли винить ее одну? Можно ли перенести вину на устройство, или инженеров, которые его разработали, или производителя? А может, на нейрохирурга, который вживил аппарат, или невролога, который его запрограммировал?

Исторически ответственностью перед законом и моралью наделяли самостоятельного индивида, который думает и поступает согласно своим планам и желаниям. Он свободен от внешних сил, которые могут их исказить. Однако с развитием технологий все больше людей включается в работу с мозговыми имплантатами. В ноябре 2017-го были протестированы программы искусственного интеллекта, которые прямо влияют на мозг.

Такое внешнее воздействие заставляет задуматься, в какой степени пациент может контролировать свое поведение. Если имплантат влияет на поступки человека, значит ли это, что он подрывает его автономию? И если подрывает, можем ли мы считать пациента ответственным?

Все неоднозначно

Ответственность разделяется по-разному, например, каузальная (причинная) и юридическая. Используя это разделение, можно сказать, что на имплантате лежит каузальная ответственность, но перед законом отвечает К. Все-таки она подчинилась своему желанию. Ситуация может усугубляться тем, что она знала о риске побочных эффектов от лечения. А возможно, влияние имплантата сможет смягчить наказание, которое понесет К. как главный виновник аварии.

Это важные градации, с которыми надо считаться. То, как общество разделит ответственность, может поставить пациентов перед выбором между потенциальным преступлением и лечением заболеваний мозга.

Также возникают вопросы об ответственности производителей, персональной ответственности исследователей и разработчиков технологий, а также халатности медиков, которые вживили и запрограммировали устройство. Если ответственность разделят несколько таких людей, останется вопрос, как именно ее между ними распределить.

Еще один повод задуматься – возможность преступного вмешательства в работу имплантатов. Новейшие образцы имеют беспроводное подключение. Хакеры могут получить к ним доступ, чтобы использовать К. в своих (возможно, гнусных) целях. В прессе пока нет сообщений о злонамеренном вмешательстве в работу нейроимплантатов, но их используют все чаще. И уже известны случаи взлома дозаторов инсулина и имплантируемых кардиодефибрилляторов.  

Новые технологии часто требуют изменения или расширения правовых механизмов. Например, вспомогательные репродуктивные технологии вынудили общество заново сформулировать, что значит быть родителем. Представляя себе влияние, которое мозговые имплантаты могут оказать на концепцию ответственности, настало время обсудить, могут ли внешние воздействия на мозг извинять людей, и если да, то когда. Возможно, вскоре мы услышим в зале суда: «Это не моя вина, это мой имплантат».

Оригинал: "It's not my fault, my brain implant made me do it"

Расщепление вины и Гражданский кодекс РФ: мнение юриста из России

Установка нейростимуляторов в России имеет «приемлемую» юридическую базу, а значит, является законной, говорит гендиректор ООО "Факультет медицинского права" Полина Габай. Чтобы дать оценку побочным эффектам действия терапии (галлюцинациям, пристрастиям), надо ответить на вопрос, был ли информирован пациент о проведении глубинной стимуляции мозга (ГСМ), согласился ли он с процедурой с учетом всей ее специфики. Также важно, указаны ли наступившие последствия в инструкции или иной документации производителя. 

Далее нужно выяснить, какова причина появления побочных эффектов. Если пациенту запретили водить автомобиль, но он все равно сел за руль – его, скорее всего, привлекут к ответственности, если докажут причинно-следственную связь между нарушением, ГСМ и последствиями. Из этого правила есть несколько исключений. Например, того, кто принял врачей за итальянских поваров, скорее всего, признают невменяемым. 

Если будут доказаны нарушения врача – это еще не значит, что его (или медицинскую организацию) непременно накажут. Ведь изменения в психике пациента могут быть не связаны с действиями врача при проведении ГСМ. Б. страдала болезнью Паркинсона. Но психозы и галлюцинации встречаются при ее естественном течении или могут быть побочными эффектами противосудорожных средств. Что именно стало причиной – ответит лишь судебная экспертиза. 

Есть теоретическая вероятность привлечения медорганизации к ответственности по ст. 1079 ГК даже без факта нарушений как лица, обязанного возместить вред, который причинен источником повышенной опасности. Но практика по этой статье неоднозначна и ее можно на самом деле применить к медицинским организациям в связи с другими вмешательствами, а не только ГСМ.

Если причиной побочных эффектов стали недостатки товара и тоже будет доказана причинно-следственная связь, то ответственность перемещается в зону производителя стимулятора и программатора или его представителя в стране. Персонально наказать исследователя или разработчика при этом нельзя. 

При определенных обстоятельствах перед судом могут предстать несколько соответчиков. Ответственность же возможна долевая, а не солидарная. Последняя подразумевает совместное причинение вреда, что вряд ли может быть доказано.  Выводы о виновности в каждом конкретном случае зависят от обстоятельств дела и выводов судебных экспертиз. И без глубокого анализа можно лишь предполагать об исходе дела.

С точки зрения морали вопрос сложнее

Вопрос о влиянии техномодификаций на наши представления о моральной ответственности популярен, однако его популярность, как представляется, во многом обусловлена страхом перед неизвестным будущим, с одной стороны, и склонностью мечтать, с другой, рассказывает преподаватель школы философии НИУ ВШЭ и научный сотрудник Международной лаборатории логики, лингвистики и формальной философии Александр Мишура.

Если мы хотим не просто приятно провести время, измышляя фантастические сценарии, но пытаемся предложить принципиальные ответы, вопрос теряет значительную часть привлекательности, поскольку ответы, скорее всего, тривиальны и очевидны. С юридической точки зрения мы уже сейчас подписываем множество бумаг перед  вмешательствами в организм со стороны врачей. Обычно в них есть немало пунктов, касающихся вопроса: кто будет виноват, если что-то пойдет не так? В случае с имплантатом ситуация может быть совершенно аналогичной. Соглашаясь на его установку, вы подписываете ряд документов, добровольно и в здравом уме. Эти документы и служат основой для дальнейших разбирательств в юридическом порядке. Если, например, в них будет нечто вроде «Пациент несет всю ответственность за возможные сбои в работе имплантата», вопрос решается достаточно просто. Разумеется, возможны и более тонкие случаи, в которых надо будет разбираться в причинах сбоя для определения ответственности. Так или иначе, в каждом конкретном случае вопрос будет упираться в конкретные бумаги, подписанные пациентом. 

Если мы формулируем вопрос так: «Кто несет моральную ответственность за сбои в работе имплантата?», ситуация становится несколько сложней. Здесь возможны два базовых подхода: дескриптивный и прескриптивный. Дескриптивный подход будет опираться на уже наличные у нас интуиции относительно ответственности. Задача будет состоять в том, чтобы сделать эти принципы явными, записать их в предложениях. Например, мы можем описать десять различных случаев сбоев в работе имплантатов и зафиксировать, кто с интуитивной точки зрения несет ответственность, а затем посмотреть, есть ли какие-то закономерности в работе интуиции.Допустим, есть некоторый первый случай: имплантация была проведена хирургами-мясниками с грубыми нарушениями правил операции, а сам имплантат – бракованный кусок микросхемы из лабораторий дядюшки Лю. При этом пациенту сказали, что ему поставят замечательный имплантат австрийского производства, а операцию проведут опытнейшие хирурги с волшебными руками. Моя интуиция подсказывает, что в данной ситуации пациент не будет нести ответственность за сбой в работе имплантата, обусловленный кривыми руками хирурга и несовершенством техники.

Возьмем другой случай. У нас есть полностью информированный о рисках пациент. Он знает и добровольно соглашается с тем, что его оперируют хирурги с кривыми руками, а сам имплантат работает через раз. В данном случае, даже если в работе имплантата произойдут сбои, которые приведут к печальным последствиям, мы, скорее, будем считать ответственным пациента. Можно описать еще множество таких случаев и зафиксировать некоторые принципы, по которым мы возлагаем на человека ответственность. Первые два случая, например, указывают на важность информированности.

Короче говоря, мы не будем возлагать моральную ответственность на человека, который просто не был информирован о возможных последствиях. Эту интуицию можно обосновать еще более ярко, если описать случай, в котором имплантация производится в тайне от пациента. 

Другой существенный принцип может быть связан с личностью агента: обусловлены ли причины сбоя личностными чертами агента или их причины никак с его личностью не связаны. Пояснить данную интуицию также можно на другом примере: если носитель имплантата алкоголик, который напился и тем самым сломал имплантат, то его характер стал причиной действия, которое стало причиной поломки. Если же сбой в работе имплантата не обусловлен поступками, которые, в свою очередь, определены характером человека, то мы скорее не будем склонным возлагать на него ответственность. Дескриптивный подход позволяет нам, опираясь на множество возможных случаев, выделить ряд положений, которые описывают имеющиеся у нас принципы возложения ответственности.

Прескриптивный подход будет стремиться не к описанию имеющихся у нас интуитивных принципов, а к разработке новых принципов, которые могут частично совпадать, а частично расходиться с нашими интуициями. Однако новые принципы тоже не возникнут из воздуха, они должны иметь некоторое основание. В конечном счете, они также будут опираться на некоторые базовые интуиции. Однако эти интуиции будут иметь привилегированный статус. Если в каком-то конкретном случае наша интуиция о возложении моральной ответственности войдет в противоречие с базовым принципом, мы скорее откажемся от интуиции относительно данного случая, а не от принципа. Допустим, мы хотим построить такую систему правил, которая максимизирует личную ответственность участников договорных отношений.

Берем конкретный случай: трехлетний ребенок согласился тестировать суперопасный для его жизни имплантат в обмен на мороженое. Ему рассказали, что имплантат может убить его, он послушал и подписал бумагу о согласии. Если ребенок умрет, согласно базовому принципу, он будет сам нести за это моральную ответственность. Однако у нас есть сильная интуиция, что здесь что-то не так, что-то неправильно. В рамках прескриптивного подхода мы можем сказать, что данная интуиция возникает в силу нашей непоследовательности, и постараться её игнорировать.

Описанные подходы и методы не обладают какой-либо философской новизной, это некоторая стандартная для философа задача в приложении к новым темам. Скорее всего, подробное ее рассмотрение будет просто переизобретением велосипеда давно открытых принципов. Однако это и неплохо, поскольку в ходе такой работы люди научатся применять эти принципы к новой реальности.