Правовые аспекты действия основных начал частного права в правоотношениях с использованием технологий искусственного интеллекта

Всоответствии с пп. 2 ч. 1 ст. 2 Федерального закона от 24.04.2020 № 123-ФЗ под ИИ понимают комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека [7]. В целях настоящего исследования будем придерживаться определения ИИ, которое закреплено на уровне российского федерального закона, поскольку на сегодняшний день существует множество российских и зарубежных, как авторских определений ИИ, так и определений которые содержатся в нормативных актах, например в российских, Указ Президента РФ от 10.10.2019г. № 490 [6]; ГОСТ 15971-90 [1]; ГОСТ 33707–2016 (ISO/IEC 2382:2015) [5]; ГОСТ Р 57700.36-2021 [9] и в других, или, например в зарубежных актах, резолюция Европейского парламента от 16.02.2017г. с рекомендациями Комиссии по правилам гражданского права о робототехнике (2015/2103(INL)) [12]; постановление Европейского парламента и Совета «Об установлении гармонизированных правил в области ИИ и внесении изменений в некоторые законодательные акты №2021/0106(COD) [14]; конвенция об ИИ Европейского Комитета по ИИ (CAI – Committee on Artificial Intelligence) 06.01.2023г. [17]; закон Джона С. Маккейна «О полномочиях в области национальной обороны на 2019 финансовый год» [13] и ряде других.

Предпосылки вопроса реальности применения существующих частноправовых начал к правоотношениям с использованием технологий ИИ заключаются в возможности делегирования ИИ части правоспособности субъекта для достижения тех или иных правовых последствий, а также гипотетических возможностях ИИ играть роль субъекта правоотношений.

Предпосылки наделения ИИ неким аналогом правосубъектности содержатся, например, в пп. е) п. 59 резолюции Европарламента согласно которой, предлагалось давать сложным автономным роботам статус «электронных лиц», ответственных за нанесение любого ущерба, который они могут причинить, и, возможно, применение «электронной личности» в случаях, когда роботы могут принимать автономные решения или иным образом взаимодействовать с третьими лицами самостоятельно [12]. В качестве примера можно также использовать правоприменительную практику относительно определения правового статуса РИД созданных ИИ, которая также определяет и правовой статус ИИ: решение Окружного суда США по восточному округу штата Вирджиния по делу № 1:20-cv-00903-LMB-TCB. S. Taller против Бюро по патентам м товарным знакам США (USPTO) [15] и решение Австралийского федерального суда по делу № VID 108 от 2021 S. Taller против Уполномоченного по патентам (FCA) [16]. Два противоположных решения, одно из которых гласит о том, что креативная (творческая) машина не обладает правосубъектностью (дело № 1:20-cv-00903-LMB-TCB) и второе решение о том, что устройство ИИ может быть изобретателем - нечеловеком, но такой нечеловеческий изобретатель не может быть ни заявителем на патент, ни получателем патента (дело № VID 108 от 2021).

Статус ИИ является также предметом исследований различных авторов. Существуют различные концепции и теории относительно правового статуса ИИ, например, Лаптев В.А. [25], Гаджиев Г.А., Вокайнис Е.А. [20], Романова И.Н [31]. рассматривают ИИ как источник повышенной опасности; Серова О.А [32]. использует концепцию определения статуса ИИ по аналогии с животным; Н. Аверченко [24] отмечает сходство статуса ИИ со статусом рабов в римском праве; Морхат П.М. [27] рассматривает статус ИИ по аналогии с юридическим лицом; Морхат П.М. [28] определяет ИИ как электронное лицо; Зыков С.В. [23] пишет об ИИ как об имущественном комплексе; Гришина Д.С., Абрамова О.П., [21] Морхат П.М. [28] исследуют статус ИИ как программного агента (агента); Лаптев В.А. [25] отмечает возможность определения ИИ как киберфизического лица с поэтапным развитием; Шпаковская В.В. [33] видит в ИИ цифровой актив и т.д.

Как правило правовой статус субъекта включает в себя такие элементы как правоспособность, дееспособность и деликтоспособность, что образует правосубъектность того или иного лица - участника правоотношений. Исходя из сегодняшних реалий и принимая во внимание определение ИИ, которое закреплено в Федеральном законе №123-ФЗ, ИИ, как объект права, не может обладать правосубъектностью. Вместе с тем, нормативные акты и научные исследования дают нам понимание, что такая технология как ИИ оказывает влияние на общественные отношения, которые существуют не только во внешней среде, но и в виртуальной, на субъекта, правосубъектность которого расширяется, и на само право, которое должно подстраиваться под эти изменения. Таким образом, сегодня мы видим определенную трансформацию правоотношений, связанную с использованием цифровых технологий, в частности ИИ.

Безусловно важно, как будет определяться статус ИИ в настоящее время или в будущем, останется ли ИИ объектом права, будет ли ИИ наделен правосубъектностью или это будет нечто среднее, но при любом варианте ИИ влияет на правоотношения. Очевидно, что способности технологии ИИ выходят за рамки простого объекта права, поскольку ИИ не является чем-то статичным и обладает определенной интеллектуальностью, т.е. ИИ может получать новые знания, выполнять и решать различные задачи, а также адаптироваться к изменяемым условиям внешней среды. В связи с этим возникает вопрос на сколько такие правоотношения будут соответствовать действующим началам частного права?

Действуют ли основные начала частного права в правоотношениях с использованием ИИ?

Эффект, который создается за счет использования в правоотношениях цифровых технологий, в частности ИИ, оказывает давление на существующие частноправовые принципы: 1) гуманизм - нулевой принцип права, который применяется в любой отрасли права и на котором выстраивается вся правовая система; 2) высшие частноправовые принципы, так называемые «оценочные понятия»: добросовестность, разумность, справедливость, и сюда также относим принцип запрета злоупотребление правом; и 3) вторичные начала частного права (отраслевые принципы): юридическое равенство, неприкосновенности собственности, свободы договора, недопустимости произвольного вмешательства в частные дела, автономии воли, свободы имущественного оборота, диспозитивности и т.д.

Поскольку начала частного права направлены на человека, как субъекта права и как биологической системы, создается проблема понимания и возможности применения начал частного права к ИИ, как к небиологической (технологической) системе. Применение существующих начал частного права к правоотношениям с использованием технологий ИИ приводит нас к некоторому дисбалансу и содержат различные противоречия, например:

Гуманизм в переводе с лат. «humanus» означает «человеческий», «человечный». Предположим, что технология ИИ основана на гуманизме поскольку она создается человеком для удовлетворения своих материальных и нематериальных потребностей. Однако, если одна машина может создать другую или аналогичную себе технологию, в результате самообучения без участия человека, то принцип гуманизма уже не укладывается в эту новую парадигму. Например, с позиции Мелихова А.И. [26] этот процесс будет являться противоположностью - «дегуманизацией».

Несмотря на то, что оценочные частноправовые принципы (добросовестность, разумность, справедливость, запрет злоупотребление правом) применяются к правоотношениям, единого понимания таких принципов не существует.

Например, определить добросовестное или недобросовестное поведение машины невозможно, поскольку машина действует по заданному алгоритму и не обладает такими свойствами как мораль, нравственность. Железнов А. [22] относит нравственность к выражению биологии, т.е.

ИИ, как технология, не может иметь нравственности. При этом, по мнению Петрова Ю.В. определенная совокупность и последовательность этических норм и ценностей превратится в компьютерный алгоритм [30]. Так называемые «этические кодексы» могут стать цифровым аналогом морали и нравственности, вместе с тем, это алгоритм, который может быть переписан или изменен как самой машиной, так и лицом аморальным и (или) безнравственным.

Разумность - это объективная сторона правоотношения, которая включает в себя действия субъекта, имеющие (разумный) интеллектуальный и нравственный характер [18]. Разумность образуют мышление и познание. Несмотря на внешнее совпадение по интеллектуальности, познанию и мышлению, определить разумность поведения системы ИИ возможно лишь тогда, когда решения ИИ будут понятны среднестатистическому человеку со стандартными стереотипами. Очевидно, что существующих частноправовых принципов недостаточно для воздействия на разумное или неразумное поведение системы ИИ.

Использование цифровых технологий создает определенный дисбаланс в обществе, обостряя такие проблемы как «цифровой разрыв [19]», проблемы социальной справедливости и т.д. Принцип справедливости в таком случае должен дополняться началами открытости, объяснимости, предсказуемости, недопустимости предвзятости, автономности решений, уважения прав человека и его ценностей, запрета антидискриминации и пр. Принцип злоупотребления правом, в соответствии с ч. 5 ст. 10 ГК РФ, реализуется через добросовестные и разумные действия субъектов гражданско-правовых отношений, т.е. правомерные действия или бездействия. Абакумова Е.В.

отмечает, что оценивая действия сторон как добросовестные или недобросовестные, следует исходить из поведения, ожидаемого от любого участника гражданского оборота, учитывающего права и законные интересы другой стороны, содействующего ей, в том числе в получении необходимой информации [4]. Пункт 1 ст. 10 ГК РФ включает 2 составляющие: 1) намерение причинения вреда и 2) заведомое недобросовестное поведение, т.е. лицо, совершая недобросовестное деяние понимает его противоправность и допускает совершение таких действий. Однако, в отличие от человека, ИИ - это алгоритм, т.е. определенная логическая последовательность действий. Возможность недобросовестного поведения машины, должно быть заложено в логику работы системы ее разработчиком (человеком). Таким образом недобросовестное поведение машины происходит в результате недобросовестных действий человека, что делает невозможным применение данного принципа по отношению к системе ИИ. Действие данного принципа теряется при «недобросовестном» поведении системы ИИ созданной другой системой ИИ.

Внедрение цифровых технологий усиливает давление на баланс в обществе, тем самым нарушая принцип юридического равенства, который является балансировщиком прав и интересов участников правоотношений. При этом, как отмечал Нерсесянц В.С. правовое равенство – это «формальное равенство» [29], т.е. участники гражданских правоотношении де-юре являются неравными, а право должно нивелировать такое неравенство. Отсутствие полного правового понимания сущности ИИ, как и отсутствие полноценного правового регулирования, которое, в настоящее время, имеет декларативный характер, усиливает неравенство. В особенности не совсем понятно действие данного принципа в случае признания ИИ как субъекта правоотношении, в какой бы то ни было форме. Неравенство сторон и использование цифровых технологий, в частности ИИ, ставит также под вопрос действие частноправового принципа диспозитивности, который предполагает, что одна из сторон обладает правой инициативой.

Принцип неприкосновенности собственности в разрезе использования технологий ИИ размывается, а принцип свободы имущественного оборота не действует, ввиду отсутствия какой-либо правовой охраны объектов, создаваемых ИИ, а также ввиду наличия ограничений на реализацию субъектами своих прав и свобод по отношению к объектам гражданского оборота.

Принцип свободы договора включает 1) юридическое равенство (рассмотрен выше), и 2) согласование воли сторон, которая состоит из автономии сторон и способности волеизъявления. Машина имеет определенную волю, которая заложена алгоритмом, т.е. является ограниченной. Также нельзя говорить о неограниченной воли человека, поскольку человеческая воля тоже ограничивается в силу имущественных, культурных, правовых, политических психологических факторов. Вместе с тем человеческая воля отличается от воли машины ввиду того, что воля человека направлена на удовлетворение своих потребностей (например, потребность в пище, в жилье, образовании и т.д.), что нельзя сказать про машину (систему ИИ). На сегодняшний день автономию воли ИИ можно представить в виде совокупности ограниченных автономий воль субъектов ИИ (пользователя и оператора). Информационные технологии размывают принцип недопустимости произвольного вмешательства в частные дела, как и субъективное право в виде неприкосновенности частной жизни, поскольку субъект, как потребитель товара или услуги дает согласие на доступ к своим данным, которые могут использоваться, в том числе для противоправных целей. Однако без такого доступа использование той или иной технологии невозможно, таким образом, выражая свою несогласованную волю, принцип недопустимости произвольного вмешательства в частные дела и неприкосновенность частной жизни работает не в полной мере. Для устранения разрыва между трансформированными правоотношениями и началами частного права, которые должны на них воздействовать, создаются предпосылки дополнения существующих принципов частного права технологическо-правовыми началами, которые необходимо применять в действии с существующими принципами, например такими как:

–принцип доверия, который находит отражение в Национальной стратегии развития ИИ [6], Указе Президента РФ №124 от 15.02.2024г. [11], ГОСТ Р 54583-2011/ISO/ IEC/TR 15443-3:2007, [9] как основной принцип гарантирующий соблюдение прав и интересов субъектов правоотношений и принцип регулирующий взаимодействие биологической и технологической системы.

–принцип управляемости для ограничения ухода системы ИИ в неуправляемую область, а также правовой возможности или невозможности применения системой ИИ какого-либо метода для решения задачи; –принцип открытости для обеспечения понятности использования технологии ИИ среднестатистическому человеку, как субъекту правоотношения с использованием ИИ, аналог которого закреплен в ст. 10 закона РФ «О защите прав потребителя» в виде обязанности продавца предоставлять потребителю полноценную информацию о товаре и услуге; –принцип справедливости, в машиноцентрическом понимании, как равноправность и доступность использования технологии ИИ в правоотношении; –принцип интеропербельности как взаимодействие между системой ИИ и внешней средой, которое должно быть урегулировано нормами права, как и любое другое правоотношение; –принцип автономности, который заложен в ГОСТ Р 59277-2020 [9] и в проекте ГОСТ Р 2023 года [10] и заключается в наличии мультиавтономности в правоотношениях, которая включает автономность и волю субъектов правоотношений, а также автономность и алгоритмическую волю системы ИИ; –принцип безопасности, который закреплен в ряде нормативных актах (ФЗ от 27.07.2006 № 152-ФЗ «О персональных данных»; ФЗ от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации»; ФЗ от 29.07.2004 № 98-ФЗ «О коммерческой тайне», Постановление Правительства РФ от 01.11.2012 № 1119 «Об утверждении требований к защите персональных данных при их обработке в информационных системах персональных данных»; Указ Президента РФ от 05.12.2016 № 646 «Об утверждении Доктрины информационной безопасности РФ»; Указа Президента №490 от 10.10.2019г. «О развитии искусственного интеллекта в Российской Федерации» и т.д.) и который, ввиду особенности технологии ИИ, состоит из 1) общественной безопасности, 2) ментальной безопасности и 3) кибербезопасности; –принцип эргономичности, как принцип удовлетворения потребностей и ограничения вредного когнитивного воздействия на субъекта. Данный принцип обоснован началами семантики и восприятия систем ИИ человеком; –принцип валидации, начала которого заложены в приказе Приказ Минпромторга России от 14.06.2013 № 916 [3], и который заключается использовании в правоотношениях интуитивно понятных систем ИИ; –принцип альтернативы, который должен обеспечивать гарантированное право возврата последнего действия или возможности альтернативного способа реализации субъективных прав; –принцип запрета непропорционального бремени для исключения излишней зарегулированности систем ИИ и правоотношений с использованием ИИ; –принцип недопустимости отравления данных для исключения деформации системы ИИ и исключения потенциального риска нарушения фундаментальных прав. Дополнение частного права технологическо-правововыми началами является необходимым условием для дальнейшего развития права в области ИИ и полноценного регулирования таких правоотношений, а также ускорения перехода права от декларативного к реальному правовому регулированию ИИ.