Искусственный интеллект как инструмент доказывания в уголовном процессе: перспективы и риски

Введение

Стремительное развитие технологий искусственного интеллекта (ИИ), характеризующееся экспоненциальным ростом вычислительных мощностей, появлением новых алгоритмов машинного обучения [12] и доступностью колоссальных объемов данных, оказывает все более глубокое и всестороннее влияние на различные сферы жизни общества, включая правовую. В правовой сфере ИИ уже применяется для анализа законодательства и судебной практики, прогнозирования исходов судебных дел, автоматизации рутинных юридических задач, а в некоторых юрисдикциях - для оценки рисков рецидивизма и принятия решений о превентивном заключении [2]. В контексте этих тенденций возникает закономерный вопрос о возможности, целесообразности и допустимости применения ИИ в уголовном процессе, в частности, в качестве инструмента доказывания.

Данная тема, находящаяся на стыке права, философии, этики и компьютерных наук, является относительно новой и малоизученной в юридической науке, что обусловливает несомненную актуальность настоящего исследования. Новизна постановки проблемы, а также ее многоаспектность и фундаментальный характер определяют необходимость междисциплинарного подхода к ее изучению [13]. Целью данной статьи является комплексный анализ потенциала и рисков, связанных с использованием ИИ в процессе доказывания по уголовным делам, с учетом как достижений современной науки и техники, так и фундаментальных принципов уголовного судопроизводства. На основе проведенного анализа предполагается сформулировать научно обоснованные предложения по адаптации правового регулирования и процессуальных гарантий к новым технологическим реалиям, обеспечивающие соблюдение прав и свобод человека в условиях цифровой трансформации правосудия.

Основная часть

В настоящее время доказывание в уголовном процессе осуществляется исключительно людьми - субъектами, наделенными процессуальными правами и обязанностями, волей, сознанием, способностью нести юридическую ответственность: следователем, дознавателем, прокурором, судом, защитником, экспертом и другими. Доказывание представляет собой сложный когнитивный процесс, включающий сбор, проверку, исследование и оценку доказательств с целью установления обстоятельств, имеющих значение для дела и подлежащих доказыванию в соответствии с законом [3]. Каждый из этих этапов сопряжен с принятием решений, основанных на законе, внутреннем убеждении, профессиональном опыте и морально-этических принципах [1], что ставит под сомнение саму возможность полной замены человека машиной в этой сфере.

С теоретической точки зрения, системы ИИ потенциально могут быть использованы на всех этапах доказывания, демонстрируя ряд преимуществ перед традиционными методами:

–Сбор доказательств: На этапе сбора доказательств ИИ может осуществлять автоматизированный анализ огромных массивов разнородных данных (записи с камер видеонаблюдения, переписку в мессенджерах, данные геолокации, информацию из социальных сетей, банковские транзакции и т.д.)

для выявления информации, имеющей значение для расследования. Применение технологий компьютерного зрения, обработки естественного языка и интеллектуального анализа данных позволяет ИИ с высокой скоростью и точностью идентифицировать объекты, события и взаимосвязи, которые могут быть неочевидны для человека или сокрыты в огромных объемах информации.

Более того, ИИ способен выявлять скрытые закономерности, аномалии и корреляции в данных, что потенциально может привести к обнаружению новых доказательств, раскрытию сложных и запутанных преступлений [2], а также к прогнозированию и предотвращению будущих правонарушений.

Это позволяет значительно ускорить процесс сбора доказательств, повысить его эффективность и полноту, особенно в условиях постоянно растущего объема цифровых данных и усложнения преступной деятельности.

–Исследование доказательств: При исследовании доказательств ИИ может проводить различные виды автоматизированного анализа: лингвистический анализ текста (например, для выявления признаков экстремизма, угроз или клеветы), распознавание образов и звуков (например, для идентификации лиц, оружия, транспортных средств), выявление признаков подделки документов и цифровых артефактов. Использование ИИ может повысить объективность и точность экспертных исследований [8], снизить влияние человеческого фактора, а также обеспечить возможность проведения сложных и ресурсоемких экспертиз, которые ранее были недоступны. Например, в судебной медицине и криминалистике уже применяются алгоритмы машинного обучения для анализа медицинских изображений, идентификации следов биологического происхождения, реконструкции событий преступления.

–Оценка доказательств: Наиболее дискуссионным и сложным с правовой и этической точек зрения является вопрос об использовании ИИ на этапе оценки доказательств.

Традиционно оценка доказательств осуществляется судом по своему внутреннему убеждению, основанному на всестороннем, полном и объективном исследовании всех обстоятельств дела в их совокупности [4]. Внутреннее убеждение - это субъективное состояние уверенности в правильности выводов, основанное на анализе доказательств с учетом жизненного опыта, профессиональных знаний, совести, правосознания и системы ценностей. Способен ли ИИ, лишенный сознания, свободы воли, совести, эмоций и ценностных ориентиров, сформировать внутреннее убеждение в человеческом понимании этого термина?

Представляется, что ответ на этот вопрос должен быть отрицательным. Использование ИИ в процессе оценки доказательств, а также на других стадиях доказывания, сопряжено с рядом серьезных рисков и порождает комплекс сложных правовых и этических проблем:

–Проблема «черного ящика»: Одной из наиболее серьезных проблем является непрозрачность и непредсказуемость алгоритмов ИИ, особенно основанных на глубоком обучении и нейронных сетях [15]. Зачастую логика принятия решения алгоритмом ИИ остается непонятной не только для пользователей, но и для самих разработчиков, что порождает эффект «черного ящика». Это делает невозможным проверку обоснованности и законности выводов ИИ, а также выявление возможных ошибок и предубеждений, заложенных в алгоритме. В контексте уголовного процесса это может привести к нарушению принципов гласности, состязательности, непосредственности исследования доказательств [19], а также права на защиту [20], поскольку стороны не смогут понять, на основании каких именно признаков и критериев ИИ пришел к тем или иным выводам, что лишает их возможности эффективно оспаривать эти выводы и представлять контраргументы.

–Ошибки, предубеждения и дискриминация:

Алгоритмы ИИ не застрахованы от ошибок и предубеждений, которые могут быть обусловлены как несовершенством самих алгоритмов, так и необъективностью, неполнотой или дискриминационным характером данных, на которых они обучались [14]. Если алгоритмы машинного обучения тренируются на данных, отражающих исторически сложившиеся в обществе стереотипы и диспропорции, они неизбежно будут воспроизводить и усиливать эти предубеждения в своих решениях. В контексте уголовного процесса это может привести к дискриминации по признаку расы, пола, социального происхождения, имущественного положения и другим факторам, что является грубейшим нарушением принципа равенства всех перед законом и судом. Такие ошибки могут привести к неправосудным решениям, особенно если выводы ИИ будут приниматься судом без должной критической оценки и сопоставления с другими доказательствами.

–Деградация профессиональных навыков и судейское усмотрение: Чрезмерное увлечение и избыточное доверие к технологиям ИИ может привести к деградации профессиональных навыков судей, следователей и других участников процесса, к их чрезмерной зависимости от машинных решений и утрате способности к самостоятельному, критическому и творческому мышлению.

Это, в свою очередь, ставит под угрозу принцип осуществления правосудия только судом [20], независимость и беспристрастность суда, а также судейское усмотрение, которое является необходимым элементом правоприменительной деятельности. Автоматизация принятия решений в уголовном процессе может привести к формализации и роботизации правосудия, к утрате им человеческого измерения, что недопустимо с точки зрения гуманистических принципов уголовного права и процесса.

–Этико-философские дилеммы: Использование ИИ в уголовном процессе ставит ряд сложных этико-философских вопросов, касающихся природы правосудия, справедливости, ответственности и человеческого достоинства [5]. Применение алгоритмов для решения вопросов, непосредственно затрагивающих судьбу человека, его свободу, репутацию и другие фундаментальные права, может восприниматься как несправедливое, бездушное и унижающее человеческое достоинство. Кроме того, возникает вопрос об ответственности за ошибки ИИ:

кто должен нести ответственность, если алгоритм допустит ошибку, повлекшую за собой неправосудное решение - разработчик алгоритма, производитель программного обеспечения, пользователь системы, орган, внедривший ИИ, или само «умное» устройство [6]? Непрозрачность алгоритмов [15] и отсутствие у ИИ правосубъектности еще больше затрудняют решение этой проблемы.

Для минимизации рисков и обеспечения справедливого судебного разбирательства при использовании ИИ в уголовном процессе необходимо разработать и законодательно закрепить ряд специальных процессуальных гарантий: –Обязательное информирование об использовании ИИ: Участники процесса должны быть в обязательном порядке уведомлены о том, что при сборе, исследовании или оценке доказательств использовались системы ИИ. Это обеспечит прозрачность процесса и позволит сторонам реализовать свои процессуальные права.

–Раскрытие информации о работе алгоритма: По мотивированному ходатайству стороны защиты ей должен быть предоставлен разумный доступ к информации о том, как работает алгоритм ИИ, какие данные он использует, на основании каких критериев и методик он принимает решения. Это может быть реализовано через предоставление технической документации, исходного кода (в той мере, в какой это не нарушает права интеллектуальной собственности), экспертных заключений о принципах работы алгоритма, а также через возможность проведения независимой экспертизы алгоритма с привлечением специалистов в области ИИ.

–Право на оспаривание результатов работы ИИ: Стороны должны иметь реальную возможность оспорить результаты работы ИИ, представить свои аргументы и доказательства, опровергающие выводы алгоритма.

Суд обязан тщательно исследовать и критически оценить, как выводы ИИ, так и аргументы сторон, не допуская автоматического и некритического принятия машинных решений.

–Запрет на использование ИИ как единственного основания для принятия решения:

Выводы ИИ ни при каких обстоятельствах не могут являться единственным и достаточным основанием для вынесения приговора или иного итогового решения по делу. Они должны рассматриваться исключительно в совокупности с другими доказательствами, собранными, проверенными и исследованными в установленном законом порядке, и не должны иметь заранее установленной силы. –Человеческий контроль и окончательное решение: Принятие юридически значимых решений, затрагивающих права и свободы человека, должно оставаться исключительной прерогативой человека - следователя, прокурора, судьи. ИИ может использоваться лишь как инструмент, предоставляющий аналитическую информацию, но не подменяющий собой субъектов доказывания и не предопределяющий их решения.

Окончательное решение по делу всегда должно приниматься человеком на основе всестороннего, полного и объективного исследования всех обстоятельств дела и с учетом всех представленных доказательств. –Предотвращение дискриминации и обеспечение алгоритмической справедливости:

Алгоритмы ИИ, используемые в уголовном процессе, должны быть спроектированы, обучены и протестированы таким образом, чтобы исключить возможность дискриминации по любому признаку (раса, пол, национальность, язык, происхождение, имущественное и должностное положение, место жительства, отношение к религии, убеждения, принадлежность к общественным объединениям, а также другие обстоятельства).

Необходимо проводить регулярное тестирование и аудит алгоритмов на предмет наличия предубеждений [7], а также оперативно устранять выявленные недостатки и дискриминационные эффекты.

–Юридическая ответственность и механизмы компенсации вреда: Необходимо четко определить субъекта ответственности за ошибки ИИ, повлекшие нарушение прав участников процесса, а также разработать эффективные механизмы компенсации вреда, причиненного такими ошибками. В доктрине уголовно-процессуального права и теории доказательств необходимо выра- ботать подходы к определению правового статуса ИИ в уголовном процессе, а также к оценке доказательственного значения результатов его работы с учетом специфики электронных доказательств и особенностей их формирования [17].

На стадии судебного разбирательства роль ИИ должна быть более ограниченной и вспомогательной. ИИ может использоваться для предоставления суду аналитической информации, результатов экспертных исследований, проведенных с использованием алгоритмов машинного обучения, статистических данных и иной информации, имеющей значение для дела. Однако ИИ ни в коем случае не должен подменять собой суд в оценке доказательств и принятии решений по вопросам виновности и наказания. Окончательное решение по делу всегда должно оставаться за человеком - судьей, действующим на основе закона и совести.

Отдельного рассмотрения требует вопрос о возможности и целесообразности наделения ИИ статусом субъекта уголовного процесса или иным правовым статусом. В настоящее время в юридической науке и философии права ведутся активные дискуссии о правосубъектности ИИ, о возможности признания ИИ субъектом права и наделения его определенными правами и обязанностями [18]. Однако применительно к уголовному процессу такой подход представляется преждевременным и необоснованным. ИИ не обладает сознанием, волей, свободой выбора, способностью осознавать значение своих действий и нести за них ответственность, что является необходимым условием для признания лица субъектом уголовно-процессуальных отношений. Наделение ИИ процессуальным статусом не только не решит существующих проблем, но и породит новые, еще более сложные коллизии, связанные с ответственностью ИИ, обеспечением его прав и исполнением им обязанностей.

В обозримом будущем ИИ должен рассматриваться в уголовном процессе именно как инструмент доказывания, как техническое средство, используемое субъектами доказывания для собирания, исследования и представления доказательств, но не как самостоятельный участник процесса.

Заключение

Использование искусственного интеллекта в уголовном процессе, в том числе в качестве инструмента доказывания, открывает новые возможности для повышения эффективности, объективности и доступности правосудия, но одновременно порождает ряд серьезных правовых, этических и философских проблем, требующих глубокого осмысления и комплексного решения. Необходимы дальнейшие фундаментальные междисциплинарные исследования в этой области [16], направленные на выработку оптимальной модели использования ИИ в уголовном судопроизводстве, которая бы учитывала, как потенциальные преимущества, так и риски, связанные с применением данной технологии.

Дальнейшие исследования в этой области должны быть направлены на решение следующих задач:

–Разработка методологических основ использования ИИ в уголовном процессе с учетом его специфики и фундаментальных принципов.

–Определение оптимальных сфер и пределов применения ИИ на различных стадиях уголовного судопроизводства.

–Исследование проблем алгоритмической справедливости, прозрачности и подотчетности при использовании ИИ в уголовном процессе [9].

–Разработка стандартов и методик оценки качества, надежности и допустимости результатов работы ИИ в качестве доказательств.

–Изучение этических и философских аспектов применения ИИ в сфере уголовной юстиции [11].

–Совершенствование правового регулирования и процессуальных гарантий в связи с использованием ИИ в уголовном процессе.

Решение этих и других задач потребует совместных усилий юристов, специалистов в области ИИ, философов, специалистов по этике и представителей гражданского общества. Только такой междисциплинарный и всесторонний подход позволит обеспечить эффективное и справедливое использование достижений научно-технического прогресса в интересах правосудия и защиты прав человека.