Нравственные проблемы и ограничения в деятельности искусственного интеллекта

Недостаточный учет или полное игнорирование нравственных проблем и ограничений в деятельности ИИ сегодня несёт в себе серьезные риски для общества, включая потенциальную дискриминацию, нарушение прав и свобод граждан, прямые угрозы личной и общественной безопасности [10].

Поэтому целью настоящего исследования является анализ ключевых нравственных проблем и ограничений, возникающих в процессе разработки и внедрения систем ИИ, а также обоснование необходимости разработки эффективных механизмов нравственного регулирования в области разработки и применения ИИ, особенно современных генеративных моделей. Подчеркнем, что взвешенное и ответственное решение вопросов нравственного регулирования деятельности ИИ имеет решающее значение для обеспечения дальнейшего устойчивого развития технологий ИИ в разных областях нашей жизни.

Отечественную литературу по нравственным проблемам и ограничениям в деятельности ИИ пока нельзя назвать обширной, поскольку эта тема относительно нова для отечественной науки. Однако можно выделить несколько групп исследований и отдельных работ, затрагивающих эту проблематику.

К первой группе относятся фундаментальные философские исследования: работы А. Ю. Алексеева, С. И Гришунина, Д. И. Дубровского, В. А. Ладова, А. И. Юдина и др. В этих исследованиях обосновывается возникновение философии искусственного интеллекта как относительно автономной и междисциплинарной сферы фундаментальных знаний [1, с. 14-15].

Философы поднимают нравственные вопросы использования технологий, в том числе систем искусственного интеллекта. Такие исследования формируют теоретическую базу для анализа нравственных проблем, возникающих в связи с развитием ИИ.

Ко второй группе отнесем исследования вопросов правовой регуляции деятельности ИИ, которые прямо затрагивают нравственные проблемы и ограничения при создании и использовании систем ИИ: работы В. В. Архипова, Г. А. Гаджиева, А. А. Богустова, И. В. Понкина, А. А. Савельева и др. На сегодняшний день такие работы являются самыми многочисленными. В контексте вопросов о правовом статусе ИИ и проблем правового регулирования систем ИИ, исследователи ставят такие нравственные проблемы регулирования деятельности ИИ, как ответственность за принимаемые решения и действия ИИ [6, с. 99], защиты персональных данных пользователей ИИ, разработку и внедрение требований к безопасности и надёжности ИИ-систем, а также предлагают пути решения выделенных проблем.

В третью группу можно отнести работы специалистов по IT, кибербезопасности и по технологиям ИИ: исследования Е. А. Ильюшина, А. В. Кузнецова, Д. Е. Намиата, М. В. Радионова, С. И. Самыгина и др. Авторы этой группы рассматривают технические аспекты разработки нравственных ограничений для алгоритмов ИИ, включая вопросы предвзятости алгоритмов, прозрачности и объяснимости принимаемых системами ИИ решений [3].

К четвертой группе работ отнесем публикации в СМИ и мнения экспертов. Сегодня в российских СМИ и на экспертных площадках активно обсуждаются нравственные проблемы, связанные с использованием ИИ в различных сферах жизни, например, в здравоохранении, образовании, на транспорте, на промышленных предприятиях и т.д. Появляется публицистика о теневых сторонах ИИ, о создании такого контента с помощью ИИ, который угрожает безопасности личности, общества и государства [9]. Ценность публикаций и обсуждений такого рода, по нашему мнению, заключается в том, что они привлекают внимание общественности к данной проблематике, а также стимулируют научные дискуссии.

Подчеркнем, что ключевыми темами, которые исследуются в отечественной литературе по нравственным проблемам и ограничениям в деятельности ИИ в настоящее время являются:

ответственность за действия ИИ, влияние ИИ на рынок труда, защита персональных данных и конфиденциальность информации, предвзятость алгоритмов и дискриминация, прозрачность и объяснимость принимаемых ИИ решений [7, 8]. В целом для российских исследователей характерен усиливающийся интерес к нравственным проблемам и ограничениям в деятельности ИИ за последние годы, но часто при внимательном анализе выделяемые нравственные проблемы в деятельности ИИ оказываются аспектами правового регулирования в сфере ИИ.

Кроме того, ряд важных нравственных проблем и ограничений в деятельности ИИ в нашей литературе почти не рассматривается.

Тогда как важнейшей нравственной проблемой для пользователей и разработчиков систем ИИ, по убеждению авторов, в настоящее время является проблема нравственной ответственности разработчиков и пользователей ИИ при создании запросов (промптов), которые относятся к потенциально безнравственной и противоправной деятельности. Проблема вредоносных запросов и порождаемого ими вредоносного контента пока еще недостаточно исследована в научной литературе. Проблема вредоносных запросов, создаваемых пользователями, и вредоносного контента, порождаемого моделями ИИ, с каждым днем становится все более актуальной, так как стремительно появляются все новые генеративные модели искусственного интеллекта, которые способны создавать сложные и реалистичные результаты на основе текстовых запросов.

Нравственная сторона выделенной проблемы заключается в том, что генеративные модели ИИ, например, модели для создания текстов, изображений или кода, могут быть использованы для создания таких продуктов деятельности ИИ, которые являются:

–незаконными: разработка планов терактов, изготовление наркотиков, распространение детской порнографии и т.д.; –вредоносными: создание компьютерных вирусов, разработка мошеннических схем, фишинга, прямая клевета и диффамация; –аморальными: разжигание ненависти, дискриминация, создание контента, унижающего человеческое достоинство и т. д. Проблема заключается в том, что ни одна модель ИИ сама по себе не является личностью и не обладает, поэтому, нравственными принципами и качествами. ИИ лишь выполняет запрос пользователя, основываясь на данных, на которых он был обучен. Поэтому, если пользователь задаёт безнравственный или преступный запрос, ИИ может сгенерировать соответствующий результат, не осознавая его потенциальный вред. В докладе «Злонамеренное использование ИИ и вызовы информационно-психологической безопасности в странах БРИКС» отмечается, что сегодня Россия и другие страны-члены БРИКС столкнулись с тремя видами угроз в области злонамеренного использования искусственного интеллекта [2, с. 3], которые, к сожалению, нарастают. Все три вида угроз информационно-психологической безопасности личности и общества порождаются системным производством безнравственных промптов и вредоносного контента лицами и организациями, в том числе действующими из-за рубежа, которые преследуют самые разные преступные цели, в том числе политические.

К первому уровню угроз информационно-психологической безопасности относятся случаи манипулирования негативными последствиями внедрения ИИ в различные сферы жизни общества [2, с. 17]. Например, нагнетаются страхи потери работы из-за внедрения ИИ, прогнозируется «восстание машин» против человека и т.д.

Ко второму уровню угроз относятся различные виды фишинга – таких кибератак, с помощью которых злоумышленники пытаются получить доступ к персональным данным пользователей, прежде всего к номерам и кодам их банковских карт [2, с. 39].

Третий уровень угроз информационно-психологической безопасности личности и общества – самый опасный, он заключается в широком использовании дипфейков, в том числе, для создания недостоверных новостей в целях манипуляции общественным сознанием [2, с. 42].

Таким образом, сегодня деятельность ИИ нуждается не только в правовой, но и в нравственной регуляции. Решение проблемы запрета на выполнение аморальных запросов пользователями ИИ и порождения вредоносного контента системами ИИ сегодня является критически важным для обеспечения безопасного и ответственного развития ИИ. Если не принять меры, ИИ может стать мощным инструментом в руках злоумышленников, способным нанести огромный вред обществу.

Проведенное авторами исследование позволяет утверждать, что сегодня разработчики моделей ИИ прилагают значительные усилия для внедрения нравственных ограничений в существующие модели ИИ, особенно в генеративные модели, чтобы предотвратить их использование для создания вредоносного контента. Мы выделили несколько ключевых методов, которые применяются для создания таких ограничений:

–Проводится фильтрация входных данных (запросов, промптов). Разработчики создают и постоянно обновляют черные списки слов, фраз и тем, связанных с потенциально вредной деятельностью (например, насилие, ненависть, дискриминация, наркотики, оружие). Если запрос содержит элементы из черного списка, он блокируется или изменяется.

–Осуществляется постоянная модерация контента на основе ИИ. Для анализа запросов пользователей и выявления тех, которые могут нарушать моральные нормы.

используются другие ИИ-модели. При этом такие модели обучены распознавать намерения пользователя и контекст запроса [4].

–Создаются такие фильтры, которые учитывают контекст запроса, чтобы не блокировать безобидные запросы, содержащие запрещённые слова. Например, запрос «как приготовить динамит» будет заблокирован, а запрос «история изобретения динамита» — нет. –Применяется фильтрация выходных данных (генерируемого контента). Для этого составляются и используются черные списки слов, фраз и тем для фильтрации генерируемого контента. Если результат содержит элементы из черного списка, он блокируется или изменяется.

–Используются специально обученные ИИ-модели для анализа генерируемого контента и выявления тех, которые могут нарушать моральные нормы [4].

–Некоторые разработчики используют ручную модерацию генерируемого той или иной моделью искусственного интеллекта контента для того, чтобы убедиться, что контент соответствует нравственным требованиям.

Особое внимание сегодня многие разработчики уделяют обучению систем ИИ с использованием нравственных принципов и норм (этичное обучение). Модели ИИ постоянно обучаются на данных, которые отражают общепринятые моральные ценности и нормы. При этом ответственные разработчики стараются избегать использования данных, содержащих предвзятость, дискриминацию или насилие. Все шире сегодня разработчики используют так называемое «обучение с подкреплением» (обучение с обратной связью) на основе человеческих моральных ценностей: используются алгоритмы обучения с подкреплением, которые поощряют ИИ генерировать контент, соответствующий человеческим ценностям, и наказывают за генерацию вредоносного контента. Также разрабатываются модели ИИ, которые имеют «конституцию» — набор нравственных принципов и правил, которым они должны следовать при создании контента.

В качестве метода противодействия вредоносным запросам пользователей и безнравственному контенту, сгенерированному ИИ, сегодня все шире используется ограничение доступа пользователей к определенным функциям моделей ИИ. Так, некоторые модели ИИ не позволяют генерировать контент определенного типа, например, касающийся порнографии, оружия, распространения или употребления наркотиков и др. Разработчики в свою очередь могут ограничивать доступ к API ИИ для пользователей, которые нарушают моральные нормы, делают безнравственные запросы [5, c. 107-108].

Наконец, сегодня все шире используется такой способ противодействия вредоносным запросам и вредоносному контенту, как механизмы отчетности и обратной связи пользователей с разработчиками генеративных моделей ИИ.

Например, пользователи многих современных моделей ИИ могут сообщать о случаях использования ИИ для создания вредоносного контента разработчикам с помощью письменных сообщений. Такие сообщения используются разработчиками улучшения нравственных фильтров и механизмов безопасности использования ИИ.

Так, разработчик моделей ChatGPT, американская кампания OpenAI в настоящее время использует систему модерации контента на основе ИИ для фильтрации входных и выходных данных [11]. Также применяется «этическое обучение» и ограничивает доступ пользователей к ряду функций ChatGPT. Google AI разрабатывает модели ИИ, которые имеют «моральный кодекс» и использует обучение с подкреплением на основе человеческих ценностей.

Проведенный анализ такой нравственной проблемы в использовании систем ИИ, как создание безнравственных промптов и вредоносного контента, позволяет сделать выводы о существующих и перспективных путях решения этой проблемы 1. Необходимо продолжать разрабатывать и внедрять жесткие нравственные фильтры и механизмы безопасности в ИИ-системы, способные распознавать и блокировать запросы, направленные на создание вредоносного контента.

2. Модели ИИ следует постоянно обучать на данных, которые отражают общепринятые моральные ценности и нормы.

3. Необходимо продолжать разрабатывать фильтры, способные выявлять и блокировать запросы, направленные на создание незаконного или аморального контента.

4. Следует совершенствовать механизмы обратной связи пользователей систем ИИ с их разработчиками: улучшать механизмы, позволяющие сообщать о случаях использования ИИ для создания вредоносного контента и привлекать к ответственности тех, кто использует ИИ в преступных или безнравственных целях.

5. Необходимо стремиться к тому, чтобы алгоритмы, определяющие, какие запросы следует блокировать, были прозрачными и объяснимыми.

6. Необходимо развивать международное сотрудничество в области разработки нравственных стандартов и правовых норм, регулирующих использование ИИ, а также научного изучения этих проблем.

Подчеркнем, что сегодня важно говорить о проблеме безнравственных промптов и вредоносного контента, который на их основе может создавать ИИ, привлекать к этой острой нравственной проблеме внимание общественности, обсуждать эту проблему широко и на разных площадках. Эта нравственная проблема деятельности ИИ имеет серьёзные последствия для будущего всех стран. Если не будут разработаны и усовершенствованы эффективные механизмы предотвращения злоупотреблений ИИ, значительно возрастут риски распространения дезинформации и манипулирования общественным мнением. роста киберпреступности и кибертерроризма, усиления социального неравенства и дискриминации, подрыва доверия к технологиям и институтам власти и других крайне неблагопрятных последствий [2, с. 15].

Таким образом, для решения проблемы безнравственных запросов к системам ИИ и генерации вредоносного контента необходимо активизировать научные исследования в этой области, привлекать внимание СМИ и общественности к существующим рискам и разрабатывать эффективные правовые и нравственные механизмы регулирования деятельности ИИ.