Правовое регулирование обучения искусственного интеллекта как основополагающий принцип обеспечения информационной безопасности общества

Правовое регулирование нейросетевых технологий (ИИ) в настоящее время тема для широких обсуждений на различных научных и общественных дискуссионных площадках.

Ученые правоведы обсуждают правовую сущность искусственного интеллекта, субъектный состав лиц, взаимодействующих с искусственным интеллектом, использование и регулирование нейросетевых технологий в разных сферах общественной жизни и бизнеса, вопросы ответственности.

Сложности, с которыми сталкивается юридическое сообщество в вопросах правового регулирования ИИ связаны безусловно с особым правовым статусом систем нейросетевых технологий, с уникальными технологическими процессами, которые кардинально отличаются от всего, ранее созданного человечеством. Однако последние годы массовое использование систем нейросетевых технологий позволило выявить новые проблемы, решение которых еще предстоит найти.

Е.С. Селиванова, В.В. Саркисян указывали, что неопределенность и отклонения в поведении систем искусственного интеллекта являются не дефектом конкретной реализации, а имманентным свойством самой технологии, обусловленным ее архитектурой и принципами обучения. Без понимания их работы невозможно эффективное научное исследование, правотворчество и правоприменение, при этом необходимо определиться с субъектным составом отношений в области искусственного интеллекта [8].

На сегодняшний день в России не существует закона, который бы определял классификацию таких субъектов, однако она содержится в проекте Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в РФ», а именно: разработчик ИИ – модели, оператор, владелец ИИ и пользователь. При этом Европейский регламент об ИИ выделяет еще роли «развертывающего лица», «импортера», «дистрибьютера» и др.

Классификация субъектов, действующих в области нейросетевых технологий необходима для развития правового регулирования института ответственности. За противоправный результат использования искусственного интеллекта каждый субъект отношений в данной сфере может отвечать только соразмерно степени своей вины. В связи с чем, необходимо четкое разграничение ролей субъектов, работающих с искусственным интеллектом с момента создания и до момента выпуска на рынок и применения пользователями.

Разработчики, операторы и владельцы ИИ‑технологий могут привлекаться к ответственности за незаконный результат их применения, если они заведомо знали или должны были знать о возможности получения такого результата; пользователи ИИ‑сервисов за использование преступного результата их применения, если он возник из‑за умышленных действий либо несоблюдения условий пользования.

При этом законопроектом вводится понятие «обучение модели искусственного интеллекта», которое определяется как процесс настройки числовых значений (алгоритмов) модели искусственного интеллекта регулирующих влияние каждого запроса к такой модели и ее ответа на запрос, с использованием наборов данных с целью формирования или совершенствования способности модели искусственного интеллекта достигать заданных человеком целей. Действительно, качество результатов, выдаваемых нейронными сетями, состоит в прямой связи с качеством математических моделей, обеспечивающих реализацию алгоритмов искусственного интеллекта.

Представляется, именно процесс обучения модели искусственного интеллекта должен регулироваться нормативно в целях обеспечения информационной безопасности как общества, так и государства.

Вопросы обучения систем искусственного интеллекта последние годы поднимаются все чаще как учеными [3, 4, 5], так и национальными и международными законодателями [6, 7]. При этом сам по себе вопрос обучения нейронных сетей в настоящее время нормативно не урегулирован, принципы работы алгоритмов государству и обществу не понятны.

Особая важность информационных технологий, которые в настоящее время приобрели глобальный трансграничный характер стали неотъемлемой частью всех сфер деятельности личности, общества и государства, задекларированная Доктриной информационной безопасности Российской Федерации [9] диктует необходимость их особого регулирования с учетом реализации стратегических национальных приоритетов Российской Федерации.

Сложности правового регулирования вопросов искусственного интеллекта связаны с необходимостью соблюдения баланса интересов государства (обеспечение информационной безопасности: защиты персональных данных, защиты от деструктивного влияния на общество данных, генерированных нейросетью и другие угрозы, связанные с применением нейросети) с одной стороны, и свободой развития и обучения нейросетевых технологий с целью повышения эффективности их работы).

Решение проблемы соблюдения баланса интересов безопасности общества и свободы ИИ может лежать в плоскости регламентации открытости работы ИИ и установления методов работы алгоритмов с соблюдением действующих законодательных догм.

То есть, одна из основных задач общества, применяющего искусственный интеллект - это обучение нейронной сети, с учетом интересов общества, личности, государства.

Ввиду неочевидности интерпретации данных искусственным интеллектом, а также в отсутствие понимания внутренних процессов в слоях нейросети, даже их разработчиками, в первую очередь, необходимо урегулировать содержание баз данных используемых для обучения нейронных сетей.

«Правильное» цензурированное обучение нейронных сетей может исключить ошибки, галлюцинации, выдачу противоправных результатов, а также позволит достигать прогнозируемых результатов с наименьшими финансовыми и производственными затратами.

Таким образом, участие личности (профессионала) верифицирующего исходные данные для обучения нейронной сети и формирующего веса между её нейронами, создаст исходный контекст для выдачи нейронной сетью результатов, соответствующих целям и задачам, в том числе поставленным в Национальной стратегии развития искусственного интеллекта на период до 2030 года, определяет личную ответственность “учителей” и разработчиков нейронных сетей.

К негативному фактору такой правовой регламентации работы нейросетей относится замедление их обучения, что так же бросает вызов обществу. Без понимания математической основы токенизации продуктов речи и их предоставления нейронным сетям, достичь высоких результатов работы ИИ будет затруднительно, при этом повысить доверие к ИИ общества и государства можно введением принципа открытости ИИ, а именно: обязать компании-разработчики и/или дистрибьютеров раскрывать принципы работы алгоритмов.