Этические основы использования искусственного интеллекта для разрешения правовых споров в Российской Федерации: объективные ограничения для применения

Введение

Активное внедрение технологий ИИ в различные сферы общественных отношений ставит перед юридической наукой и практикой принципиально новые вопросы, связанные с переосмыслением традиционных институтов. Особую сложность это направление приобретает в контексте судопроизводства, где стремительное развитие аналитических и прогностических алгоритмов вступает в противоречие с консервативной природой правосудия, требующей высокой степени прозрачности, ответственности и человеческого участия. В РФ, несмотря на формирование стратегической и экспериментальной нормативной базы в сфере ИИ, вопросы этического обеспечения обучения нейросетей с целью разрешения правовых споров остаются концептуально не проработанными.

Научная разработанность темы характеризуется фрагментарностью: имеющиеся труды преимущественно касаются либо общих вопросов цифровизации правосудия, либо технических аспектов функционирования ИИ, тогда как комплексному анализу объективных ограничений (правовых, технических, этических и социальных), препятствующих полноценному применению таких систем, уделено недостаточно внимания.

Целью настоящей статьи является выявление и систематизация этических основ обучения ИИ для разрешения правовых споров в РФ, а также определение объективных ограничений, обусловливающих невозможность полной замены человеческого усмотрения при отправлении правосудия.

Для достижения указанной цели поставлены следующие задачи:

1) проанализировать действующее нормативно-правовое регулирование в сфере ИИ в РФ; 2) сформулировать систему этических принципов обучения правоприменительных алгоритмов ИИ, а также классифицировать объективные ограничения их внедрения.

Методологическую основу исследования составляют общенаучные методы: анализ, синтез, системный подход, а также частнонаучные методы: формально-юридический, сравнительно-правовой и метод классификации.

Основная часть

Современное понимание ИИ отличается многообразием, благодаря появлению множества его видов. [1, с. 199]. Наиболее подходящее и общее понятие предлагает М. В. Залоило, который понимает под ИИ «свойство интеллектуальных систем выполнять творческие, интеллектуальные функции, присущие человеку» [2, с. 9].

Прежде чем сформулировать общее понятие этических основ обучения ИИ для разрешения правовых споров в РФ, следует проанализировать и сам феномен «этические основы обучения».

Во-первых, этика – это философская дисциплина, исследующая нравственность и мораль [6].

Соответственно, этические основы обучения представляют собой систему принципов, норм и ценностей, регулирующих образовательный процесс. Исходя из этого, этические основы обучения ИИ для разрешения правовых споров в РФ представляют собой совокупность принципов, норм и ценностей, регулирующих процесс формирования интеллектуальных систем, способных выполнять правовые функции, обеспечивая баланс между технической эффективностью и соблюдением фундаментальных требований законности, беспристрастности и ответственности перед человеком.

Разобравшись с терминологией, следует перейти к правовому регулированию ИИ, поскольку именно на его основе возможно сделать выводы об ограничениях для применения этических основ обучения ИИ при разрешении правовых споров в РФ.

Формирование нормативной базы в сфере ИИ в РФ осуществляется в русле комплексного подхода, сочетающего стратегическое планирование, экспериментальные правовые режимы и разрабатываемое специальное законодательство.

Как справедливо отмечается в доктрине, «регламентация цифровой экономики и цифровых технологий осуществляется в России в настоящее время в основном документами стратегического планирования, изменения гражданского, финансового и прочих отраслей законодательства минимальны» [2, с. 9]. При этом стоит, отметить, что правовая природа таких актов, не всегда однозначна, так как правовой элемент в них выражен слабо.

Основополагающее значение имеет «Национальная стратегия развития искусственного интеллекта на период до 2030 года», утверждённая Указом Президента РФ от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». В ней, согласно п. «а» ст. 5, ИИ определяется как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их» [7].

Ключевую роль в системе регулирования ИИ также играет Национальная программа «Цифровая экономика Российской Федерации» [8], в рамках которой реализуется шесть федеральных проектов. Среди них – федеральный проект «Нормативное регулирование цифровой среды» [9], нацеленный на устранение правовых и административных барьеров, мешающих внедрению цифровых инноваций, и федеральный проект «Цифровые технологии» [10], где ИИ отнесён к числу «сквозных» технологий – перспективных направлений, радикально меняющих ситуацию на существующих рынках.

Наряду с программными документами, правовое регулирование дополняется механизмами экспериментальных правовых режимов. Федеральный закон от 31.07.2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» [11] позволяет апробировать технологии ИИ в условиях, не требующих немедленного изменения общего законодательства. Впоследствии в него были также внесены изменения, касающиеся, в частности, вопросов ответственности при причинении вреда с использованием ИИ в рамках таких режимов.

Отдельное место в регулировании занимают этические нормы. В 2021 году был принят Кодекс этики в сфере искусственного интеллекта, разработанный «Альянсом в сфере искусственного интеллекта» [12]. Этот рекомендательный документ заложил основы саморегулирования отрасли, закрепив принципы человекоцентричности, прозрачности алгоритмов, справедливости, безопасности и ответственности.

На уровне отраслевого законодательства действуют нормы, ограничивающие возможность принятия решений исключительно на основе автоматизированной обработки данных. Так, в ст. 16 Федерального закона от 27.07.2006 г. № 152-ФЗ «О персональных данных» [13] запрещается принимать решения, затрагивающие права и интересы человека, если они основаны исключительно на автоматической обработке, за исключением случаев, предусмотренных законом или при наличии письменного согласия.

Важно отметить, что в настоящее время идёт подготовка к принятию базового закона о государственном регулировании ИИ. В марте 2026 года был опубликован Проект Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации» [14], который призван систематизировать существующие нормы об ИИ. Проект закрепляет понятие ИИ на законодательном уровне, вводит риск-ориентированный подход, требующий дифференциации регулирования в зависимости от степени влияния систем на жизнь человека и общество. Также в данном Проекте предусматривается право граждан оспаривать решения, принятые с использованием нейросетей, а также возможность компенсации вреда, причинённого ИИ.

Параллельно ведётся работа по стандартизации: с 2025 года вводятся в действие национальные стандарты в области ИИ, в частности ГОСТ Р 71476-2024 «Искусственный интеллект. Концепции и терминология искусственного интеллекта» [15], унифицирующий понятийный аппарат.

Как справедливо отмечают О. Н. Шерстобоев и И. В. Михеева, «российское процессуальное законодательство не содержит прямого дозво- ления использовать искусственный интеллект в судебном процессе» [3, с. 30]. При этом ни в АПК РФ [16], ни в ГПК РФ [17], ни в КАС РФ [18], ни в УПК РФ [19] нет нормы, прямо легализующей применение ИИ. Однако, отсутствие специального разрешения не означает запрета, поскольку существующие процессуальные институты позволяют использовать результаты работы ИИ в рамках традиционных способов формирования и оценки доказательств.

В АПК РФ ст. 64 определяет доказательства как сведения о фактах, не ограничивая источник их получения, что допускает использование ИИ для извлечения таких сведений. Ч. 1 ст. 75 этого же кодекса предусматривает возможность использования «иных документов и материалов, выполненных в цифровой или графической записи, или иным способом, позволяющим установить достоверность документа», т. е. фактически анализ доказательств с применением ИИ рассматривается как допустимый способ обработки информации. Ч. 1 ст. 71 ГПК РФ и ч. 1 ст. 70 КАС РФ содержат аналогичные положения о допустимости документов в цифровой форме. Закреплённый в ч. 1 ст. 70 АПК РФ, в ч. 1 ст. 67 ГПК РФ и в ч. 1 ст. 84 КАС РФ принцип оценки доказательств, по внутреннему убеждению, суда не запрещает применять технологии (в том числе ИИ) для проверки доказательств, но требует от судьи личного осмысления полученных результатов. Ч. 1. Ст. 74 УПК РФ также определяет доказательства как любые сведения, не ограничивая перечень их источников. Ч. 2 ст. 84 УПК РФ прямо относит к доказательствам иные документы, в том числе выполненные электронным способом. При назначении судебной экспертизы в соответствии со ст. 195 УПК РФ использование технических средств, включая ИИ, охватывается статусом эксперта, который применяет такие средства для исследования доказательств. Вместе с тем ст. 17 УПК РФ, устанавливающая свободу оценки доказательств, и ст. 240 УПК РФ, закрепляющая принцип непосредственности судебного разбирательства, требуют, чтобы итоговое решение принималось судом, следователем или дознавателем лично, что не исключает использование ИИ как вспомогательного инструмента, но не допускает полной передачи ему полномочий по формированию внутреннего убеждения.

Таким образом, анализ современного правового регулирования в РФ свидетельствует о формировании разрозненной, но активно развивающейся нормативной базы в сфере ИИ, основанной на стратегическом планировании, экспериментальных правовых режимах и этических принципах. При этом ключевым объективным ограничением для внедрения этических основ обучения ИИ в процесс разрешения правовых споров выступает отсутствие прямой процессуальной легализации таких технологий, что при существующей нормативной конструкции оставляет итоговое формирование судейского убеждения и юридической ответственности исключительно за человеком, не позволяя делегировать нейросетям властные полномочия по отправлению правосудия.

Определив терминологическую и нормативную основу исследования, перейдём к этическим принципам обучения ИИ, предназначенного для разрешения правовых споров в РФ. Анализ действующего и планируемого российского законодательства позволяет выделить шесть таких принципов:

1) прозрачность и объяснимость: алгоритмы ИИ должны обеспечивать понятное обоснование принимаемых решений. Это требование критически важно для судопроизводства, поскольку проигравшая сторона имеет право чётко понимать, на каком основании она может оспорить судебный акт. Кроме того, недопустима генерация ложных прецедентов, то есть несуществующих судебных актов. В условиях высокой загруженности судов такие риски способны ввести правоприменителя в заблуждение, что повлечёт максимально негативные последствия для всей правовой системы; 2) справедливость и толерантность: алгоритмы ИИ не должны воспроизводить предвзятости, потенциально заложенные в обучающих данных, в том числе по признакам пола, возраста, национальности или иным социально значимым критериям; 3) безопасность и надежность: алгоритмы ИИ нуждаются в защите от взлома и несанкционированных манипуляций, что на данный момент является сложнейшей задачей в силу высокой уязвимости цифровых систем; 4) ответственность: необходимо чётко определить субъекта, отвечающего за ошибки ИИ в правовых спорах (разработчик, пользователь или оператор персональных данных); 5) приватность и защита персональных данных: обучение и функционирование алгоритмов ИИ должны строго соответствовать требованиям законодательства РФ; 6) уважение к правам и свободам человека:

приоритет прав человека должен соблюдаться неукоснительно, даже если это ограничивает стремление к максимальной технологической эффективности.

Анализ перечисленных принципов выявляет объективные ограничения, обусловленные текущим состоянием российского законодательства.

Нормативно-правовая база пока не в полной мере адаптирована к подобным технологиям, однако её постепенное развитие представляется закономерным. Приоритетным направлением следует считать детальное изучение ограничений, препятствующих полноценной реализации потенциала алгоритмов ИИ в данной сфере. Данные ограничения целесообразно разделить на четыре группы: технические, правовые, этические и социальные.

Технические ограничения включают проблему «чёрного ящика». Как отмечают А. В. Альферов и В. М. Кирьянова, «С юридической точки зрения «чёрный ящик» ИИ характеризуется не просто отсутствием доступа к исходному коду, но и когнитивной непрозрачностью – состоянием, при котором даже полная детерминированность алгоритма не позволяет человеку (судье) реконструировать причинно-следственную связь между входными данными и итоговым решением» [4, с. 63]. Сюда же относятся: зависимость от качества и объёма обучающих данных (неполнота, устаревшие данные, предвзятость); уязвимость к кибератакам и манипуляциям; ограниченная способность ИИ понимать контекст, нюансы языка и юридические тонкости. Как справедливо замечает К. Л. Брановицкий: «Автоматизация и стандартизация правовых услуг, несмотря на их очевидные преимущества, несут риск утраты индивидуального подхода и юридической точности. Хотя алгоритмы показывают высокую эффективность в обработке типичных случаев, они часто не способны учитывать уникальные обстоятельства сложных дел. Это может привести к снижению доверия к правовой системе и ухудшению качества оказываемой юридической помощи» [5, С. 35].

В свою очередь правовые ограничения связаны с отсутствием чёткого регулирования статуса решений ИИ в судопроизводстве; неопределённостью в вопросах ответственности за ошибки ИИ; противоречиями между использованием ИИ и принципами справедливого суда; ограничениями, вызванными защитой персональных данных и государственной тайны. Алгоритмы ИИ могут обучаться на основе данных, в том числе на задаваемых им вопросах [20], что способно значительно повлиять на конфиденциальность: в правовых актах, в том числе судебных актах всегда присутствует информация, не подлежащая раскрытию (личные данные, профессиональная тайна и т.д.). Теоретически эта проблема решается с помощью обезличивания. Однако в таком случае возникает ключевой вопрос: кто будет обезличивать абсолютно все дела, чтобы алгоритмы ИИ могли полноценно обучаться разрешению правовых споров?

Следующая группа ограничений, этические, включает в себя несколько ключевых проблем. Во-первых, это риск усиления предвзятости и дискриминации через алгоритмы ИИ – в 2024 году группа американских учёных-информатиков выяснила, что десятки популярных моделей ИИ продолжают оперировать расистскими стереотипами даже после переобучения. В число склонных к расистским суждениям ИИ вошли GPT-3.5 и GPT- 4, лежащие в основе знаменитого чат-бота ChatGPT от компании OpenAI [21]. Во-вторых, этические ограничения связаны с угрозой прозрачности и справедливости правосудия, возникающей из-за непрозрачности самих алгоритмов ИИ.

В-третьих, существует опасность так называемого делегирования ответственности, когда человек фактически перекладывает принятие решений на машину.

Наконец, социальные ограничения включают в себя три основных аспекта: недоверие со стороны юристов, судей и граждан к решениям, принимаемым ИИ; риск сокращения рабочих мест в юридической сфере; а также необходимость массового переобучения специалистов для эффективной работы с алгоритмами ИИ. Особого внимания заслуживает психологический барьер. Невероятные с точки зрения скорости и объёма обработки информации возможности ИИ зачастую пугают старшее поколение профессионального сообщества. Главная причина этого страха заключается в неизвестности: человек не понимает, как именно алгоритм приходит к тому или иному выводу.

Несмотря на то что отдельные примеры позитивной практики использования ИИ уже присутствуют в деятельности органов исполнительной, законодательной и даже судебной власти, рассматриваемый вопрос в целом остаётся глубоко дискуссионным. Сам факт такого внедрения, однако, не снимает фундаментальных сомнений, поскольку в большинстве названных сфер ИИ выполняет преимущественно вспомогательные функции. В правосудии же, где цена возможной ошибки неизмеримо выше, требуется принципиально иной уровень надёжности и прозрачности, достижение которого пока остаётся открытой проблемой.

Вопрос об этических основаниях использования ИИ для разрешения правовых споров в РФ пока остаётся дискуссионным, однако можно выделить несколько возможных решений существующих проблем. На наш взгляд, для этого необходимо развивать методы объяснимого ИИ применительно к юридической сфере, чтобы решения алгоритмов ИИ можно было понять и проверить с точки зрения права. Также требуется создать стандарты качества данных для обучения ИИ, что позволит избежать искажений и ошибок. Следует внедрить механизмы регулярного аудита и сертификации ИИ-систем на соответствие правовым и этическим нормам. Параллельно необходима дальнейшая разработка нормативно-правовой базы, чётко регламентирующей применение ИИ в правосудии. Важно обучить юристов работе с ИИ и повысить их цифровую грамотность, чтобы они могли грамотно использовать такие инструменты и критически оценивать их выводы. Наконец, нужно организовать общественный диалог о допустимых границах применения ИИ в праве с участием всех лиц, которые заинтересованы в разрешении паровых споров.

Заключение

Подводя итог проведённому исследованию, можно сделать вывод, что этические основы обучения ИИ для разрешения правовых споров в РФ находятся в стадии формирования. При этом под этическими основами обучения ИИ для разрешения правовых споров в РФ понимается совокупность принципов, норм и ценностей, регулирующих процесс формирования интеллектуальных систем, способных выполнять правовые функции при обеспечении баланса между технической эффективностью и соблюдением требований законности, беспристрастности и ответственности перед человеком.

Установлено, что действующее процессуальное законодательство не содержит норм, прямо легализующих использование ИИ в судопроизводстве, что исключает возможность делегирования нейросетям властных полномочий по отправлению правосудия. Существующая нормативная база (включая стратегические документы, экспериментальные правовые режимы и этические кодексы) носит преимущественно рамочный характер и не устраняет ключевых юридических противоречий.

В ходе исследования выявлены и систематизированы объективные ограничения применения ИИ для разрешения правовых споров, классифицированные на четыре группы: технические (когнитивная непрозрачность алгоритмов, зависимость от качества обучающих данных), правовые (неопределённость статуса решений ИИ и субъекта ответственности за ошибки), этические (риски воспроизводства алгоритмической предвзятости, угроза прозрачности правосудия) и социальные (институциональное недоверие, психологический барьер).

Несмотря на выявленные ограничения, полный отказ от применения ИИ в правовой сфере не является обоснованным. Перспективными направлениями признаются: развитие методов объяснимого ИИ применительно к юридическим задачам, создание стандартов качества обучающих данных, внедрение механизмов регулярного аудита и сертификации ИИ-систем, а также повышение цифровой компетентности юридического сообщества. Ключевым выводом исследования выступает положение о том, что технологии ИИ должны выполнять исключительно вспомогательные функции, тогда как конечная ответственность и нравственное начало в правосудии остаются неотъемлемой прерогативой человека.