Этические основы использования искусственного интеллекта для разрешения правовых споров в Российской Федерации: объективные ограничения для применения

• ПОЧИВАЛОВА Жанна ГеоргиевнаКандидат педагогических наук, доцент, доцент кафедры общетеоретических правовых дисциплин, Уральский филиал Российского государственного университета правосудия имени В. М. Лебедеваj210708@mail.ru

Статья посвящена исследованию этических основ использования искусственного интеллекта (далее – ИИ) для разрешения правовых споров в Российской Федерации (далее – РФ). Данное направление приобретает особую значимость в условиях современной цифровой трансформации. Автор формулирует авторское определение данного понятия как совокупности принципов, норм и ценностей, регулирующих формирование интеллектуальных систем, способных выполнять правовые функции при сохранении баланса между технической эффективностью и соблюдением законности, беспристрастности и ответственности перед человеком. На основе анализа действующего законодательства делается вывод об отсутствии прямой легализации ИИ в судопроизводстве, что исключает делегирование нейросетям властных полномочий по отправлению правосудия. В работе систематизированы шесть этических принципов обучения ИИ: прозрачность и объяснимость, справедливость, безопасность, ответственность, приватность и уважение прав человека. Выявлены четыре группы объективных ограничений применения ИИ в правовых спорах: технические (когнитивная непрозрачность, зависимость от качества данных), правовые (неопределённость статуса решений ИИ и субъекта ответственности), этические (риски алгоритмической предвзятости, угроза прозрачности правосудия) и социальные (институциональное недоверие, психологический барьер, риск сокращения рабочих мест). Особое внимание уделено анализу проблемы «чёрного ящика» и необходимости сохранения человеческой ответственности за правосудие. Результаты исследования показывают, что ИИ должен выполнять исключительно вспомогательные функции, тогда как конечная ответственность и нравственное начало остаются прерогативой человека. Предложенные выводы могут быть использованы для совершенствования нормативно-правовой базы, разработки стандартов качества обучающих данных и повышения цифровой компетентности юридического сообщества.

Ключевые слова: искусственный интеллект (ИИ), этика, этические основы обучения ИИ, государственное регулирование ИИ, нейросеть, алгоритмы ИИ, принципы обучения ИИ, ограничения для применения ИИ в правовых спорах

Введение

Активное внедрение технологий ИИ в различные сферы общественных отношений ставит перед юридической наукой и практикой принципиально новые вопросы, связанные с переосмыслением традиционных институтов. Особую сложность это направление приобретает в контексте судопроизводства, где стремительное развитие аналитических и прогностических алгоритмов вступает в противоречие с консервативной природой правосудия, требующей высокой степени прозрачности, ответственности и человеческого участия. В РФ, несмотря на формирование стратегической и экспериментальной нормативной базы в сфере ИИ, вопросы этического обеспечения обучения нейросетей с целью разрешения правовых споров остаются концептуально не проработанными.

Научная разработанность темы характеризуется фрагментарностью: имеющиеся труды преимущественно касаются либо общих вопросов цифровизации правосудия, либо технических аспектов функционирования ИИ, тогда как комплексному анализу объективных ограничений (правовых, технических, этических и социальных), препятствующих полноценному применению таких систем, уделено недостаточно внимания.

Целью настоящей статьи является выявление и систематизация этических основ обучения ИИ для разрешения правовых споров в РФ, а также определение объективных ограничений, обусловливающих невозможность полной замены человеческого усмотрения при отправлении правосудия.

Для достижения указанной цели поставлены следующие задачи:

1) проанализировать действующее нормативно-правовое регулирование в сфере ИИ в РФ; 2) сформулировать систему этических принципов обучения правоприменительных алгоритмов ИИ, а также классифицировать объективные ограничения их внедрения.

Методологическую основу исследования составляют общенаучные методы: анализ, синтез, системный подход, а также частнонаучные методы: формально-юридический, сравнительно-правовой и метод классификации.

Основная часть

Современное понимание ИИ отличается многообразием, благодаря появлению множества его видов. [1, с. 199]. Наиболее подходящее и общее понятие предлагает М. В. Залоило, который понимает под ИИ «свойство интеллектуальных систем выполнять творческие, интеллектуальные функции, присущие человеку» [2, с. 9].

Прежде чем сформулировать общее понятие этических основ обучения ИИ для разрешения правовых споров в РФ, следует проанализировать и сам феномен «этические основы обучения».

Во-первых, этика – это философская дисциплина, исследующая нравственность и мораль [6].

Соответственно, этические основы обучения представляют собой систему принципов, норм и ценностей, регулирующих образовательный процесс. Исходя из этого, этические основы обучения ИИ для разрешения правовых споров в РФ представляют собой совокупность принципов, норм и ценностей, регулирующих процесс формирования интеллектуальных систем, способных выполнять правовые функции, обеспечивая баланс между технической эффективностью и соблюдением фундаментальных требований законности, беспристрастности и ответственности перед человеком.

Разобравшись с терминологией, следует перейти к правовому регулированию ИИ, поскольку именно на его основе возможно сделать выводы об ограничениях для применения этических основ обучения ИИ при разрешении правовых споров в РФ.

Формирование нормативной базы в сфере ИИ в РФ осуществляется в русле комплексного подхода, сочетающего стратегическое планирование, экспериментальные правовые режимы и разрабатываемое специальное законодательство.

Как справедливо отмечается в доктрине, «регламентация цифровой экономики и цифровых технологий осуществляется в России в настоящее время в основном документами стратегического планирования, изменения гражданского, финансового и прочих отраслей законодательства минимальны» [2, с. 9]. При этом стоит, отметить, что правовая природа таких актов, не всегда однозначна, так как правовой элемент в них выражен слабо.

Основополагающее значение имеет «Национальная стратегия развития искусственного интеллекта на период до 2030 года», утверждённая Указом Президента РФ от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». В ней, согласно п. «а» ст. 5, ИИ определяется как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их» [7].

Ключевую роль в системе регулирования ИИ также играет Национальная программа «Цифровая экономика Российской Федерации» [8], в рамках которой реализуется шесть федеральных проектов. Среди них – федеральный проект «Нормативное регулирование цифровой среды» [9], нацеленный на устранение правовых и административных барьеров, мешающих внедрению цифровых инноваций, и федеральный проект «Цифровые технологии» [10], где ИИ отнесён к числу «сквозных» технологий – перспективных направлений, радикально меняющих ситуацию на существующих рынках.

Наряду с программными документами, правовое регулирование дополняется механизмами экспериментальных правовых режимов. Федеральный закон от 31.07.2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» [11] позволяет апробировать технологии ИИ в условиях, не требующих немедленного изменения общего законодательства. Впоследствии в него были также внесены изменения, касающиеся, в частности, вопросов ответственности при причинении вреда с использованием ИИ в рамках таких режимов.

Отдельное место в регулировании занимают этические нормы. В 2021 году был принят Кодекс этики в сфере искусственного интеллекта, разработанный «Альянсом в сфере искусственного интеллекта» [12]. Этот рекомендательный документ заложил основы саморегулирования отрасли, закрепив принципы человекоцентричности, прозрачности алгоритмов, справедливости, безопасности и ответственности.

На уровне отраслевого законодательства действуют нормы, ограничивающие возможность принятия решений исключительно на основе автоматизированной обработки данных. Так, в ст. 16 Федерального закона от 27.07.2006 г. № 152-ФЗ «О персональных данных» [13] запрещается принимать решения, затрагивающие права и интересы человека, если они основаны исключительно на автоматической обработке, за исключением случаев, предусмотренных законом или при наличии письменного согласия.

Важно отметить, что в настоящее время идёт подготовка к принятию базового закона о государственном регулировании ИИ. В марте 2026 года был опубликован Проект Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации» [14], который призван систематизировать существующие нормы об ИИ. Проект закрепляет понятие ИИ на законодательном уровне, вводит риск-ориентированный подход, требующий дифференциации регулирования в зависимости от степени влияния систем на жизнь человека и общество. Также в данном Проекте предусматривается право граждан оспаривать решения, принятые с использованием нейросетей, а также возможность компенсации вреда, причинённого ИИ.

Параллельно ведётся работа по стандартизации: с 2025 года вводятся в действие национальные стандарты в области ИИ, в частности ГОСТ Р 71476-2024 «Искусственный интеллект. Концепции и терминология искусственного интеллекта» [15], унифицирующий понятийный аппарат.

Как справедливо отмечают О. Н. Шерстобоев и И. В. Михеева, «российское процессуальное законодательство не содержит прямого дозво- ления использовать искусственный интеллект в судебном процессе» [3, с. 30]. При этом ни в АПК РФ [16], ни в ГПК РФ [17], ни в КАС РФ [18], ни в УПК РФ [19] нет нормы, прямо легализующей применение ИИ. Однако, отсутствие специального разрешения не означает запрета, поскольку существующие процессуальные институты позволяют использовать результаты работы ИИ в рамках традиционных способов формирования и оценки доказательств.

В АПК РФ ст. 64 определяет доказательства как сведения о фактах, не ограничивая источник их получения, что допускает использование ИИ для извлечения таких сведений. Ч. 1 ст. 75 этого же кодекса предусматривает возможность использования «иных документов и материалов, выполненных в цифровой или графической записи, или иным способом, позволяющим установить достоверность документа», т. е. фактически анализ доказательств с применением ИИ рассматривается как допустимый способ обработки информации. Ч. 1 ст. 71 ГПК РФ и ч. 1 ст. 70 КАС РФ содержат аналогичные положения о допустимости документов в цифровой форме. Закреплённый в ч. 1 ст. 70 АПК РФ, в ч. 1 ст. 67 ГПК РФ и в ч. 1 ст. 84 КАС РФ принцип оценки доказательств, по внутреннему убеждению, суда не запрещает применять технологии (в том числе ИИ) для проверки доказательств, но требует от судьи личного осмысления полученных результатов. Ч. 1. Ст. 74 УПК РФ также определяет доказательства как любые сведения, не ограничивая перечень их источников. Ч. 2 ст. 84 УПК РФ прямо относит к доказательствам иные документы, в том числе выполненные электронным способом. При назначении судебной экспертизы в соответствии со ст. 195 УПК РФ использование технических средств, включая ИИ, охватывается статусом эксперта, который применяет такие средства для исследования доказательств. Вместе с тем ст. 17 УПК РФ, устанавливающая свободу оценки доказательств, и ст. 240 УПК РФ, закрепляющая принцип непосредственности судебного разбирательства, требуют, чтобы итоговое решение принималось судом, следователем или дознавателем лично, что не исключает использование ИИ как вспомогательного инструмента, но не допускает полной передачи ему полномочий по формированию внутреннего убеждения.

Таким образом, анализ современного правового регулирования в РФ свидетельствует о формировании разрозненной, но активно развивающейся нормативной базы в сфере ИИ, основанной на стратегическом планировании, экспериментальных правовых режимах и этических принципах. При этом ключевым объективным ограничением для внедрения этических основ обучения ИИ в процесс разрешения правовых споров выступает отсутствие прямой процессуальной легализации таких технологий, что при существующей нормативной конструкции оставляет итоговое формирование судейского убеждения и юридической ответственности исключительно за человеком, не позволяя делегировать нейросетям властные полномочия по отправлению правосудия.

Определив терминологическую и нормативную основу исследования, перейдём к этическим принципам обучения ИИ, предназначенного для разрешения правовых споров в РФ. Анализ действующего и планируемого российского законодательства позволяет выделить шесть таких принципов:

1) прозрачность и объяснимость: алгоритмы ИИ должны обеспечивать понятное обоснование принимаемых решений. Это требование критически важно для судопроизводства, поскольку проигравшая сторона имеет право чётко понимать, на каком основании она может оспорить судебный акт. Кроме того, недопустима генерация ложных прецедентов, то есть несуществующих судебных актов. В условиях высокой загруженности судов такие риски способны ввести правоприменителя в заблуждение, что повлечёт максимально негативные последствия для всей правовой системы; 2) справедливость и толерантность: алгоритмы ИИ не должны воспроизводить предвзятости, потенциально заложенные в обучающих данных, в том числе по признакам пола, возраста, национальности или иным социально значимым критериям; 3) безопасность и надежность: алгоритмы ИИ нуждаются в защите от взлома и несанкционированных манипуляций, что на данный момент является сложнейшей задачей в силу высокой уязвимости цифровых систем; 4) ответственность: необходимо чётко определить субъекта, отвечающего за ошибки ИИ в правовых спорах (разработчик, пользователь или оператор персональных данных); 5) приватность и защита персональных данных: обучение и функционирование алгоритмов ИИ должны строго соответствовать требованиям законодательства РФ; 6) уважение к правам и свободам человека:

приоритет прав человека должен соблюдаться неукоснительно, даже если это ограничивает стремление к максимальной технологической эффективности.

Анализ перечисленных принципов выявляет объективные ограничения, обусловленные текущим состоянием российского законодательства.

Нормативно-правовая база пока не в полной мере адаптирована к подобным технологиям, однако её постепенное развитие представляется закономерным. Приоритетным направлением следует считать детальное изучение ограничений, препятствующих полноценной реализации потенциала алгоритмов ИИ в данной сфере. Данные ограничения целесообразно разделить на четыре группы: технические, правовые, этические и социальные.

Технические ограничения включают проблему «чёрного ящика». Как отмечают А. В. Альферов и В. М. Кирьянова, «С юридической точки зрения «чёрный ящик» ИИ характеризуется не просто отсутствием доступа к исходному коду, но и когнитивной непрозрачностью – состоянием, при котором даже полная детерминированность алгоритма не позволяет человеку (судье) реконструировать причинно-следственную связь между входными данными и итоговым решением» [4, с. 63]. Сюда же относятся: зависимость от качества и объёма обучающих данных (неполнота, устаревшие данные, предвзятость); уязвимость к кибератакам и манипуляциям; ограниченная способность ИИ понимать контекст, нюансы языка и юридические тонкости. Как справедливо замечает К. Л. Брановицкий: «Автоматизация и стандартизация правовых услуг, несмотря на их очевидные преимущества, несут риск утраты индивидуального подхода и юридической точности. Хотя алгоритмы показывают высокую эффективность в обработке типичных случаев, они часто не способны учитывать уникальные обстоятельства сложных дел. Это может привести к снижению доверия к правовой системе и ухудшению качества оказываемой юридической помощи» [5, С. 35].

В свою очередь правовые ограничения связаны с отсутствием чёткого регулирования статуса решений ИИ в судопроизводстве; неопределённостью в вопросах ответственности за ошибки ИИ; противоречиями между использованием ИИ и принципами справедливого суда; ограничениями, вызванными защитой персональных данных и государственной тайны. Алгоритмы ИИ могут обучаться на основе данных, в том числе на задаваемых им вопросах [20], что способно значительно повлиять на конфиденциальность: в правовых актах, в том числе судебных актах всегда присутствует информация, не подлежащая раскрытию (личные данные, профессиональная тайна и т.д.). Теоретически эта проблема решается с помощью обезличивания. Однако в таком случае возникает ключевой вопрос: кто будет обезличивать абсолютно все дела, чтобы алгоритмы ИИ могли полноценно обучаться разрешению правовых споров?

Следующая группа ограничений, этические, включает в себя несколько ключевых проблем. Во-первых, это риск усиления предвзятости и дискриминации через алгоритмы ИИ – в 2024 году группа американских учёных-информатиков выяснила, что десятки популярных моделей ИИ продолжают оперировать расистскими стереотипами даже после переобучения. В число склонных к расистским суждениям ИИ вошли GPT-3.5 и GPT- 4, лежащие в основе знаменитого чат-бота ChatGPT от компании OpenAI [21]. Во-вторых, этические ограничения связаны с угрозой прозрачности и справедливости правосудия, возникающей из‑за непрозрачности самих алгоритмов ИИ.

В-третьих, существует опасность так называемого делегирования ответственности, когда человек фактически перекладывает принятие решений на машину.

Наконец, социальные ограничения включают в себя три основных аспекта: недоверие со стороны юристов, судей и граждан к решениям, принимаемым ИИ; риск сокращения рабочих мест в юридической сфере; а также необходимость массового переобучения специалистов для эффективной работы с алгоритмами ИИ. Особого внимания заслуживает психологический барьер. Невероятные с точки зрения скорости и объёма обработки информации возможности ИИ зачастую пугают старшее поколение профессионального сообщества. Главная причина этого страха заключается в неизвестности: человек не понимает, как именно алгоритм приходит к тому или иному выводу.

Несмотря на то что отдельные примеры позитивной практики использования ИИ уже присутствуют в деятельности органов исполнительной, законодательной и даже судебной власти, рассматриваемый вопрос в целом остаётся глубоко дискуссионным. Сам факт такого внедрения, однако, не снимает фундаментальных сомнений, поскольку в большинстве названных сфер ИИ выполняет преимущественно вспомогательные функции. В правосудии же, где цена возможной ошибки неизмеримо выше, требуется принципиально иной уровень надёжности и прозрачности, достижение которого пока остаётся открытой проблемой.

Вопрос об этических основаниях использования ИИ для разрешения правовых споров в РФ пока остаётся дискуссионным, однако можно выделить несколько возможных решений существующих проблем. На наш взгляд, для этого необходимо развивать методы объяснимого ИИ применительно к юридической сфере, чтобы решения алгоритмов ИИ можно было понять и проверить с точки зрения права. Также требуется создать стандарты качества данных для обучения ИИ, что позволит избежать искажений и ошибок. Следует внедрить механизмы регулярного аудита и сертификации ИИ‑систем на соответствие правовым и этическим нормам. Параллельно необходима дальнейшая разработка нормативно‑правовой базы, чётко регламентирующей применение ИИ в правосудии. Важно обучить юристов работе с ИИ и повысить их цифровую грамотность, чтобы они могли грамотно использовать такие инструменты и критически оценивать их выводы. Наконец, нужно организовать общественный диалог о допустимых границах применения ИИ в праве с участием всех лиц, которые заинтересованы в разрешении паровых споров.

Заключение

Подводя итог проведённому исследованию, можно сделать вывод, что этические основы обучения ИИ для разрешения правовых споров в РФ находятся в стадии формирования. При этом под этическими основами обучения ИИ для разрешения правовых споров в РФ понимается совокупность принципов, норм и ценностей, регулирующих процесс формирования интеллектуальных систем, способных выполнять правовые функции при обеспечении баланса между технической эффективностью и соблюдением требований законности, беспристрастности и ответственности перед человеком.

Установлено, что действующее процессуальное законодательство не содержит норм, прямо легализующих использование ИИ в судопроизводстве, что исключает возможность делегирования нейросетям властных полномочий по отправлению правосудия. Существующая нормативная база (включая стратегические документы, экспериментальные правовые режимы и этические кодексы) носит преимущественно рамочный характер и не устраняет ключевых юридических противоречий.

В ходе исследования выявлены и систематизированы объективные ограничения применения ИИ для разрешения правовых споров, классифицированные на четыре группы: технические (когнитивная непрозрачность алгоритмов, зависимость от качества обучающих данных), правовые (неопределённость статуса решений ИИ и субъекта ответственности за ошибки), этические (риски воспроизводства алгоритмической предвзятости, угроза прозрачности правосудия) и социальные (институциональное недоверие, психологический барьер).

Несмотря на выявленные ограничения, полный отказ от применения ИИ в правовой сфере не является обоснованным. Перспективными направлениями признаются: развитие методов объяснимого ИИ применительно к юридическим задачам, создание стандартов качества обучающих данных, внедрение механизмов регулярного аудита и сертификации ИИ-систем, а также повышение цифровой компетентности юридического сообщества. Ключевым выводом исследования выступает положение о том, что технологии ИИ должны выполнять исключительно вспомогательные функции, тогда как конечная ответственность и нравственное начало в правосудии остаются неотъемлемой прерогативой человека.

Список литературы

1. Шестак, В. А., Волеводз, А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России / В. А. Шестак, А. Г. Волеводз // Всероссийский криминологический журнал. – 2019. – № 2. – С. 197-206.
2. Залоило, М. В. Искусственный интеллект в праве: научно-практическое пособие / отв. ред. Д. А. Пашенцева. – Москва: Инфотропик Медиа, 2021. – 132 с.
3. Шерстобоев, О. Н., Михеева, И. В. Искусственный интеллект и «право будущего»: зарубежный опыт и российские возможности использования в правосудии / О. Н. Шерстобоев, И. В. Михеева // Законодательство. – 2024. – № 6. – С. 24-32.
4. Алферов, А. В., Кирьянова, В. М. Проблема «Черного ящика» искусственного интеллекта в гражданском и арбитражном процессе: между судебным усмотрением и технологическим детерминизмом / А. В. Алферов, В. М. Кирьянова // Вестник науки. – 2025. – №12 (93). – С. 61-72.
5. Брановицкий, К. Л. Искусственный интеллект и LegalTech: риски трансформации юридической профессии / К. Л. Брановицкий // Цифровое право (Digital Law Journal). – 2024. – № 4 (т. 5). – С. 28-40.
6. Этика // Рувики. URL: https://ru.ruwiki.ru/ wiki/Этика
7. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // // СПС «Консультант- Плюс» (Версия комерч.).
8. «Паспорт национального проекта «Национальная программа «Цифровая экономика Российской Федерации» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 № 7) // СПС «КонсультантПлюс» (Версия комерч.).
9. «Паспорт федерального проекта «Нормативное регулирование цифровой среды» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9) // СПС «КонсультантПлюс» (Версия комерч.).
10. «Паспорт федерального проекта «Цифровые технологии» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9) // СПС «КонсультантПлюс» (Версия комерч.).
11. Федеральный закон от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» // СЗ РФ. 2020. № 31 (ч. I). Ст. 5017.
12. Кодекс этики в сфере ИИ // Альянс в сфере искусственного интеллекта. URL: https:// ethics.a-ai.ru/
13. Федеральный закон «О персональных данных» от 27.07.2006 № 152-ФЗ // СЗ РФ. 2006. № 31. (ч. 1). Ст. 3451.
14. Проект Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации» // СПС «Консультант - Плюс» (Версия комерч.).
15. Приказ Росстандарта от 28.10.2024 № 1550-ст «Об утверждении национального стандарта Российской Федерации» // СПС «Консультант Плюс» (Версия комерч.).
16. «Арбитражный процессуальный кодекс Российской Федерации» от 24.07.2002 № 95-ФЗ // СЗ РФ. 2002. № 30. Ст. 3012.
17. «Гражданский процессуальный кодекс» от 14.11.2002 г. № 138 - ФЗ // СЗ РФ. 2002. № 46. Ст. 4532.
18. «Кодекс административного судопроизводства Российской Федерации» от 08.03.2015 № 21-ФЗ // СЗ РФ. 2015. № 10. Ст. 1391.
19. «Уголовно-процессуальный кодекс Российской Федерации» от 18.12.2001 № 174-ФЗ // СЗ РФ. 2001. № 52 (ч. 1) Ст. 4921.
20. Как обучается ИИ // Хабр. URL: https:// clc.li/SFsLK
21. Нейросети-расисты: ученые проверили ИИ на стереотипность мышления // Точка. URL: https://clc.li/agfBw

Скачать