Обеспечение прозрачности и объективности при использовании технологий искусственного интеллекта в судебном процессе: правовые проблемы и пути решения

• ВОЛОДИН Евгений АнатольевичАспирант АНО ВО «Московский гуманитарный университет»Volodin.zhen@yandex.ru

В статье исследуются правовые проблемы обеспечения прозрачности и объективности при использовании технологий искусственного интеллекта в судебном процессе. На основе анализа зарубежного опыта (прежде всего практики применения алгоритма COMPAS в судах США, положений Регламента ЕС 2024/1689 об искусственном интеллекте и Руководств ЮНЕСКО 2025 года) и российских инициатив в сфере цифровизации правосудия автор выявляет ключевые риски, связанные с непрозрачностью алгоритмов, автоматизационной предвзятостью и утратой индивидуального подхода при принятии судебных решений. Обосновывается, что прозрачность и объективность искусственного интеллекта в правосудии не являются техническими характеристиками, а представляют собой правовые требования, реализация которых предполагает формирование системы обязательного аудита алгоритмов, обеспечение объяснимости результатов работы систем и сохранение за судьёй решающей роли в процессе. Предлагаются конкретные правовые меры, направленные на минимизацию выявленных рисков.

Ключевые слова: искусственный интеллект, судебный процесс, прозрачность, объективность, алгоритмическая предвзятость, объяснимый искусственный интеллект, COMPAS, EU AI Act, цифровизация правосудия

Введение

Цифровизация судебной системы — одна из устойчивых тенденций развития правосудия как в России, так и за рубежом. Технологии искусственного интеллекта (далее - ИИ) уже применяются в разных странах мира для автоматизации делопроизводства, анализа судебной практики, расшифровки аудиозаписей заседаний и даже для подготовки проектов судебных актов [1]. Прогресс в этой области обещает существенное повышение эффективности правосудия: по данным Судебного департамента при Верховном суде РФ, в 2024 году российскими судами было рассмотрено более 38 миллионов гражданских, административных дел и материалов [2], и автоматизация части этой работы способна заметно разгрузить судейский корпус.

Вместе с тем внедрение ИИ в судебный процесс порождает фундаментальные правовые вопросы, центральными из которых являются прозрачность и объективность алгоритмических систем. Если решение суда основано, хотя бы отчасти, на рекомендации алгоритма, стороны процесса должны иметь возможность понять логику этой рекомендации и при необходимости оспорить её. Между тем современные модели машинного обучения, особенно глубокие нейронные сети, нередко функционируют как «чёрный ящик»: их внутренняя логика непрозрачна даже для разработчиков [3]. Это ставит под угрозу конституционные гарантии на справедливое судебное разбирательство и подрывает доверие граждан к правосудию.

Цель настоящей статьи - выявить ключевые правовые риски, связанные с дефицитом прозрачности и объективности ИИ в судебном процессе, и предложить систему правовых мер, способных эти риски минимизировать. Методологическую основу исследования составляет сравнительно-правовой анализ зарубежного и отечественного опыта, а также доктринальный анализ понятий прозрачности и объяснимости применительно к алгоритмическим системам.

1. Прозрачность и объективность как правовые требования к судебному ИИ Прозрачность и объективность ИИ в судебном процессе не сводятся к техническим характеристикам программного обеспечения. Это прежде всего правовые требования, вытекающие из принципов справедливого судопроизводства: права на мотивированное решение, права на обжалование и принципа состязательности. Если суд использует алгоритм при формировании позиции по делу, а стороны не могут ни проверить, ни оспорить машинную рекомендацию, нарушается сам фундамент процессуальной справедливости.

В зарубежной правовой доктрине активно развивается концепция объяснимого искусственного интеллекта (Explainable AI, XAI), которая ставит задачу сделать процесс принятия решений алгоритмом понятным для человека. Исследователи подчёркивают, что непрозрачность моделей способна подорвать чувство справедливости и доверия граждан, особенно когда речь идёт об уголовном правосудии, где от алгоритмической рекомендации может зависеть свобода лица [3]. Однако существует и важное предостережение: XAI нельзя рассматривать как этическую панацею. Как показал систематический обзор литературы, представленный на конференции ACM FAccT в 2024 году, типичные утверждения о способности объяснимого ИИ обеспечить справедливость зачастую расплывчаты, лишены нормативного обоснования или плохо соотносятся с реальными возможностями существующих технологий [4].

Объективность алгоритма - не менее сложное понятие. Машинное обучение основано на статистических закономерностях, извлечённых из исторических данных. Если эти данные содержат системные искажения (например, отражают существующее неравенство в правоприменении), алгоритм воспроизводит и усиливает эти искажения, создавая иллюзию объективности [5]. Таким образом, объективность ИИ в судебном процессе требует не только технической корректности модели, но и содержательной проверки данных, на которых она обучена, а также нормативного определения допустимых критериев для алгоритмической оценки.

2. Зарубежный опыт: уроки COMPAS и формирование регуляторных стандартов Наиболее известным примером проблем прозрачности и объективности ИИ в правосудии и применяемый в судах ряда штатов США для оценки риска рецидива подсудимых. В 2016 году журналистское расследование ProPublica выявило, что система систематически завышала показатели риска для подсудимых негров и занижала их для белых, хотя компания-разработчик утверждала обратное [6]. Дискуссия вокруг COMPAS показала, что единого математического определения справедливости не существует, а различные метрики справедливости могут быть взаимно несовместимы.

Знаковым стало дело State v. Loomis (2016), рассмотренное Верховным судом штата Висконсин. Подсудимый оспаривал использование оценки COMPAS при вынесении приговора, ссы -:

лаясь на нарушение права на надлежащую правовую процедуру (due process), поскольку проприетарный характер алгоритма не позволял проверить методологию расчёта. Суд отклонил жалобу, постановив, что баллы COMPAS могут учитываться при назначении наказания, однако обязал сопровождать их предупреждениями об ограничениях инструмента [7]. Это решение подвергается обоснованной критике в юридической литературе: судьи не имеют доступа ни к алгоритму, ни к обучающим данным и видят лишь итоговый балл, что в сочетании с феноменом автоматизационной предвзятости (automation bias), т.е. склонности людей избыточно доверять машинным рекомендациям, создаёт серьёзные риски для индивидуализации наказания [8].

Исследование 2024 года, опубликованное в журнале Artificial Intelligence and Law, продемонстрировало, что встроенная в COMPAS предвзятость в пользу более жёстких решений может быть существенно сокращена с одновременным повышением общей точности прогноза. Авторы справедливо подчёркивают, что нормативный выбор между интересами потенциально невиновных подсудимых и интересами потенциальных жертв не должен быть скрыт в программном коде: он должен быть прозрачным и принадлежать законодателю и суду [9].

На регуляторном уровне в мировой практике важнейшим шагом стал Регламент ЕС 2024/1689 об искусственном интеллекте (EU AI Act), вступивший в силу 1 августа 2024 года. Регламент относит ИИ-системы, используемые в отправлении правосудия, к категории высокого риска, что влечёт обязательства по обеспечению прозрачности, документированию, человеческому надзору и оценке соответствия. При этом EU AI Act прямо подтверждает, что использование ИИ может поддерживать судебную деятельность, однако не должно подменять полномочия судьи по принятию решений [10].

Похожие шаги предлагается внедрять и на международном уровне: так, в декабре 2025 года ЮНЕСКО представила Руководства по использованию ИИ в судах и трибуналах, включающие 15 принципов, среди которых аудируемость, информационная безопасность и обязательность человеческого контроля на всех этапах жизненного цикла системы [11].

3. Российский контекст: состояние и пробелы регулирования В России внедрение ИИ в судебную систему находится на начальном этапе и осуществляется преимущественно точечно. В 2021 году в Белгородской области был запущен пилотный проект по использованию ИИ в судопроизводстве [12]. В рамках суперсервиса «Правосудие онлайн» планируется применять технологии ИИ для автоматизированного составления проектов судебных актов на основе анализа процессуальных обращений и материалов дела [13]. В ноябре 2025 года председатель Верховного суда РФ И. В. Краснов поручил ускорить внедрение ИИ в работу российских судов, подчеркнув при этом, что окончательное решение по делу всегда должно оставаться за человеком [14].

Вместе с тем перспективы внедрения ИИ в российское правосудие сопряжены с технологической неопределённостью. Отечественные языковые модели и нейросетевые решения пока уступают зарубежным аналогам по качеству обработки естественного языка, глубине юридического анализа и объёму обучающих данных. Использование же иностранных моделей (таких как GPT, Claude или Gemini) в судебной системе сопряжено с рисками: передача материалов дел на серверы иностранных компаний создаёт угрозу утечки персональных данных и конфиденциальной информации, а зависимость критической государственной инфраструктуры от зарубежных технологий противоречит взятому нашей страной курсу на цифровой суверенитет. Примечательно, что даже само понятие «судебный ИИ» остаётся нормативно и технически неопределённым: ни в одном действующем акте не закреплено, какая именно технология (большая языковая модель, экспертная система, алгоритм машинного обучения или что-то еще) должна лечь в основу автоматизации правосудия, каковы требования к её верификации и сертификации и кто несёт ответственность за ошибки в её работе. Таким образом, Россия оказывается перед дилеммой: необходимость модернизации судопроизводства очевидна, однако инструментарий для этого до сих пор не определён.

Отметим, что по состоянию на начало 2026 года в России отсутствует специальный нормативный акт, регулирующий использование ИИ в судебном процессе. Национальная стратегия развития искусственного интеллекта на период до 2030 года, к сожалению, носит рамочный характер и не содержит специальных положений о применении ИИ в правосудии. Как справедливо отмечается в литературе, к числу основных барьеров относятся не только отсутствие правовых норм, но и дефицит доверия к алгоритмическим решениям со стороны как судейского сообщества, так и граждан [15]. Председатель Совета судей РФ В. В. Момотов ранее выразил позицию, согласно которой ИИ при назначении наказания чужд принципам справедливости и гуманизма и не способен выявить дух законодательства [16]. Эта позиция заслуживает внимания, однако не означает пол- ного отказа от технологий; она скорее указывает на необходимость определения чётких границ допустимости использования ИИ и создания правовых гарантий его прозрачности (тем более, если речь идет об уголовном процессе).

Существенным пробелом является отсутствие в российском праве требования объяснимости алгоритмических решений, используемых в государственном управлении и правосудии. Если в ЕС AI Act прямо предусматривает обязательства по обеспечению прозрачности систем высокого риска и право граждан на информацию о том, что в отношении них применяется ИИ, то в российской правовой системе аналогичные нормы пока не сформированы. Это означает, что внедрение ИИ-инструментов в российских судах может происходить в условиях регуляторного вакуума, что само по себе создаёт риски для прав участников процесса.

4. Правовые меры по обеспечению прозрачности и объективности судебного ИИ На основе проведённого анализа можно сформулировать комплекс правовых мер, направленных на обеспечение прозрачности и объективности ИИ в судебном процессе.

Во-первых, необходимо закрепить на законодательном уровне требование обязательного аудита алгоритмических систем, применяемых в правосудии. Такой аудит должен включать проверку обучающих данных на предмет системных искажений, тестирование модели на различных демографических группах и оценку соответствия результатов работы алгоритма принципам справедливости. Опыт американской системы COMPAS убедительно демонстрирует, что без внешнего аудита встроенные предвзятости алгоритма могут оставаться незамеченными годами.

Аудит, на наш взгляд, должен проводиться как до внедрения системы (ex ante), так и в процессе её эксплуатации (ex post), по аналогии с требованиями Закона ЕС об искусственном интеллекте к системам высокого риска [10].

Во-вторых, необходимо нормативно обеспечить объяснимость результатов работы ИИ-систем в судебном процессе. Это означает, что каждая рекомендация алгоритма, используемая при принятии процессуального решения, должна сопровождаться понятным для участников процесса обоснованием: какие факторы учтены, какой вес им присвоен и как именно сформирован итоговый результат. В этом отношении продуктивным представляется подход, предложенный в рамках концепции «Legal XAI», ставящей в центр не разработчика алгоритма, а его конечного пользователя - судью, адвоката, подсудимого и других участников судопроизводства [17]. Выбор формата и уровня детализации объяснения должен определяться потребностями целевой аудитории, а не техническим удобством.

В-третьих, ключевым принципом должно оставаться сохранение за судьёй решающей роли в процессе принятия решения. ИИ может быть инструментом поддержки, но не заменой судейского усмотрения. Данный принцип уже зафиксирован в Законе ЕС об искусственном интеллекте и Руководствах ЮНЕСКО. Представляется, что его закрепление в российском процессуальном законодательстве представляется первоочередной задачей. При этом важно не ограничиваться декларативными формулировками. Необходимо предусмотреть конкретные процессуальные механизмы: обязанность судьи мотивировать отступление от рекомендации алгоритма (или, напротив, следование ей), право сторон ознакомиться с результатами работы ИИ и представить контраргументы, а также запрет на использование ИИ в качестве единственного основания для принятия решения по существу дела. Наконец, целесообразно создание специализированного органа (или наделение соответствующими полномочиями Судебного департамента при Верховном Суде РФ), ответственного за сертификацию и мониторинг ИИ-систем, используемых в судах. Такой орган мог бы разрабатывать стандарты прозрачности и объяснимости, проводить или заказывать независимый аудит и публиковать результаты в открытом доступе, обеспечивая тем самым не только процессуальные, но и общественные гарантии объективности правосудия.

Заключение

Использование технологий искусственного интеллекта в судебном процессе способно повысить эффективность правосудия, однако лишь при условии, что прозрачность и объективность алгоритмических систем будут обеспечены не на уровне деклараций, а через систему конкретных правовых механизмов. Зарубежный опыт, проиллюстрированный в данной статье, показывает, что регулирование ИИ в правосудии неизбежно и что промедление с его формированием создаёт реальные риски для прав участников процесса. Для российской правовой системы, находящейся на начальном этапе внедрения ИИ в суды, это означает возможность учесть чужие ошибки и выстроить регулирование превентивно, а не в режиме запоздалой реакции на уже возникшие проблемы. Минимально необходимые, на наш взгляд, элементы будущей системы регулирования – это обязательный аудит алгоритмов, требо-:

вание объяснимости, сохранение решающей роли судьи и создание специализированного контролирующего органа. Без этих элементов цифровизация правосудия рискует превратиться в источник новых угроз, а не решение существующих проблем.

Список литературы

1. OECD. Governing with Artificial Intelligence: AI in Justice Administration and Access to Justice. Paris: OECD Publishing, 2025. URL: https://www. oecd.org/en/publications/2025/06/governing-withartificial-intelligence_398fa287.html (дата обращения: 05.02.2026).
2. Зуйков С. А. Перспективы использования искусственного интеллекта в судебной системе России // Журнал Суда по интеллектуальным правам. 2025. № 3 (49). С. 125–129.
3. Richmond K.M. et al. Explainable AI and Law: An Evidential Survey // Digital Society. 2023. №3. DOI: 10.1007/s44206-023-00081-z.
4. Deck L., Schoeffer J., De-Arteaga M., Kühl N. A Critical Survey on Fairness Benefits of Explainable AI // Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘24). Rio de Janeiro, 2024. P. 1–17.
5. Angwin J., Larson J., Mattu S., Kirchner L. Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased Against Blacks // ProPublica. 2016. May 23. URL: https://www.propublica.org/article/machine-bias-riskassessments-in-criminal-sentencing (дата обращения: 05.02.2026).
6. Angwin J., Larson J., Mattu S., Kirchner L. How We Analyzed the COMPAS Recidivism Algorithm // ProPublica. 2016. May 23. URL: https://www. propublica.org/article/how-we-analyzed-the-compasrecidivism-algorithm (дата обращения: 05.02.2026).
7. State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
8. Park A.L. Injustice Ex Machina: Predictive Algorithms in Criminal Sentencing // UCLA Law Review. 2019. URL: https://www.uclalawreview.org/ injustice-ex-machina-predictive-algorithms-incriminal-sentencing/ (дата обращения: 05.02.2026).
9. Engel C. et al. Code is Law: How COMPAS Affects the Way the Judiciary Handles the Risk of Recidivism // Artificial Intelligence and Law. 2024.
10. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) // Official Journal of the European Union. L Series. 2024. 12 July.
11. UNESCO. AI in the Courtroom: UNESCO’s New Guidelines for the Judiciary. Paris, 2025. URL: https://www.unesco.org/en/articles/ai-courtroomunescos-new-guidelines-judiciary (дата обращения: 05.02.2026).
12. Правосудие будущего: как искусственный интеллект меняет суды // Softline Digital. 2024. 26 сентября. URL: https://softline.ru/about/blog/ pravosudie-budushego-kak-iskusstvennyj-intellektmenyaet-sudy (дата обращения: 05.02.2026).
13. Лаптев В. А. Искусственный интеллект в суде — одна инстанция // Право.ру. 2024. URL: https://pravo.ru/opinion/254748/ (дата обращения: 05.02.2026).
14. Глава Верховного суда поручил ускорить внедрение ИИ в российскую судебную систему // CNews. 2025. 5 ноября. URL: https://www.cnews.ru/ news/top/2025-11-05_predsedatel_verhovnogo (дата обращения: 05.02.2026).
15. Искусственный интеллект в судах // TAdviser. 2024. URL: https://www.tadviser.ru/ (дата обращения: 05.02.2026).
16. Момотов В. В. [Позиция по использованию ИИ в правосудии] // Цит. по: Правосудие будущего: как искусственный интеллект меняет суды // Softline Digital. 2024.
17. Sele D. et al. Explaining eXplainable AI // SSRN Electronic Journal. 2025. DOI: 10.2139/ ssrn.4972085.

Скачать