Правовые пределы использование искусственного интеллекта при вынесении приговора

• МУРКШТИС Мариус Иокубовичдоктор юридических наук, председатель московской коллегии адвокатов «Муркштис, Калиненко и партнеры», доцент кафедры «Уголовного права, процесса и криминалистики» Юридического института РУДН7607428@mail.ru

В статье исследуются правовые пределы допустимости использования искусственного интеллекта в постановлении приговора в условиях цифровой трансформации судебной системы. Автор анализирует соотношение технологий ИИ с фундаментальными принципами уголовного судопроизводства — независимостью судей, презумпцией невиновности, индивидуализацией наказания. На основе изучения российской судебной практики и зарубежного опыта выявлены ключевые риски: эффект «чёрного ящика», алгоритмическая предвзятость, проблема доказуемости использования ИИ, размывание персональной ответственности судьи. Предложено использовать ИИ исключительно как вспомогательный инструмент для анализа доказательств и систематизации правовой информации при условии законодательного регулирования, сертификации алгоритмов и сохранения за судьёй права на окончательное, мотивированное решение.

Ключевые слова: искусственный интеллект, приговор, уголовный процесс, судейское усмотрение, цифровое правосудие

Цифровая трансформация судебной системы, обусловленная развитием технологий искусственного интеллекта (здесь и далее - ИИ), ставит перед теорией и практикой принципиально новые вызовы. Если автоматизация рутинных процессуальных действий (составление протоколов, распределение дел) вызывает относительно умеренные споры, то вовлечение алгоритмических систем в принятие решений, непосредственно затрагивающих фундаментальные права и свободы человека на стадии постановления приговора, требует глубокого междисциплинарного анализа.

Актуальность данного исследования обусловлена несколькими факторами. Во-первых, глобальным трендом на внедрение «предиктивных» технологий в правосудие, где алгоритмы используются для решения различных вопросов, в том числе и рекомендации вида и размера наказания. Во-вторых, активной разработкой в Российской Федерации концепций «цифрового правосудия». В-третьих, появлением первых прецедентов фактического использования ИИ при составлении судебных решений.

Целью настоящей статьи является определение правовых пределов допустимости участия искусственного интеллекта в постановлении приговора. Для достижения поставленной цели определены следующие задачи: 1) исследовать теоретические основы соотношения принципов уголовного судопроизводства с технологиями ИИ; 2) проанализировать российскую судебную практику использования ИИ при вынесении приговоров; 3) выявить системные риски и правовые коллизии, возникающие при применении ИИ; 4) обосновать правовые гарантии, минимизирующие угрозы для справедливого правосудия; 5) разработать научно обоснованные предложения по регулированию использования ИИ в уголовном процессе.

В научной литературе отсутствует единое определение искусственного интеллекта применительно к правовой сфере. Согласно Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента РФ от 10 октября 2019 г. № 490, под искусственным интеллектом понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений» [2].

С точки зрения уголовно-процессуального права целесообразно выделять три уровня взаимодействия ИИ с системой правосудия.

1. Инструментальный уровень - предполагает использование ИИ для автоматизации вспомогательных функций: анализ судебной практики по аналогичным делам, проверка расчётов размера штрафа, выявление противоречий в приговоре.

2. Рекомендательный уровень - включает применение алгоритмов для формирования прогнозов и рекомендаций: оценка вероятности рецидива, прогнозирование поведения лица, совершившего преступление, рекомендация вида наказания в пределах санкции статьи УК РФ.

3. Уровень принятия решения, который подразумевает делегирование ИИ полномочий по принятию итогового решения. Такой подход, например, реализован в отдельных юрисдикциях Китая для мелких правонарушений, но в отношении уголовных дел с возможностью лишения свободы вызывает серьёзные конституционные возражения[3].

Любое внедрение ИИ на стадии постановления приговора должно оцениваться через призму фундаментальных принципов уголовного судопроизводства. Принцип независимости судей и личного отправления ими правосудия представляет собой непреодолимый барьер для делегирования ИИ полномочий по вынесению приговора.

Согласно ч. 3 ст. 1 Закона РФ от 26.06.1992 № 3132-1 (ред. от 28.12.2025) «О статусе судей в Российской Федерации», судьями являются лица, наделенные в конституционном порядке полномочиями осуществлять правосудие и исполняющие свои обязанности на профессиональной основе [1]. ИИ не обладает правосубъектностью, не может нести юридическую ответственность и, следовательно, не может заменить судью в отправлении правосудия.

Презумпция невиновности требует, чтобы бремя доказывания вины лежало на стороне обвинения, а все сомнения толковались в пользу подсудимого. Алгоритмы оценки рисков, основанные на ранее полученных данных о личности, могут косвенно нарушать этот принцип, формируя «прогнозируюмую опасность преступника» на основе его демографических характеристик, что эквивалентно презумпции виновности на основе принадлежности к определённой социальной группе.

Индивидуализация наказания требует учёта конкретных обстоятельств дела и личности подсудимого. Алгоритмы, обучающиеся на значительных массивах данных, склонны к усреднению и могут игнорировать определенные факторы: раскаяние, мотивы преступления, семейные обстоятельства, которые не поддаются количественной оценке, но имеют решающее значение для справедливого наказания.

Так, в 2024 году в Ейском городском суде Краснодарского края был вынесен приговор по делу о получении взятки (п. «а», «в» ч. 5 ст. 290 УК РФ), в тексте которого по заявлению адвоката были выявлены пять фрагментов с явными признаками машинной генерации. Адвокат отметил, что использованные логические конструкции искусственны, противоречат принципу презумп- ции невиновности, содержат повторяющееся слово «якобы» с негативной коннотацией, характерной для автогенерации, а также разговорные конструкции («какие-то свои»), недопустимые в официальном документе. Согласно заключению лингвистической экспертизы, в представленных фрагментах содержатся «лингвистические признаки отклонения текстов от нормы юридического подстиля языка, с большой долей вероятности свидетельствующие о генерации текста с использованием технологии искусственного интеллекта».

Апелляционная инстанция, рассмотрев жалобу защитника, оставила приговор без изменения, указав, что «выбранная судом стилистика изложения определенных умозаключений не влияет на законность принятого судом решения, не противоречит нормам Уголовно-процессуального закона РФ и Постановлению Пленума ВС от 29 ноября 2016 г. № 55» [5].

Однако сам факт даже частичного использования текстов, сгенерированных большими языковыми моделями, при подготовке процессуальных документов, порождает комплекс фундаментальных вопросов. Центральным вопросом остается допустимость делегирования функций по составлению судебных решений алгоритмическим системам. Судебная власть, по своей природе, предполагает осуществление правосудия конкретными лицами, наделенными полномочиями на оценку доказательств по внутреннему убеждению. Использование генеративного ИИ для формулирования мотивировочной части решения, как было указано ранее, ставит под сомнение основные принципы правосудия. Возникает правовая коллизия: если текст приговора сгенерирован нейросетью, чья интеллектуальная воля отражена в документе — судьи или разработчика алгоритма? Это создает риски размывания персональной ответственности судьи за вынесенное решение и является основанием для пересмотра или отмены такого решения.

В условиях цифровизации критически важным становится вопрос доказуемости факта использования ИИ. Существует гипотеза, что современные программные средства анализа позволяют с высокой долей вероятности идентифицировать машинный текст. На рынке представлен ряд коммерческих решений (Writer, Copyleaks, Content at Scale, Sapling, Corrector и аналоги), позиционируемых как детекторы AI-контента.

Однако эмпирические исследования и тестирование данных инструментов демонстрируют их принципиальную несостоятельность в рассматриваемых условиях [7; 8].

Ни один из существующих на текущий момент инструментов не обладает достаточной специфичностью и чувствительностью, чтобы гарантировать отсутствие ошибок первого и второго рода (ложноположительных и ложноотрицательных срабатываний). Методы детекции, основанные на анализе перплексии и вариативности текста, оказываются неэффективными перед лицом постоянно эволюционирующих архитектур нейросетей. Наблюдается устойчивая тенденция опережающего развития генеративных возможностей по сравнению с технологиями их обнаружения. Современные модели (такие как Qwen, ChatGPT, DeepSeek и другие) обладают способностью к глубокой стилистической адаптации.

Используя методы тонкой настройки и промпт-инжиниринг на основе исходных образцов текста конкретного автора (в данном случае — судьи), нейросеть может мимикрировать под индивидуальные синтаксические и лексические паттерны.

Это приводит к тому, что сгенерированный текст становится стилистически неотличимым от антропогенного. В результате, ни автоматизированные системы детекции, ни традиционная лингвистическая экспертиза не могут с уверенностью, достаточной для процессуального доказывания, утверждать о наличии или отсутствии машинной генерации в тексте судебного решения.

Еще одной проблемой применения ИИ в уголовном судопроизводстве является «эффект чёрного ящика» — невозможность объяснить, как именно алгоритм пришёл к определённому выводу. Развитые нейронные сети принимают решения на основе миллионов параметров, что делает их логику непостижимой даже для разработчиков. Это создаёт коллизию с правом подсудимого на обжалование приговора, поскольку невозможно оспорить решение, мотивация которого неизвестна. Примером служит американская используемая для оценки риска рецидива. Доступ к информации об алгоритмах работы системы является коммерческой тайной, что делает невозможным проверку обоснованности рекомендаций.

Исследования показали, что система демонстрирует систематическую предвзятость в отношении афроамериканцев: при одинаковом уровне риска рецидива алгоритм чаще классифицировал их как «высокорисковых». Аналогичная проблема возникла с российской системой «Электронные весы правосудия», критикуемой за отсутствие раскрытия алгоритма определения вида наказания [4].

ИИ, участвующий в постановлении приговора, должен быть независимым и беспристрастным, но он зависим от разработчиков и оттого, кто финансирует его создание. Государственные органы, выступающие заказчиками ИИ-систем в уголовном судопроизводстве, смогут влиять на разработку алгоритма, заложить в программу скрытые параметры, влияющие на принятие решений. Представители государственных органов будут обладать информацией о принципах работы алгоритма, а сторона защиты — вряд ли. Это создаёт угрозу нарушения принципов равенства сторон и состязательности.

Как отмечает вице-президент ФПА РФ Е.А.

Рубинштейн, «в сложившихся современных условиях правоприменения использование ИИ вряд ли может ухудшить качество рассмотрения уголовных дел. Более того, можно предположить, что объективное использование возможностей ИИ сейчас только улучшит качество судебных актов. Другой вопрос, что вносит сведения в систему ИИ человек с присущим ему правосознанием, профдеформацией и целеполаганием» [5]. Даже при формальном сохранении за судьёй права на окончательное решение, психологический феномен «автоматизации доверия» приводит к фактическому переносу ответственности на алгоритм.

Человеку свойственна склонность принимать предложение программы, даже если это предложение для него не обязательно. В Китае Верховный суд обязал судей при отклонении рекомендаций ИИ письменно излагать объяснения своей позиции, что фактически создаёт административное давление на судей с целью следования алгоритмическим рекомендациям [4]. Анализ теоретических и практических аспектов позволяет сформулировать следующие выводы о допустимых формах применения ИИ:

1. Анализ доказательств и выявление корреляций. ИИ может обрабатывать колоссальные объёмы информации в сложных экономических или налоговых делах, выявляя противоречия в показаниях и документах, на которые судья мог бы не обратить внимания в силу когнитивных и иных ограничений.

2. Систематизация правовой информации. ИИ может предоставлять судье предварительную правовую квалификацию со ссылками на конкретные нормы права, пункты Постановлений Пленума ВС РФ и релевантную судебную практику, выступая в роли «второго мнения» или экспертной справки.

3. Расчёт параметров наказания. При наличии чётких математических моделей (категория преступления, возраст лица, рецидив, смягчающие и отягчающие обстоятельства) ИИ может рассчитывать рамки возможного наказания, но окончательное решение должно принимать судья.

Для минимизации рисков и создания правовых гарантий предлагается:

1. Внести изменения в УПК РФ, дополнив главу 39 «Постановление приговора» статьёй, регулирующей порядок использования технических средств и ИИ при постановлении приговора, с обязательным указанием в приговоре на факт и характер использования таких систем.

2. Создать государственную систему сертификации судебных ИИ-систем, обеспечивающую «герметизацию» алгоритмов от незаконного воздействия и гарантирующую их соответствие требованиям справедливого правосудия.

3. 4. Разработать «Стандарты использования ИИ в уголовном судопроизводстве» с участием IT-специалистов и юристов, определяющие требования к обучению ИИ на качественных массивах данных и к использованию ИИ при составлении процессуальных актов.

В качестве выводов отметим следующее:

1. Использование ИИ в уголовном судопроизводстве представляет собой двойственное явление: с одной стороны, такие технологии могут повысить эффективность анализа доказательств и выявить аномалии в назначении наказания; с другой стороны, применение алгоритмов на стадии принятия решения, создаёт серьёзные угрозы для фундаментальных принципов справедливого правосудия.

2. Основные принципы отправления правосудия делают невозможным делегирование ИИ полномочий по вынесению судебного решения, в том числе приговора. Искусственный интеллект не обладает правосубъектностью и не может нести юридическую ответственность за принимаемые решения, что противоречит самой природе правосудия.

3. Российская судебная практика уже столкнулась с проблемой скрытого использования ИИ при составлении приговоров, что свидетельствует о необходимости немедленного правового регулирования данного вопроса.

4. Допустимым представляется использование ИИ исключительно в качестве вспомогательного инструмента для анализа доказательств, систематизации судебной практики и расчёта параметров наказания при строгом соблюдении требований прозрачности, объяснимости алгоритмов и сохранении за судьёй права на окончательное решение.

5. Легитимизация ИИ в уголовном судопроизводстве должна осуществляться в правовых рамках, гарантирующих, что право и обязанность вершить судьбу человека, применяя не только нормы закона, но и нравственные нормы справедливости, должны навсегда остаться за судьей-человеком. Только при условии строгого соблюдения конституционных принципов, обеспечения прозрачности алгоритмов и сохранения за человеком (судьёй) права на окончательное решение использование искусственного интеллекта может стать инструментом повышения качества правосудия, а не угрозой для прав и свобод человека.

Список литературы

1. Закон РФ от 26.06.1992 № 3132-1 (ред. от 28.12.2025) «О статусе судей в Российской Федерации» // СПС «КонсультантПлюс» (дата обращения 26.02.2026).
2. Указ Президента РФ от 10.10.2019 № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СПС «КонсультантПлюс» (дата обращения 26.02.2026).
3. Зуйков С.А. Перспективы использования искусственного интеллекта в судебной системе России // Журнал Суда по интеллектуальным правам. 2025. Сентябрь. № 3 (49). С. 125-129.
4. Папышева Е.С. Пределы допустимости участия искусственного интеллекта в постановлении приговора // Пробелы в российском законодательстве. 2023. Т. 16. № 5. С. 386–391.
5. ФПА РФ. В использовании искусственного интеллекта в судах необходим порядок // Федеральная палата адвокатов РФ. URL: https://fparf.ru/ news/fpa/v-ispolzovanii-iskusstvennogo-intellekta-vsudakh-neobkhodim-poryadok/ (дата обращения: 19.02.2026).
6. Alshammari H., El-Sayed A., Elleithy K. Ai-generated text detector for arabic language using encoder-based transformer architecture //Big Data and Cognitive Computing. — 2024. — Т. 8. — №. 3.
7. Kublik S. GPT-3: The Ultimate Guide to Building NLP Products with OpenAI API / S. Kublik, S. Saboo. —: Packt Publishing Ltd, 2023. — 139 c.
8. Lancaster T. Artificial intelligence, text generation tools and ChatGPT — does digital watermarking offer a solution? / T. Lancaster. — Текст: непосредственный // International Journal for Educational Integrity. — 2023. — № 19.

Скачать