Искусственный интеллект в правоприменении: опыт США

Актуальность применения искусственного интеллекта (далее - ИИ) повсеместно с каждым днем все увеличивается [3; 4; 5]. ИИ является перспективным инструментом, который может ускорить и облегчить работу любых сфер [7; 8], в том числе, и юридической [9]. В данной работе нам хотелось бы проследить некоторые проблемы использования искусственного интеллекта в правоприменении на основе опыта Соединенных штатов Америки.

Наиболее показательным примером использования ИИ в правоприменении является система США для оценки вероятности рецидива. Анализ подходов России и США к регулированию таких технологий показывает различия в правовых системах, общественных приоритетах и вызовах, с которыми сталкиваются страны в процессе адаптации законодательства к реалиям цифрового века. Система COMPAS была разработана компанией Northpointe (ныне Equivant) и внедрена в судебную практику США с целью оценки риска повторного преступления у лиц, уже находящихся под следствием или осуждённых. Программа анализирует данные о подсудимых, включая их возраст, пол, предыдущее криминальное прошлое, место жительства, социальное положение и даже личные характеристики. На основании этих данных алгоритм выдаёт определённый балл риска, который может быть использован судьями для принятия решений о мере пресечения, условно-досрочном освобождении или назначении реабилитационных программ [10]. Предполагалось, что использование алгоритма исключит субъективность человеческого фактора и обеспечит более справедливое распределение наказаний. Однако практика показала, что система COMPAS породила множество споров и юридических проблем.

Одной из основных претензий к системе COMPAS является её непрозрачность. Алгоритм и его логика защищены как коммерческая тайна, что делает невозможным проведение независимого анализа или верификации результатов. Проблема усугубляется тем, что система обучалась на исторических данных, которые сами по себе могут быть предвзятыми. Например, исследования показали, что COMPAS систематически завышает уровень риска для афроамериканцев и занижает его для белых граждан при схожих условиях. Однако на основании исторического опыта также можно сделать вывод о том, что афроамериканцы чаще совершают преступления [13]. Поэтому представляется необходимым найти ту самую «золотую середину» для полноценного и правильного регулирования данной сферы.

Судебное разбирательство по делу State v. Loomis в 2016 г. стало знаковым примером проблем, связанных с использованием COMPAS.

Обвиняемый Эрик Лумис утверждал, что выводы системы повлияли на суровость его приговора, несмотря на отсутствие возможности проверить правильность этих данных. Верховный суд штата Висконсин признал, что система может использоваться, но не должна служить единственным основанием для принятия решений [12].

Однако COMPAS – не единственная система, использующая искусственный интеллект в сфере правоприменения. В США также используется система PredPol. Название механизма происходит от англоязычного словосочетания, означающего предиктивная полиция, то есть связанная с прогнозированием будущего поведения преступников. PredPol в своей основе содержит машинное обучение, с помощью которого он анализировал полицейское отчеты, которые в него загружали. Идея состояла в том, чтобы направлять патрули в районы с повышенным риском правонарушений. Но, к сожалению, данная система лишь выявляла определенные паттерны в отчетах полиции. Как и в примере с COMPAS, PredPol завышал все возможные критерии для латиноамериканцев. Поэтому данная технологическая разработка не стала активно применяться после нескольких лет исследований её на практике. Опыт использования технологии искусственного интеллекта не Опыт использования технологий искусственного интеллекта не ограничивается только этими двумя проектами. В Калифорнии была основана компания ROSS Intelligence, разработавшая платформу для юристов, которая позволяла по краткому запросу находить релевантные судебные прецеденты, анализировать нормативную базу и формировать аргументированную правовую позицию. Однако в 2020 г. компания прекратила свою деятельность после судебного иска, поданного Westlaw. Истец утверждал, что ROSS незаконно использовала его юридическую базу данных для обучения алгоритмов.

Суд удовлетворил иск, в том числе потому, что Thomson Reuters (владелец Westlaw) являлся прямым конкурентом ROSS. Этот случай подчеркнул сложность правового регулирования в области ИИ и авторского права, особенно в сфере использования больших объемов данных для обучения интеллектуальных систем.

Американское законодательство, регулирующее использование ИИ, носит фрагментарный характер. В США отсутствует единый федеральный закон, посвящённый ИИ. Основное регулирование осуществляется через антидискриминационные законы, такие как Civil Rights Act, и нормы, защищающие персональные данные, например, Калифорнийский закон о защите потребителей (CCPA). Тем не менее, судебные прецеденты, такие как дело Loomis, формируют рамки правоприменения ИИ в отсутствие специализированного законодательства, так как у США прецедентная система права.

В условиях стремительного развития технологий Соединенные Штаты Америки усиливают ограничения на использование систем искусственного интеллекта иностранного производства. В 2025 г. китайская компания DeepSeek представила свой аналог ChatGPT, что вызвало обеспокоенность у американского правительства в связи с возможными рисками безопасности данных. Основной причиной опасений стало отсутствие прозрачности в вопросах хранения и обработки информации, предоставляемой пользователями китайской платформе. В ответ на это был предложен закон «No DeepSeek on Government Devices», запрещающий использование DeepSeek в государственных учреждениях США. Вопрос ограничения данного ресурса был поднят не только в США, но и в таких странах, как Австрия, Нидерланды, Италия и Южная Корея, где также рассматриваются меры по регулированию использования зарубежных ИИ-систем [11].

В отличие от США, Россия только начала формировать правовую базу для регулирования ИИ [6]. В 2019 г. была утверждена «Национальная стратегия развития искусственного интеллекта до 2030 года» [2], которая обозначила основные направления работы с технологиями ИИ, включая их правовое регулирование. Важным шагом стало принятие закона о экспериментальных правовых режимах в 2021 г., который позволяет тестировать новые технологии в условиях особого правового режима [1]. Однако российское законодательство пока не охватывает вопросы использования ИИ в таких чувствительных сферах, как правосудие. Основное отличие заключается в подходе к регулированию: в США алгоритмы разрабатываются частными компаниями, такими как Northpointe (разработчик COMPAS), и внедряются в судебную систему без предварительной сертификации. В России же предполагается государственное регулирование всех значимых ИИ-инициатив, что потенциально может снизить риски непрозрачности, но также замедляет процесс внедрения.

Кроме того, в США нет федерального законодательства, регулирующего искусственный интеллект в правоприменении, а в России пока отсутствуют правовые механизмы, позволяющие полноценно использовать ИИ в судопроизводстве. Однако, учитывая растущую тенденцию к цифровизации, Россия постепенно внедряет технологии для анализа судебных актов и прогнозирования правоприменительных решений, но пока только в качестве вспомогательного инструмента для судей.

Пример COMPAS подчёркивает необходимость установления единых стандартов прозрачности для алгоритмов ИИ. Независимая экспертиза, регулярный аудит и обеспечение доступности информации о принципах работы алгоритмов должны стать обязательными элементами регулирования. Кроме того, необходимо учитывать этические аспекты, чтобы предотвратить использование предвзятых данных, ведущих к дискриминации.

Таким образом, регулирование ИИ в правовой сфере находится на начальном этапе как в России, так и в США. Несмотря на различия в подходах, обе страны сталкиваются с аналогичными вызовами, связанными с непрозрачностью, дискриминацией и недостаточной правовой определённостью. Пример системы COMPAS демонстрирует, что использование ИИ требует детальной проработки нормативной базы, включающей требования к прозрачности, ответственность разработчиков и защиту прав человека.