Судебный контроль применения искусственного интеллекта в публичном управлении: российский и зарубежный опыт

Введение

Цифровая трансформация публичного управления затрагивает не только способы хранения, обработки и передачи информации, но и механизм подготовки юридически значимых решений. Современные алгоритмические системы способны анализировать значительные массивы данных, осуществлять классификацию, выявлять закономерности, определять уровни риска и формировать результаты, которые впоследствии учитываются должностными лицами при реализации публичных полномочий.

В российской юридической науке цифровизация государственного управления рассматривается как процесс, требующий устранения системных правовых ограничений и формирования соответствующих механизмов правового регулирования [1]. Развитие технологий искусственного интеллекта одновременно ставит вопрос о трансформации отдельных административно-правовых режимов и пределах использования алгоритмических технологий публичной администрацией [2].

Применение искусственного интеллекта в публичном управлении имеет принципиальное отличие от обычной технической автоматизации. Если информационная система только обеспечивает хранение документов или передачу сведений, содержание публично-властного решения по‑прежнему формируется человеком. Иная ситуация возникает, когда результат алгоритмической обработки становится одним из оснований оценки поведения гражданина, определения уровня риска, установления соответствия определенным критериям либо выбора варианта административного решения.

Исследования последних лет подтверждают постепенное расширение сферы применения искусственного интеллекта в деятельности органов публичной власти. В частности, рассматриваются возможности использования таких технологий в ведомственном правотворчестве [3], кадровой работе органов исполнительной власти [4], а также непосредственно при осуществлении судебного контроля [5].

Е. В. Ширеева рассматривает внедрение искусственного интеллекта при осуществлении судебного контроля [5]. В настоящей статье предмет исследования иной: судебная проверка применения алгоритмов публичной администрацией. Разграничение этих направлений позволяет сосредоточиться на правах участника административного правоотношения, а не на техническом оснащении суда.

Для настоящего исследования существен вопрос о соотношении публичной компетенции и участия частных субъектов. С. М. Миронова и В. А. Усанова исследовали правовые формы привлечения частных субъектов к выполнению публичных функций государства [6]. Сформулированный ими подход непосредственно не относится к искусственному интеллекту, однако создает теоретическую основу для исследования современной ситуации, при которой государственный орган осуществляет публичное полномочие с использованием системы, разработанной или обслуживаемой частной организацией.

Актуальность исследования подтверждается сообщением Верховного Суда Российской Федерации от 27 мая 2026 г. «Верховный Суд проведет масштабное обобщение судебной практики по делам, связанным с использованием искусственного интеллекта». В нем объявлено о поручении провести анализ соответствующих судебных дел. Это начатая работа по обобщению практики, а не опубликованный итоговый обзор; сообщение само по себе не устанавливает правовой позиции по разрешению таких споров.

Цель и задачи исследования

Цель настоящей статьи — разработать на основе анализа российской и зарубежной судебной практики подход к судебной проверке публично-властных решений, содержание которых существенно обусловлено применением алгоритмических систем.

Для достижения цели поставлены следующие задачи: исследовать формирующуюся российскую практику; сопоставить ее с зарубежными судебными подходами; определить критерий юридически значимого влияния алгоритма на публично-властное решение; предложить специальный стандарт судебной проверки таких решений; определить особенности распределения бремени доказывания; установить правовое значение участия частного разработчика в технологическом обеспечении осуществления публичного полномочия.

Методы исследования

Методологическую основу составили формально-юридический, сравнительно-правовой и системно-структурный методы, а также анализ судебной практики. Сопоставляются предмет спора, функция примененной системы, пределы судебной проверки и результат рассмотрения дела. Выборка носит качественный характер и не позволяет делать выводы о распространенности соответствующих решений. Зарубежные акты используются как сравнительный материал, а не как источники обязательных для российских судов правил. Состояние источников учитывается на 8 сентября 2026 г.

Российская судебная практика в условиях алгоритмизации публичного управления

Российская практика судебной проверки алгоритмического участия в публичном управлении складывается прежде всего вокруг обработки персональных данных и использования технически полученных доказательств. Наличие компьютерной системы в деле еще не означает, что суд проверяет решение, принятое искусственным интеллектом. Необходимо установить функцию технологии в конкретном правоотношении.

В апелляционном определении Судебной коллегии по административным делам Московского городского суда от 11 ноября 2021 г. по делу № 33а-5250/2021 рассматривалось оспаривание действий, связанных с городской системой видеонаблюдения и распознаванием лиц. Отказ в удовлетворении требований оставлен без изменения. Суд разграничивал получение изображения в целях наблюдения и использование данных для непосредственного определения личности. Поэтому данный акт нельзя представлять как безусловное признание законности любой биометрической обработки либо как проверку достоверности конкретного алгоритмического совпадения.

В апелляционном определении того же суда от 13 февраля 2025 г. по делу № 33а-0710/2025 предметом спора стали сбор и обработка данных посредством ГАИС «Сфера», отказ в их удалении и связанные с этим действия органов. Суд оставил отказ в удовлетворении требований без изменения, признав правомерным использование системы в рассматриваемых обстоятельствах. Значение дела заключается в постановке вопроса о правовых основаниях обработки сведений о конкретном лице. Из этого решения не следует, что любой последующий сигнал системы сам по себе достаточен для применения мер принуждения.

Оба дела позволяют выделить самостоятельные предметы проверки: законность создания и использования информационного массива, правомерность обработки данных гражданина и основания последующих властных действий. Их смешение способно привести к ошибочному выводу, будто законность системы в целом доказывает законность каждого принятого с ее помощью решения.

Предшествующий опыт связан с автоматической фиксацией административных правонарушений. Такие технические средства не следует автоматически относить к искусственному интеллекту. Однако здесь уже возникла необходимость проверки доказательственного результата, полученного без непосредственного восприятия события должностным лицом. Пункт 26 постановления Пленума Верховного Суда Российской Федерации от 25 июня 2019 г. № 20 «О некоторых вопросах, возникающих в судебной практике при рассмотрении дел об административных правонарушениях, предусмотренных главой 12 Кодекса Российской Федерации об административных правонарушениях» предусматривает возможность истребования документации при сомнениях в корректности работы технического средства.

Этот подход подтверждает проверяемость технического результата, но не позволяет механически переносить специальный порядок ответственности собственника транспортного средства на споры по Кодексу административного судопроизводства Российской Федерации. Общее значение имеет требование установить происхождение и доказательственную пригодность информации; процессуальные последствия определяются применимым законом.

Дополнительную нормативную опору дает статья 16 Федерального закона от 27 июля 2006 г. № 152-ФЗ «О персональных данных». Она регулирует решения, затрагивающие права и законные интересы лица и основанные исключительно на автоматизированной обработке его персональных данных, предусматривая условия допустимости и гарантии защиты. Предлагаемый в статье предмет исследования шире: существенное влияние алгоритма возможно и при формальном участии должностного лица. Вместе с тем нельзя автоматически распространять специальный режим исключительно автоматизированного решения на любую процедуру с программным обеспечением.

Зарубежная судебная практика

Зарубежные дела показывают несколько направлений проверки: соразмерность обработки данных, качество правового регулирования, полноту мотивировки индивидуального решения и фактическую роль программы. Различие результатов объясняется предметом спора и установленными обстоятельствами, поэтому их нельзя сводить к общему одобрению или запрету искусственного интеллекта.

Предшествующая практика по системам оценки риска и распознавания лиц

Решением Окружного суда Гааги от 5 февраля 2020 г. по делу о системе SyRI (ECLI:NL:RBDHA:2020:865) правовое регулирование обработки данных для выявления риска нарушений в социально-экономической сфере признано несовместимым с требованиями статьи 8 Конвенции о защите прав человека и основных свобод. Суд оценивал баланс публичной цели и вмешательства в частную жизнь, в том числе недостаточную прозрачность механизма обработки. Доктринальное значение решения рассматривает А. Мёвесе [7]. Для настоящего исследования оно состоит в том, что правомерная цель не освобождает государство от обоснования избранного способа обработки данных.

В деле Бриджеса против руководителя полиции Южного Уэльса Апелляционный суд Англии и Уэльса 11 августа 2020 г. (R (Bridges) v Chief Constable of South Wales Police, [2020] EWCA Civ 1058) выявил недостаточную определенность критериев включения лиц в списки поиска и выбора мест применения распознавания лиц. Были также установлены нарушения, связанные с оценкой воздействия на защиту данных и исполнением обязанности учитывать равенство. Решение характеризует недостатки конкретного регулирования и практики его применения, а не общий запрет распознавания лиц.

IOB и раскрытие роли алгоритма в мотивировке

В промежуточном решении Окружного суда Гааги от 5 августа 2025 г. (ECLI:NL:RBDHA:2025:14544, дело № NL24.38560) рассматривался отказ в краткосрочной визе. Суд установил применение IOB, не отраженное в мотивировке решений, и предоставил министру возможность устранить этот недостаток. Были затребованы сведения об обработке данных и формировании профилей риска, а также о значении системы и выявленных совпадений для отказа заявительнице (пункты 7–9 решения).

Акт не завершал спор выводом о незаконности системы в целом и не устанавливал право заявительницы на визу. Для сравнительного анализа существенна связь между раскрытием алгоритмического участия и возможностью проверить основания индивидуального решения. Предлагаемый автором вывод состоит в том, что мотивировка должна позволять установить, какой результат обработки учтен и почему он признан юридически значимым. Требование раскрытия при этом не тождественно обязанности опубликовать всю программу.

CaseMatcher и пределы обязанности указывать применение программы

Окружной суд Гааги в решении от 2 сентября 2026 г. (ECLI:NL:RBDHA:2026:25209, дела № NL25.39228, NL25.39229, NL25.39230 и NL25.39231) рассмотрел жалобы на отказ в убежище. Поскольку орган не мог исключить использование CaseMatcher, суд для разрешения спора исходил из ее применения (пункт 7.1). Суд принял объяснение о ее поисковой функции и работе по заранее заданным правилам, не признав ее системой искусственного интеллекта или сложным непрозрачным алгоритмом (пункты 10–10.2).

Суд не признал, что сама программа формировала решение или направляла его мотивировку, и не установил обязанности указывать ее использование (пункты 12–12.2). При этом в пункте 12.4 прямо допускается влияние найденных материалов на содержательное решение; оно разграничено с направляющим воздействием программы. Пункт 12.1 связывает раскрытие алгоритмического участия с существенным влиянием на содержание решения. Для настоящей статьи это основание разграничивать вспомогательный поиск и алгоритмическое формирование оценки обстоятельств. Предлагаемый стандарт судебной проверки является авторским обобщением, а не установленным этим решением универсальным правилом.

Дело Томпсона и Карло и определенность правил распознавания лиц

Высокий суд Англии и Уэльса 21 апреля 2026 г. отклонил требования по делу Томпсона и Карло против комиссара полиции Лондона (R (Thompson and Carlo) v Commissioner of Police of the Metropolis, [2026] EWHC 915 (Admin), дело № AC-2024-LON-001764). Проверялись принятые 11 сентября 2024 г. правила открытого применения распознавания лиц в реальном времени и их соответствие требованию качества закона в контексте статей 8, 10 и 11 Конвенции (пункты 1, 6–15 и 218 решения).

Суд признал достаточной совокупность ограничений: предусмотренные случаи применения, критерии составления списков поиска, требования к выбору места, согласованию и надзору. В отличие от дела Бриджеса, новая совокупность правил, по оценке суда, ограничивала произвольное усмотрение (пункт 217). Требование полностью исключить усмотрение из деятельности полиции из решения не следует.

Пределы вывода существенны: заявители не оспаривали соразмерность правил как самостоятельное основание и не заявляли отдельное требование о нарушении обязанности публичного органа учитывать равенство (пункты 14–15 и 145). Поэтому отказ в иске не доказывает отсутствие ошибок распознавания, дискриминационных последствий или нарушений при каждом отдельном применении системы.

Сопоставление дела Томпсона и Карло с IOB и CaseMatcher позволяет развести проверку общих условий применения технологии и проверку оснований индивидуального решения. Надлежащие общие правила необходимы, но сами по себе не подтверждают достоверность результата обработки в конкретном деле. И наоборот, отсутствие решающей роли программы в одном споре не исключает необходимости проверить ее роль в другом.

Алгоритмически обусловленное публично-властное решение

Для обозначения существенного влияния алгоритма в статье предлагается использовать категорию «алгоритмически обусловленное публично-властное решение».

Под ним предлагается понимать решение органа публичной власти или должностного лица, на содержание которого существенное юридически значимое влияние оказал результат автоматизированной обработки данных системой искусственного интеллекта либо иной алгоритмической системой.

Предлагаемое понятие основано не на формальной характеристике применяемой технологии, а на ее месте в механизме осуществления публичного полномочия.

Такой подход позволяет избежать необоснованного расширения предмета специального регулирования. Электронный документооборот, регистрация обращения или обычный поиск информации не превращают решение государственного органа в алгоритмически обусловленное.

Юридически значимым является иной уровень технологического участия — когда сформированный системой результат становится частью фактического или оценочного основания властного решения.

Показательно сопоставление IOB и CaseMatcher. В первом случае суд потребовал раскрытия дополнительной информации именно в связи с возможным влиянием алгоритмической обработки на неблагоприятное административное решение. Во втором суд не признал направляющего воздействия самой программы на решение, не исключив влияния найденных материалов.

Таким образом, степень влияния алгоритма на содержание решения может рассматриваться в качестве основного критерия разграничения обычной цифровизации административной деятельности и алгоритмически обусловленного осуществления публичной власти.

Технологическое усмотрение публичной администрации

Алгоритмизация способна изменить и механизм реализации административного усмотрения.

В традиционной модели значительная часть юридически значимого выбора осуществляется должностным лицом непосредственно при рассмотрении индивидуального дела.

При применении алгоритмической системы часть выбора может переноситься на более ранний этап — определение исходных данных, критериев оценки, показателей риска, параметров классификации и условий использования результата.

Для характеристики этого явления предлагается категория «технологическое усмотрение публичной администрации».

Под ним следует понимать юридически значимый выбор публичного субъекта при определении параметров и условий использования алгоритмической системы, способный оказывать влияние на последующие индивидуальные публично-властные решения.

Речь не идет о судебной проверке каждой технической характеристики программного обеспечения. Правовое значение приобретают только те параметры, которые способны влиять на осуществление прав и обязанностей гражданина.

Следовательно, внедрение алгоритмической системы не устраняет административное усмотрение. Оно способно изменить момент и форму его реализации.

Стандарт судебной проверки

Специфика алгоритмически обусловленного решения требует определить круг обстоятельств, которые должны подлежать судебной проверке.

Предлагается восьмиэлементный стандарт судебной проверки алгоритмически обусловленного публично-властного решения. Это доктринальная модель систематизации обстоятельств, а не утверждение о наличии в действующем праве отдельной процессуальной формы. Глубина исследования каждого элемента зависит от характера вмешательства и доводов сторон.

Первый элемент — законность применения алгоритмической системы. Суд должен иметь возможность установить наличие правового основания для использования соответствующей технологии при осуществлении конкретного публичного полномочия.

Второй — законность и качество исходных данных. Недостоверный результат может быть следствием неполноты, ошибочности, устаревания или неправомерного получения информации.

Третий — прослеживаемость алгоритмической процедуры. Должна сохраняться возможность определить, какая система применялась, какие юридически значимые сведения были обработаны и какой результат был получен.

Четвертый — юридическая объяснимость результата. Суду и лицу, оспаривающему решение, необходимо понимать не математическую структуру системы, а причины, по которым ее результат получил юридическое значение для конкретного решения.

Пятый — пропорциональность. Степень вмешательства посредством алгоритмической обработки должна соответствовать характеру преследуемой публичной цели.

Шестой — отсутствие недопустимой дискриминации. Если алгоритмическая обработка приводит к различному положению сопоставимых лиц, причины соответствующего различия должны быть доступны для правовой оценки.

Седьмой — значимый человеческий контроль. Должностное лицо должно обладать реальной возможностью проверить сформированный системой результат, сопоставить его с иными обстоятельствами и при необходимости отказаться от его использования.

Значимый человеческий контроль уже рассматривается в юридической литературе, в частности Е. Н. Мельниковой в связи с распределением ответственности [8]. Авторское предложение заключается в его включении в комплекс предметов судебной проверки, а не в создании самого понятия.

Восьмой элемент — возможность эффективного обжалования. Гражданин должен обладать достаточной информацией и процессуальными средствами для постановки перед судом вопроса о законности использования алгоритмического результата.

Такой стандарт не требует превращения судьи в специалиста по программированию. Предметом судебной деятельности являются юридически значимые характеристики процедуры. При необходимости технические обстоятельства могут устанавливаться посредством специальных знаний.

Распределение бремени доказывания

Использование алгоритмической системы создает существенную информационную асимметрию между гражданином и публичным органом.

Гражданину доступно прежде всего итоговое решение. Сведения о системе, использованных данных, результатах обработки и роли соответствующего результата находятся у административного ответчика, а иногда — у частного разработчика или оператора.

Требование к гражданину самостоятельно установить внутреннюю причину неблагоприятного результата в подобных обстоятельствах способно существенно ограничить эффективность судебной защиты.

Исходной основой является часть 11 статьи 226 Кодекса административного судопроизводства Российской Федерации от 8 марта 2015 г. № 21-ФЗ. Обязанность доказывать нарушение прав и соблюдение срока обращения возлагается на заявителя, а полномочия, порядок, основания и соответствие содержания оспариваемого решения закону — на публичного ответчика в предусмотренных этой статьей пределах. Следовательно, технологическая сложность не создает нового общего правила о переносе бремени доказывания: требуется конкретизация уже существующей обязанности органа.

При наличии доводов об алгоритмическом участии либо соответствующих сведений в материалах дела суду следует определить, какие данные нужны для проверки законности. Гражданин не должен сначала доказать внутренний дефект недоступной ему программы, чтобы получить возможность оспорить результат ее применения. В то же время один факт использования компьютера не обосновывает истребование всей технической документации.

Это не означает безусловного раскрытия исходного кода или всей технической документации.

Объем раскрываемой информации должен определяться предметом конкретного спора. Для суда имеют значение данные, позволяющие проверить юридически значимые обстоятельства: основания использования системы, характер обработанной информации, полученный результат и его влияние на итоговое решение.

При необходимости суд может использовать предусмотренные процессуальным законом средства истребования доказательств и специальные знания. Вопрос эксперту целесообразно формулировать о свойствах данных и механизме получения результата; правовую оценку законности решения осуществляет суд. Непредставление значимых материалов оценивается по правилам доказывания, а не создает автоматическую презумпцию незаконности всех решений, принятых данной системой.

Технологическое делегирование

Алгоритмизация публичного управления порождает еще одну проблему: государственный орган может использовать систему, разработанную и технически обслуживаемую частной организацией.

Вопрос участия частных субъектов в осуществлении публичных функций уже исследован в отечественной юридической литературе. В частности, С. М. Миронова и В. А. Усанова рассматривают различные правовые формы привлечения частных субъектов к выполнению публичных функций [6].

Частный субъект может разработать систему, осуществлять ее обучение, обновление, настройку, техническое сопровождение или эксплуатацию. Однако это обстоятельство не означает передачи ему публичной компетенции.

Для характеристики соответствующей модели предлагается категория «технологическое делегирование».

Под технологическим делегированием следует понимать передачу частному субъекту отдельных технологических функций по разработке, обучению, настройке, сопровождению или эксплуатации алгоритмической системы, используемой при осуществлении публичного полномочия, без передачи ему самой публичной компетенции.

Публичный орган не должен иметь возможность обосновывать невозможность объяснить или проверить принятое им решение тем, что технические характеристики системы известны только ее разработчику.

Если публичная администрация выбирает частную технологическую систему для реализации своих полномочий, договорные и организационные отношения с разработчиком должны обеспечивать доступ публичного субъекта к информации в объеме, необходимом для контроля законности и последующей судебной проверки.

Режим коммерческой тайны учитывается посредством предусмотренных законом способов защиты охраняемых сведений. Он не устраняет обязанность публичного ответчика обосновать законность своего решения. Участие разработчика в деле и вопросы возмещения вреда требуют самостоятельной оценки; предлагаемая конструкция не означает его автоматического привлечения в качестве административного ответчика и не освобождает от собственной ответственности при наличии законных оснований.

Обсуждение результатов

Предложенная модель связывает предмет контроля с функцией алгоритма, а не с его техническим названием. Она охватывает как интеллектуальные системы, так и иные средства обработки, если их результат существенно участвует в формировании властного решения. При этом алгоритмическая обусловленность не равнозначна незаконности: наличие надлежащих оснований, процедуры и доказательств может подтверждать правомерность решения.

Практический порядок проверки целесообразно выстраивать последовательно. Сначала устанавливается, применялась ли система в конкретном деле и какова ее функция. Затем выясняются полученный результат и способ его учета должностным лицом. После этого определяется, какие из восьми элементов требуют углубленного исследования и какие материалы необходимы для разрешения соответствующих вопросов. Это ограничивает избыточное исследование технических деталей и одновременно не позволяет исключить юридически значимую стадию из контроля.

Критерий существенного влияния нуждается в оценке по обстоятельствам дела. Например, если показатель риска стал основанием дополнительной проверки, следует установить, повлиял ли он на последующее ограничение права или лишь обусловил сбор независимо оцениваемых доказательств. Если должностное лицо повторило вывод системы, одной подписи недостаточно для подтверждения самостоятельной оценки. Однако совпадение результатов само по себе также не доказывает отсутствия такой оценки.

Пределы предложений обусловлены качественным характером выборки и различием национальных процедур. Из отдельных дел нельзя вывести единый международный режим алгоритмического управления. Исследования судебной цифровизации подтверждают необходимость сохранения процессуальных гарантий [5; 9; 10], но применение алгоритма судом и судебная проверка алгоритма административного органа остаются различными предметами анализа. Предлагаемая модель относится ко второму из них.

Заключение

Применение искусственного интеллекта не изменяет публично-правовую природу полномочия, но способно изменить фактический механизм его реализации. Российские дела об обработке изображений и автоматической фиксации позволяют поставить вопрос о проверяемости технологической стадии, не подтверждая существования сформировавшегося специального режима контроля искусственного интеллекта.

Анализ зарубежной практики выявляет два взаимосвязанных предмета судебной проверки: определенность общих правил применения технологии и обоснованность ее участия в конкретном решении. Дела IOB и CaseMatcher показывают значение функции программы для объема раскрываемой информации; дело Томпсона и Карло в сопоставлении с делом Бриджеса — значение ограничений административного усмотрения.

Для систематизации этих вопросов предложена категория алгоритмически обусловленного публично-властного решения и восьмиэлементный стандарт его проверки. Категория технологического усмотрения описывает юридически значимый выбор параметров применения системы, а технологического делегирования — участие частного исполнителя без передачи ему публичной компетенции.

Практическое следствие заключается в необходимости сохранять сведения о роли алгоритмического результата и обеспечивать их исследование в пределах предмета спора. Конкретизация существующей обязанности публичного органа доказывать законность решения позволяет развивать судебную защиту без возложения на гражданина обязанности самостоятельно раскрыть внутреннее устройство программы. Техническая организация принятия решения не должна сокращать доступный объем судебной проверки.