Проблемы правового регулирования человеческого контроля над искусственным интеллектом в России и пути их решения

К 2026 году технологии искусственного интеллекта трансформировались из экспериментальных разработок в неотъемлемый элемент критической информационной и производственной инфраструктуры. Особую правовую обеспокоенность вызывает стремительное развитие агентных систем ИИ – автономных программных комплексов, способных выполнять многоуровневые задачи без необходимости постоянного прямого вмешательства человека. В этой связи возникает острый правовой парадокс: законодательство императивно требует сохранения человеческого контроля над ИИ, однако архитектура современных глубоких нейросетей зачастую делает осмысленное вмешательство либо технически нереализуемым, либо когнитивно бессмысленным для оператора.

Принятие Федерального закона от 26 июля 2026 г. № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» (далее – Федеральный закон № 243-ФЗ) стало знаковым этапом в формировании отечественного регулирования данной сферы [9]. Указанный акт вводит категорию больших фундаментальных моделей (БФМ), регламентирует требования к суверенным и национальным моделям, а также закрепляет обязанности разработчиков и механизмы маркировки контента. Тем не менее, закон оставляет без детальной проработки фундаментальный вопрос: каким образом гарантировать содержательный, а не декларативный, человеческий контроль над системами ИИ?

Целью данной работы является выявление пробелов в существующих механизмах человеческого надзора, комплексный анализ положений Федерального закона № 243-ФЗ и формулирование предложений по их нормативному совершенствованию.

Концепция содержательного человеческого контроля (Meaningful Human Control, MHC) над ИИ предполагает, что человек должен сохранять дееспособность и фактическую возможность оценивать обстановку, осознавать последствия принимаемых решений и нести за них персональную ответственность в процессе взаимодействия с интеллектуальными системами [1]. Ключевой тезис заключается в том, что человек не должен превращаться в формальную «галочку» или «резиновую печать» в цепочке автоматизированного принятия решений. Данная концепция базируется на трех столпах:

Осознанное принятие решений. Оператор обязан анализировать контекст, этические дилеммы и реальные риски, а не слепо подтверждать выводы, сгенерированные ИИ.

Персонификация ответственности. Даже в условиях высокой автономности системы, бремя ответственности за итоговое решение остается за человеком, особенно при функционировании ИИ в социально значимых и критических сферах.

Сохранение контроля в нештатных ситуациях. Принцип не подразумевает, что оператор должен непрерывно мониторить каждый шаг алгоритма. Он предполагает наличие надежных технических и организационных механизмов, позволяющих перехватить управление, если система допустила сбой или вошла в противоречивое состояние.

Иными словами, простого физического присутствия человека за пультом управления недостаточно. Оператор должен понимать логику работы системы и обладать реальными рычагами для своевременного вмешательства. Если сотрудник лишь нажимает кнопку «Подтвердить», не имея инструментов для верификации алгоритмической логики, мы имеем дело не с контролем, а с его опасной имитацией.

Подходы к обеспечению человеческого контроля над ИИ в различных правовых системах (ЕС, США, Китай и Россия) существенно различаются по степени императивности и детализации.

Европейский союз в статье 14 Регламента об искусственном интеллекте (EU AI Act, 2024) детально регламентирует архитектуру надзора за системами высокого риска. Документ содержит прямое предписание: система должна проектироваться таким образом, чтобы физическое лицо имело практическую и техническую возможность контролировать её функционирование, а при необходимости — оперативно вмешаться и остановить процесс. Если надзор существует исключительно на бумаге, не подкрепляясь реальными инструментами вмешательства, это квалифицируется как нарушение регламента [4].

В США базовым документом выступает «Система управления рисками с использованием искусственного интеллекта» (NIST AI RMF, 2023), которая пока носит рекомендательный характер. Однако на уровне отдельных штатов внедряются жесткие регуляторные требования. Так, в Нью‑Йорке в соответствии с Законом об автоматизированных инструментах принятия решений в сфере занятости (Local Law 144) работодатели обязаны проводить независимый аудит алгоритмов, применяемых при найме персонала, на предмет выявления дискриминации кандидатов по защищаемым признакам: расе, этнической принадлежности или полу [5].

В Китае «Временные меры по управлению службами генеративного искусственного интеллекта» (2023) возлагают на поставщиков услуг прямую ответственность за весь сгенерированный контент. Для минимизации рисков документ предписывает внедрение строгих технических и организационных барьеров: компании обязаны разрабатывать четкие регламенты маркировки синтетического контента, проводить регулярную оценку качества, осуществлять выборочные проверки и контролировать исполнение внутренних правил [6].

В России же Федеральный закон № 243-ФЗ пока ограничивается декларацией принципа «уважения автономии и свободы воли человека» (п. 4 ст. 4), не формулируя конкретных императивных требований к механизмам осуществления такого контроля [9].

Таблица 1. Требования к человеческому контролю в разных юрисдикциях

Предпосылки для выстраивания человеческого контроля заложены в положениях Федерального закона № 243-ФЗ, который дифференцирует большие фундаментальные модели ИИ на суверенные и национальные (ст. 6). Оба данных статуса предполагают, что разработчиком выступает российское юридическое лицо, а обработка данных осуществляется на территории РФ. Статус суверенной модели дополнительно требует обеспечения полной технической воспроизводимости всего цикла разработки. Национальная модель обязывает, чтобы её ключевые характеристики определялись исключительно российским юридическим лицом.

С позиции человеческого контроля это формирует важную правовую предпосылку: субъект контроля становится четко идентифицируемым. Российское юридическое лицо может быть привлечено к ответственности в рамках российской юрисдикции и обязано предоставлять необходимую документацию регуляторам. Более того, интерфейс и техническая документация должны быть представлены на русском языке, что является базовым условием для понимания оператором логики работы системы [13].

Однако данное регулирование имеет существенное ограничение. Закон четко определяет, кто осуществляет контроль, но не отвечает на вопросы, как именно и в каком объеме он должен осуществляться. Сам факт того, что разработчиком является отечественная компания, не гарантирует наличия внутри неё эффективных механизмов надзора. Российская организация вполне может эксплуатировать оператора по принципу «резиновой печати» — сотрудника, который лишь формально, без анализа, подтверждает решения алгоритма [14].

Статья 8 Федерального закона № 243-ФЗ закрепляет три основные обязанности разработчика:

- принятие организационных и технических мер по обеспечению безопасности модели;

- определение правил эксплуатации модели;

- ведение технической документации.

Все перечисленные обязанности ориентированы преимущественно на техническую безопасность, а не на проектирование эффективных механизмов человеческого надзора. Закон не обязывает разработчика доказывать, что его система «поддается эффективному человеческому пониманию», и не требует внедрения интерфейсов объяснимости (Explainable AI, XAI). Иными словами, человеческий контроль рассматривается законодателем как второстепенный придаток технической безопасности, а не как самостоятельное и равнозначное требование. Это вступает в противоречие с теорией MHC, согласно которой контроль должен быть заложен в архитектуру системы на этапе проектирования, а не добавляться постфактум.

Статья 9 Федерального закона № 243-ФЗ регламентирует механизм маркировки контента, созданного с помощью ИИ. Платформы с суточной аудиторией более 500 тысяч пользователей обязаны предоставлять пользователям функционал для размещения предупреждений о применении ИИ. Однако часть 2 статьи 9 устанавливает, что «формат, содержание и порядок размещения информационного предупреждения определяются соглашением между лицом, применяющим большую фундаментальную модель, и лицом, предоставляющим возможность её применения». Это означает, что стандарты маркировки делегируются на уровень рыночных соглашений, а не регулируются императивной нормой права. С точки зрения человеческого контроля это является нормативным дефектом: маркировка служит предварительным условием для получения надзирающим субъектом релевантной информации. Если стандарты определяются частными соглашениями, маркировка на различных платформах станет несопоставимой. В результате модератор или конечный пользователь не сможет сформировать целостную и достоверную картину. Кроме того, отсутствие единого законодательного стандарта создает высокие риски манипулятивного использования маркировки в целях введения потребителей в заблуждение.

Часть 2 статьи 10 Федерального закона № 243-ФЗ устанавливает широкое исключение из ответственности за использование объектов авторского права для обучения моделей. Если произведение является общедоступным и не защищено техническими средствами защиты, его допускается использовать для обучения без согласия правообладателя. С позиции человеческого контроля это также выступает структурным дефектом: правообладатель полностью исключается из процесса контроля над решением об использовании его интеллектуальной собственности. Он лишен возможности как запретить такое использование, так и получить информацию о нем [2; 3].

Статья 11 Федерального закона № 243-ФЗ содержит лишь отсылочную норму: «за нарушение настоящего Федерального закона... участники отношений... несут ответственность в соответствии с законодательством Российской Федерации». Это означает, что при причинении вреда большой фундаментальной моделью ответственность будет регулироваться общими нормами ГК РФ (в частности, ст. 1064). Однако применимость этих общих деликтных норм к автономным системам ИИ сама по себе является острой и до конца не решенной доктринальной проблемой. Возникает классический «разрыв ответственности» (liability gap): вред причинен, но привлечь к ответственности конкретное виновное лицо крайне сложно, поскольку общие нормы или правила об ответственности за источник повышенной опасности (ст. 1079 ГК РФ) плохо адаптированы к самостоятельным, непредсказуемым действиям нейросетей, не обладающих правосубъектностью.

Ранее проведенные эмпирические исследования демонстрируют, что операторы склонны к «эффекту автоматизации» — слепому доверию алгоритмическим решениям. В правоприменительной практике органов по защите данных ЕС (например, в решениях итальянского регулятора Garante и нидерландского AP в 2024–2025 гг.) формальное наличие человека, лишь механически нажимавшего кнопку «Подтвердить», не было признано действительным человеческим контролем. Это повлекло за собой наложение крупных штрафов за нарушение статьи 22 Общего регламента по защите данных (GDPR) [7].

При этом внедрение полноценного MHC (включая интерфейсы XAI, специализированное обучение персонала и ведение детальных журналов) неизбежно увеличивает операционные расходы компаний. Чрезмерно жесткое регулирование без гибких механизмов может привести к отказу бизнеса от внедрения ИИ или к «регуляторному арбитражу» — переносу разработок и серверов в юрисдикции с более либеральными правилами [15].

Для перехода от формального присутствия человека к содержательному контролю предлагается реализовать следующий комплекс мер:

1. Закрепить легальное определение содержательного контроля и дополнить Федеральный закон № 243-ФЗ положением о том, что человеческий контроль признается надлежащим только при одновременном соблюдении условий:

- система прошла сертификацию на соответствие международным или национальным стандартам управления рисками ИИ (например, ISO/IEC 42001:2023 и ISO/IEC 23894:2023) [10; 11];

- интерфейс системы обеспечивает объяснимость принимаемых решений в формате, доступном для понимания конкретным оператором;

- оператор обладает необходимой профессиональной компетенцией и выделенным временем для анализа и вмешательства.

2. Внедрить градуированную модель надзора, дифференцируя требования в зависимости от уровня потенциального риска (в увязке с положениями Национальной стратегии развития ИИ [12]):

Таблица 2.

Разработать и внедрить профессиональные стандарты для операторов высокорисковых систем, включая обязательные регулярные тренировки на симуляторах – по аналогии с системой управления ресурсами экипажа (Crew Resource Management) в авиации [8].

Дифференцировать режим ответственности и дополнить ст. 11 Федерального закона № 243-ФЗ специальными положениями:

- презумпция вины оператора, если система предоставила понятное объяснение своего решения, но оператор его проигнорировал;

- строгая (безвиновная) ответственность разработчика, если система функционировала как «чёрный ящик» и не предоставила оператору технических средств для выявления ошибки;

- императивное правило, согласно которому ссылка на «наличие человека в контуре» не освобождает от ответственности, если был обеспечен лишь формальный, фиктивный надзор.

Ввести обязательную трассируемость действий и вменить в обязанность операторам высокорисковых систем ведение защищенных от несанкционированной модификации журналов, фиксирующих входные данные, объяснение, сгенерированное ИИ, и конкретное действие оператора.

Восполнить правовой пробел в исключении для обучающих данных и включить в ст. 10 Федерального закона № 243-ФЗ право правообладателя на информацию: разработчик обязан уведомлять о факте включения произведения в обучающие массивы через организации коллективного управления правами или посредством публичного реестра.

Установить единый законодательный стандарт маркировки и дополнить ст. 9 Федерального закона № 243-ФЗ императивными требованиями к формату и содержанию информационного предупреждения, исключив возможность передачи этих вопросов на усмотрение частного соглашения сторон.

Экономически стимулировать внедрение MHC. Для компенсации возросших операционных расходов целесообразно предусмотреть меры государственной поддержки (налоговые льготы, приоритет при осуществлении государственных закупок) для компаний, добровольно сертифицирующих свои системы на соответствие стандартам содержательного человеческого контроля.

Федеральный закон № 243-ФЗ заложил важную институциональную основу для российского регулирования сферы искусственного интеллекта. Разграничение суверенных и национальных моделей отражает обоснованное стремление государства к обеспечению технологического суверенитета. Однако с точки зрения правовых механизмов человеческого контроля данный закон пока остается рамочным актом, сфокусированным преимущественно на квалификации разработчика и вопросах технической безопасности. Переход к стандарту содержательного человеческого контроля требует фундаментальной смены правовой парадигмы: право должно оценивать не сам факт физического наличия человека в процессе, а его верифицируемую способность понять логику алгоритма и при необходимости отменить его решение. Реализация предложенных мер позволит устранить опасный «разрыв ответственности», обеспечить надежную защиту прав граждан и создать предсказуемые, прозрачные условия для добросовестных разработчиков технологий ИИ.