Этические и дисциплинарные границы применения искусственного интеллекта в деятельности уголовно-исполнительной системы Российской Федерации

В настоящее время внедрение технологий искусственного интеллекта (ИИ) в деятельность государства перестало быть частным вопросом цифровой модернизации отдельных ведомств, являясь проблемой общей архитектуры публичного управления. Концепция развития уголовно-исполнительной системы на период до 2030 года связывает модернизацию УИС с цифровой трансформацией, совершенствованием управления и развитием электронного взаимодействия. Однако пенитенциарная сфера отличается от большинства иных сегментов публичного управления тем, что здесь власть государства реализуется в наиболее концентрированной форме – через исполнение наказания, ограничение свободы, контроль над пространством частной жизни и повседневными решениями, затрагивающими достоинство человека. Поэтому перенос генеративного и аналитического искусственного интеллекта в деятельность УИС не может оцениваться только через призму эффективности [1, С. 62].

Этический вызов в данном случае предшествует вопросу о полезности технологии. Генеративный искусственный интеллект способен создавать внешне связный и убедительный текст, формировать рекомендации, классифицировать обращения, прогнозировать поведенческие сценарии и предлагать варианты решения в условиях неполной информации [2, С. 114]. Но именно убедительность машинного вывода создает специфический риск для публичной власти: неточный, предвзятый или статистически искаженный результат может быть воспринят должностным лицом как рационально обоснованный и тем самым включен в управленческое решение. В государственном управлении это означает угрозу снижения процессуальной легитимности, размывания ответственности и технократического смещения, при котором управленческое усмотрение подменяется ссылкой на алгоритм. Для пенитенциарной системы такой сдвиг особенно опасен, поскольку затрагивает не только административное удобство, но и фундаментальные права сотрудников, осужденных, их родственников [3, С. 330].

Проблема усугубляется тем, что в российской правовой системе пока отсутствует системное осмысление этических и дисциплинарных пределов применения ИИ в УИС. Рамочные документы в сфере ИИ задают общие ориентиры. Национальная стратегия развития искусственного интеллекта развивает понятийный аппарат, вводит идеи доверенных технологий и ориентирует публичную власть на безопасное развитие ИИ. Кодекс этики в сфере искусственного интеллекта в российской практике закрепляет принципы человеко-центрированности, безопасности, уважения автономии воли, недискриминации и ответственного управления, однако его регулятивная сила носит мягкий и рамочный характер [4, С. 198]. Параллельно в научной и экспертной литературе подчеркивается, что доверие к ИИ в государстве зависит не только от технологических характеристик, но и от восприятия процедур справедливости, подотчетности и возможности оспаривания результатов [5, С. 152]. На этом фоне применение ИИ в деятельности УИС остается в «серой зоне»: общие требования сформулированы, но отраслевые границы не выведены.

В работах, посвященных прозрачности автоматизированного принятия решений, подчеркивается, что проблема «черного ящика» в государственном управлении не сводится к технической непрозрачности кода или модели [6, С. 4]. Существеннее другое: гражданин и сам орган власти зачастую не располагают информацией, как именно алгоритм участвовал в принятии решения, какие данные использовались, какие альтернативы были возможны и каким образом можно проверить или опровергнуть вывод системы. Отсюда вытекает значение права на объяснение и контрфактологических объяснений: лицо должно иметь возможность узнать не только результат, но и те параметры, изменение которых повлекло бы иной вывод. Для пенитенциарной сферы значение этой идеи выше, чем для большинства административных процедур. Осужденный, сотрудник или родственник, столкнувшиеся с алгоритмической классификацией обращения, оценкой риска либо приоритизацией запроса, должны иметь право понимать логику такого распределения, иначе публичная власть теряет моральное и правовое основание требовать доверия к своему цифровому контуру.

Важно, чтобы этические границы применения ИИ в УИС строились не по бинарной модели «разрешено-запрещено», а по риск-ориентированной логике, учитывающей функциональный контур использования системы. В организационно-вспомогательном контуре, где ИИ, например, автоматизирует документооборот, первичную сортировку обращений, поиск повторяющихся паттернов в массивах данных или подготовку статистических сводок, этические ограничения минимальны, но не отсутствуют. Даже в организационно вспомогательном контуре, где риск ниже, сохраняются базовые требования: законность, достоверность данных, защита персональной информации и информирование пользователя о применении алгоритмов в тех случаях, когда это влияет на доступ к услугам или на сроки рассмотрения обращения [7, С.52; 8, С.49]. Низкий уровень риска не делает использование ИИ нейтральным с этической точки зрения. Он лишь позволяет допустить больший объем автоматизации при условии сохранения прозрачности работы системы и реальной возможности контроля со стороны человека.

Иная ситуация возникает в контуре поддержки принятия решений. Здесь искусственный интеллект участвует в оценке риска, прогнозировании, подготовке проектов решений, аналитическом ранжировании обращений и выявлении вероятностных сценариев нарушения режима или других событий. В таком режиме алгоритм уже не просто обслуживает административные функции, а влияет на выбор управленческой траектории. Поэтому для этого контура необходим более строгий набор ограничений: обязательная человеческая верификация результатов, документирование роли алгоритма в принятии решения, фиксация используемых данных и проверка на наличие дискриминационных искажений. Выражение «человек в контуре» в этой сфере приобретает конкретный дисциплинарный смысл: должностное лицо не вправе ссылаться на машинный вывод как на самостоятельное основание действий, если оно не провело собственную проверку и не зафиксировало, по каким причинам результат работы ИИ признан релевантным [9, С.134].

Максимальные ограничения должны действовать в контуре, где решения принимаются автономно и непосредственно затрагивают права и свободы сотрудников, осужденных и их родственников. Речь идет о ситуациях, когда алгоритм влияет на доступ к свиданиям, переводам, режимным ограничениям, внутренним дисциплинарным мерам, оценке риска поведения, маршрутизации жалоб, доступу к помощи и другим вопросам, определяющим правовой статус лица. В таком контуре автономное алгоритмическое решение следует рассматривать как фактически недопустимое. Приемлемым может быть только вспомогательное использование ИИ при условии обязательного человеческого пересмотра, документированной проверки и возможности оспаривания результата.

Тем самым трехуровневая модель этических границ позволяет адаптировать универсальные принципы ИИ к пенитенциарной специфике.

Этические границы не исчерпывают проблему. В деятельности УИС они должны быть переведены в дисциплинарные границы, то есть в такие нормативные пределы должностного поведения, нарушение которых влечет служебную ответственность. Следует отметить, что в настоящее время этот уровень регулирования фактически отсутствует. Дисциплинарное право традиционно ориентировано на нарушение служебной дисциплины, правил обращения с информацией, порядка исполнения приказов и обязанностей, но не содержит специальной квалификации проступков, связанных с применением ИИ. Между тем технологическая неопределенность не устраняет дисциплинарного риска, а повышает его: должностное лицо может использовать несертифицированный сервис, довериться непроверенному выводу генеративной модели, не сообщить заявителю об участии ИИ, нарушить режим конфиденциальности либо не выполнить обязательную человеческую проверку. Все эти действия уже сегодня способны причинить вред правам лиц, находящихся в сфере контроля УИС, но пока не описаны как специальный состав дисциплинарно значимого поведения.

С учетом вышеизложенного предлагается матрица дисциплинарной ответственности за использование ИИ в УИС. Первый блок связан с нарушением требований к допустимости самой технологии. Использование несертифицированных или неразрешенных ведомством ИИ‑решений, особенно в работе с чувствительными данными, должно квалифицироваться как самостоятельное дисциплинарное нарушение, поскольку оно создает неконтролируемый риск для безопасности информации и законности принятия решений. Далее, второй блок касается отсутствия верификации алгоритмического вывода. Если должностное лицо использовало рекомендацию ИИ при подготовке или принятии решения без собственной проверки, в делах среднего и высокого риска это должно рассматриваться как нарушение служебной обязанности по добросовестному и законному осуществлению полномочий. Следующий блок образуют нарушения процедур информирования: если лицо взаимодействует с осужденным или родственником через цифровой контур и не сообщает об участии ИИ, оно нарушает требования алгоритмической прозрачности. Наконец, четвертый блок связан с отсутствием журналирования, сокрытием алгоритмического участия и несоблюдением процедур сохранения логов. В этих случаях дисциплинарный проступок выражается уже не только в ошибке, но и в подрыве возможности контроля и последующей проверки.

Такое понимание дисциплинарных границ требует корректировки ведомственного регулирования. В нормативно-правовые акты, связанные с деятельностью учреждений уголовно-исполнительной системы Российской Федерации целесообразно включить положения, описывающие обязанность должностного лица использовать только разрешенные цифровые инструменты, обеспечивать обязательную проверку алгоритмических выводов в установленных случаях, соблюдать порядок уведомления заявителей об участии ИИ и обеспечивать сохранность журналов цифрового взаимодействия.

Здесь проявляется отличие УИС от иных органов государственной власти. В общем административном управлении нарушение алгоритмической прозрачности может повлечь дефект процедуры, снижение доверия или трудности оспаривания административного акта. В пенитенциарной среде те же дефекты сопряжены с более жесткими последствиями: искажением режима исполнения наказания, затруднением доступа к защите, ошибочной оценкой риска, подрывом реабилитационной функции и ростом конфликтности внутри учреждения [10, С. 261; 11, С. 110]. Следовательно, дисциплинарные границы в УИС должны быть строже, чем в ряде других административных сфер. Это касается и юридических клиник образовательных организаций ФСИН России. Хотя они не принимают властных решений об исполнении наказания, они работают на стыке образовательного, правозащитного и информационно-технологического режимов и оказывают бесплатную юридическую помощь осужденным, их родственникам и сотрудникам. Для клиник принципиальны не только прозрачность и подотчетность, но и повышенный стандарт конфиденциальности [12, С. 36]. Алгоритмическая ошибка здесь может не изменить режим содержания напрямую, но способна привести к пропуску процессуальных сроков, искажению правовой позиции и утрате доверия к институту помощи. Поэтому ограничения для юридических клиник отличаются от ограничений для судов и административных органов: в центре находится не автоматизация решения по существу, а недопустимость подмены доверительного юридического взаимодействия непрозрачным алгоритмическим посредником [13, С.8].

Наряду с дисциплинарной ответственностью требуется и особый институт этического аудита ИИ‑решений в УИС. Его задача состоит не в технической сертификации как таковой, а в независимой оценке соответствия алгоритма базовым ценностям пенитенциарного правоприменения. Этический аудит диалоговых систем в УИС должен проверять несколько ключевых вещей. Во первых, не воспроизводит ли система дискриминационные паттерны в отношении осужденных, сотрудников или иных категорий пользователей. Во вторых, согласуются ли цели и режим ее работы с человеко центрированным подходом к использованию ИИ: сохраняется ли ориентир на реабилитационную направленность наказания, обеспечены ли право пользователя на объяснение, возможность отследить путь принятия решения и право на человеческий пересмотр результата.

В отличие от обычного внутреннего контроля такой аудит не может быть чисто техническим. Он по определению междисциплинарен. В нем должны участвовать не только специалисты по информационным системам, но и юристы, эксперты по этике искусственного интеллекта, представители образовательной среды и, по возможности, правозащитных организаций. Именно такая конфигурация позволяет оценивать систему не только по критериям корректности кода, но и по тому, как она вписывается в ценности и нормы публичной власти.

Этический аудит необходим потому, что формально законное и технологически эффективное решение может оказаться неприемлемым с точки зрения морали государственной власти. Хороший пример – предиктивные системы, которые статистически работают корректно, но фиксируют и усиливают исторически сложившиеся перекосы. В пенитенциарной сфере эта логика особенно рискованна: любой прогноз здесь по своей природе тяготеет к превентивному ограничению. Если алгоритм классифицирует осужденных или их обращения по признакам «риска» без достаточной прозрачности и возможности оспаривания, он подрывает идею индивидуализированного и правомерного исполнения наказания. В такой ситуации этический аудит становится не внешним дополнением, а инструментом удержания технологии в границах, совместимых с правом и человеческим достоинством.

Отдельно встает вопрос легитимности. В работах о доверии к генеративному ИИ в государственных решениях подчеркивается, что устойчивость алгоритмического управления зависит от трех измерений: входной, процессуальной и выходной легитимности [13, С.10]. Входная связана с общественным согласием на сам факт использования ИИ в публичной власти. Процессуальная – с прозрачностью процедур, объяснимостью результатов и сохранением реального человеческого участия. Выходная – с качеством и справедливостью итогового решения. Для УИС эти три слоя практически не отделимы друг от друга. Даже технологически «эффективная» система, если она воспринимается как непрозрачная и бесчеловечная, будет снижать доверие к пенитенциарной власти и усиливать ощущение произвольности решений. Поэтому этические и дисциплинарные границы ИИ в УИС должны рассматриваться как инструменты обеспечения легитимности, а не как тормоз цифровизации.

Практический вывод из предложенного подхода заключается в необходимости встраивания этических требований в ведомственные акты. Речь идет не о декларативном воспроизведении общих принципов, а о разработке специального ведомственного кодекса этики применения ИИ в УИС, который закрепил бы пределы допустимого использования ИИ по функциональным контурам, обязательность человеческой верификации в критически значимых точках, право лица на объяснение и на пересмотр результата человеком, требования к журналированию и хранению данных, запрет на автономное алгоритмическое решение по вопросам, затрагивающим права и свободы. Следующим уровнем должны стать изменения в инструкциях, положениях и дисциплинарных регламентах, которые переведут эти принципы в конкретные обязанности должностных лиц. Наконец, третий уровень – процедуры этического аудита и периодической проверки уже эксплуатируемых систем.

В предлагаемой модели человеко центрированное использование искусственного интеллекта перестает быть общей декларацией и приобретает конкретное отраслевое содержание. Для УИС это означает, что технология допустима только в той мере, в какой она помогает личному составу действовать законно, соразмерно и без унижения человеческого достоинства. Искусственный интеллект может поддерживать повседневную работу: обрабатывать большие массивы данных, ускорять технические операции, облегчать поиск нормативной и управленческой информации. Но он не может превращаться в самостоятельный источник пенитенциарного усмотрения. Вопросы, затрагивающие право, свободу, безопасность, достоинство и реабилитационные перспективы человека, должны оставаться в пространстве ответственного человеческого решения. Вышеизложенная концепция дает несколько авторских дополнений к уже сложившейся дискуссии. Во‑первых, этические границы применения ИИ в УИС целесообразно описывать не через абстрактный список принципов, а через трехуровневую модель функциональных контуров: организационно вспомогательный, контур поддержки принятия решений и контур потенциального автономного воздействия на права осужденных и сотрудников. Такой подход делает регулирование операциональным и привязывает требования к реальной практике. Во‑вторых, дисциплинарные границы использования ИИ должны быть выражены через специальную матрицу служебной ответственности: за работу с неразрешенными системами, за отсутствие проверки алгоритмического вывода, за нарушение процедур прозрачности и за игнорирование обязанностей по уведомлению и ведению журнала взаимодействий. В‑третьих, обязательным элементом пенитенциарного режима ИИ должен стать институт этического аудита как форма независимой экспертизы, ориентированной не только на эффективность технологий, но и на человеко центрированность, недискриминацию и сохранение реабилитационной направленности исполнения наказания.