Потенциал и ограничения применения искусственного интеллекта в обучении и мониторинге осужденных

• ИСКАНДАРОВ Роберт Рафаилевичкандидат медицинских наук, старший научный сотрудник ФКУ «Научно-исследовательский институт Федеральной службы исполнения наказаний»dr.iskandarov@inbox.ru

Статья посвящена анализу этических аспектов применения искусственного интеллекта в обучении и мониторинге осужденных. Рассматриваются ключевые технологии, такие как адаптивные образовательные платформы и системы поведенческого анализа, а также их влияние на права человека, приватность и автономию личности. На основе анализа международного опыта и нормативных документов выявлены противоречия между повышением эффективности пенитенциарных программ и рисками дегуманизации. Особое внимание уделено необходимости баланса между инновациями и этическими ограничениями, включая прозрачность алгоритмов, защиту данных и предотвращение дискриминации. Статья опирается на актуальные исследования, ведомственные программы цифровизации уголовно-исполнительной системы и экспертные оценки.

Ключевые слова: этика искусственного интеллекта, уголовно-исполнительная система, адаптивное обучение, цифровой мониторинг, права осужденных, приватность данных

Введение. Цифровизация уголовно-исполнительной системы (УИС) представляет собой сложный процесс интеграции технологий, направленный на повышение эффективности реабилитации и безопасности. Однако внедрение искусственного интеллекта (ИИ) в обучение и мониторинг осужденных сталкивается с фундаментальными этическими и правовыми дилеммами. С одной стороны, адаптивные образовательные платформы и системы поведенческого анализа способны оптимизировать программы исправления, снижая рецидивизм и улучшая социальную адаптацию [1; 2]. С другой стороны, они создают риски дегуманизации, усиления контроля и нарушения приватности, особенно в отношении таких уязвимых групп, как осужденные [3].

7

Современные исследования подчеркивают, что ИИ-алгоритмы, основанные на машинном обучении, способны анализировать данные о когнитивных способностях, успеваемости и поведенческих паттернах, формируя индивидуальные учебные траектории. Однако отсутствие прозрачности алгоритмов и зависимость от исторических данных могут воспроизводить системные предубеждения, такие как расовая или социальная дискриминация [4].

Применение ИИ в обучении осужденных.

Адаптивные образовательные системы на базе ИИ используют методы анализа данных для персонализации учебных программ. Например, алгоритмы, аналогичные тем, что применяются в медицинской реабилитации, могут оценивать прогресс в освоении навыков и корректировать сложность заданий в режиме реального времени [5; 6].

Внедрение таких платформ в УИС позволяет:

• оптимизировать ресурсы (автоматизация оценки успеваемости снижает нагрузку на преподавателей и кураторов); • повысить мотивацию (интерактивные форматы обучения, включая геймификацию и виртуальные симуляции, увеличивают вовлеченность осужденных); • прогнозировать результаты (модели машинного обучения, обученные на данных тысяч случаев, способны предсказывать эффективность реабилитационных программ для конкретных групп).

Однако ключевым ограничением остается качество данных. Системы, обученные на исторических записях, могут закреплять стереотипы. Например, в США алгоритмы оценки рецидивизма часто ошибочно присваивали афроамериканцам более высокие риски повторных правонарушений из-за структурных предубеждений в исходных данных [1]. Для минимизации таких рисков необходимы регулярный аудит алгоритмов и включение в обучающие выборки данных, отражающих разнообразие социальных контекстов.

Цифровой мониторинг поведения: между безопасностью и приватностью. Системы видеонаблюдения с ИИ, биометрические датчики и анализ голосовых паттернов активно внедряются в УИС для предотвращения конфликтов и суицидов. Однако массовый сбор данных порождает этические вопросы:

• приватность (постоянный мониторинг биометрических параметров, например, через фитнес-трекеры, стирает границы между общественной безопасностью и личным пространством); • прозрачность («черный ящик» нейросетей затрудняет понимание логики принятия решений (как отмечает Европейская этическая хартия ИИ, отсутствие объяснимости алгоритмов подрывает доверие к системе) [7]; • дискриминация (системы, анализирующие поведение, могут некорректно интерпретировать культурные или индивидуальные особенности; например, жесты, нормальные для одной социальной группы, могут быть ошибочно классифицированы как угрожающие).

Для баланса между безопасностью и правами человека эксперты предлагают:

• внедрение этического аудита алгоритмов, как это практикуется в медицинской реабилитации; • ограничение срока хранения биометрических данных и их анонимизацию; • обучение персонала УИС основам работы с ИИ для предотвращения слепого доверия технологиям.

Этические дилеммы и регуляторные вызовы 1. Дилемма прозрачности vs. эффективности.

Современные системы ИИ, применяемые в УИС, часто функционируют как «черные ящики», что затрудняет понимание логики их решений. Например, алгоритмы оценки рецидивизма, используемые для рекомендаций по досрочному освобождению, могут основываться на скрытых паттернах данных, воспроизводящих системные предубеждения. В США такие системы неоднократно демонстрировали расовую дискриминацию, присваивая афроамериканцам более высокие риски повторных правонарушений из-за исторических данных, отражающих структурное неравенство. Это ставит вопрос: можно ли жертвовать прозрачностью ради эффективности реабилитационных программ?

2. Конфликт безопасности и приватности.

Системы цифрового мониторинга, такие как анализ голосовых паттернов или видеонаблюдение с ИИ, способны предотвращать конфликты и суициды в учреждениях. Однако массовый сбор биометрических данных (например, через фитнес-трекеры) стирает границы приватности осужденных. Как отмечает Европейская этическая хартия ИИ (2018), отсутствие информированного согласия на сбор данных противоречит принципам уважения автономии личности. В России внедрение нейросетей для выявления нарушений режима вызывает споры о допустимости постоянной слежки даже в условиях лишения свободы.

3. Риск дегуманизации реабилитации.

Адаптивные образовательные платформы, хотя и повышают доступность обучения, могут снижать роль человеческого взаимодействия. По данным исследований, чрезмерная автоматизация учебного процесса подавляет критическое мышление и творчество, что особенно опасно в контексте исправления осужденных. Например, зависимость от ИИ для оценки успеваемости может привести к игнорированию индивидуальных психологических особенностей, что противоречит принципам педагогической этики.

4. Регуляторные пробелы и международная фрагментация.

Отсутствие единых стандартов регулирования ИИ в УИС создает риски злоупотреблений. В России, несмотря на активную цифровизацию пенитенциарной системы, этические вопросы ИИ остаются слабо проработанными. Международные инициативы, такие как глобальное соглашение ЮНЕСКО по этике ИИ, предлагают гармонизировать подходы, но их реализация затруднена из-за различий в правовых системах. Например, в ЕС действуют строгие правила защиты данных (GDPR), тогда как в других регионах регулирование фокусируется на безопасности, а не на правах человека.

5. Проблема подотчетности алгоритмов.

Ключевой вызов – определение ответственности за ошибки ИИ. Если система видеонаблюдения ошибочно идентифицирует поведение как агрессивное, кто несет ответственность: разработчик, оператор или администрация учреждения? Как подчеркивает Пабло Ривас из Бэйлорского университета, прозрачность алгоритмов должна сочетаться с четкими механизмами аудита и правовой ответственности [8]. Однако на практике большинство стран не имеют законодательных норм, регулирующих подобные случаи.

Заключение. Интеграция ИИ в уголовно-исполнительную систему требует не только технологической зрелости, но и формирования этико-правового каркаса, способного предотвратить дегуманизацию пенитенциарных процессов [9; 10].

Ключевые направления развития включают:

1. разработку стандартов прозрачности алгоритмов, включая обязательное проведение этических аудитов и публикацию отчетов о работе ИИ-систем; 2. усиление защиты данных осужденных через внедрение принципа «конфиденциальности по умолчанию» (privacy-by-design) и ограничение сроков хранения биометрической информации; 3. международную гармонизацию регуляторных норм, например, расширение мандата организаций типа ЮНЕСКО для контроля за соблюдением прав человека в цифровых пенитенциарных системах; 4. интеграцию гуманитарных знаний в разработку ИИ, включая сотрудничество технологов, юристов и педагогов для баланса между эффективностью и этикой.

Как показывает опыт Финляндии, где этическая грамотность в области ИИ включена в национальную образовательную программу, только междисциплинарный подход позволит избежать рисков цифрового тоталитаризма в УИС. Цифровизация должна оставаться инструментом ресоциализации, а не новым механизмом контроля, игнорирующим человеческое достоинство.

Список литературы

1. Контини Ф. Искусственный интеллект: Новый способ ненадлежащего воздействия на судебные органы? // UNODC. – 2019. – URL: https:// www.unodc.org/dohadeclaration/ru/news/2019/06/ artificial-intelligence_-a-new-trojan-horse-for-undueinfluence-on-judiciaries.html.
2. Keller B., Thomas J., Singh P. Virtual Reality and Its Rehabilitation Potential in Prisons // Virtual Technology & Rehabilitation. – 2022. – Vol. 3, № 3. – P. 200–215.
3. Aldhahi M.I., Alorainy A.I., Abuzaid M.M. et al. Adoption of Artificial Intelligence in Rehabilitation: Perceptions, Knowledge, and Challenges Among Healthcare Providers // Healthcare (Basel). – 2025. – Vol. 13, № 4. – P. 350. – doi: 10.3390/ healthcare13040350.
4. Lanotte F., O’Brien M.K., Jayaraman A. AI in Rehabilitation Medicine: Opportunities and Challenges // Annals of Rehabilitation Medicine. – 2023. – Vol. 47, № 6. – P. 444–458. – doi: 10.5535/ arm.23131.
5. Calabrò R.S., Mojdehdehbaher S. AI-Driven Telerehabilitation: Benefits and Challenges of a Transformative Healthcare Approach // AI. – 2025. – Vol. 6, № 3. – P. 62. – doi: 10.3390/ai6030062.
6. Patel R. The Impact of AI-Driven Education in Correctional Facilities: A Longitudinal Study // Education and Technology Journal. – 2023. – Vol. 15, № 1. – P. 22–39.
7. Mühlhoff R., Ruschemeier H. Regulating AI with Purpose Limitation for Models // Journal of AI Law and Regulation. – 2024. – Vol. 1, № 1. – P. 24–39. – doi: 10.21552/aire/2024/1/5.
8. Das Jui, Tonni & Rivas P. Fairness Issues, Current Approaches, and Challenges in Machine Learning Models // International Journal of Machine Learning and Cybernetics. – 2024. – Vol. 15. – P. 1–31. – doi: 10.1007/s13042-023-02083-2.
9. Искандаров Р.Р. Искусственный интеллект в психиатрии: современное состояние проблемы // Психическое здоровье. – 2024. – Т. 19, № 8. – С. 26–30. – EDN: MAAQHE.
10. Искандаров Р.Р., Кряжева С.Г. Нейротехнологии в пенитенциарной системе: перспективы и этико-правовые вызовы // Образование и право. – 2025. – № 2. – С. 555–558. – EDN: BAZKLT. 7 Spisok literatury:
11. Kontini F. Iskusstvennyj intellekt: Novyj sposob nenadlezhashchego vozdejstviya na sudebnye organy? // UNODC. – 2019. – URL: https://www. unodc.org/dohadeclaration/ru/news/2019/06/artificial-intelligence_-a-new-trojan-horse-for-undue-influence-on-judiciaries.html.
12. Keller B., Thomas J., Singh P. Virtual Reality and Its Rehabilitation Potential in Prisons // Virtual Technology & Rehabilitation. – 2022. – Vol. 3, № 3. – P. 200–215.
13. Aldhahi M.I., Alorainy A.I., Abuzaid M.M. et al. Adoption of Artificial Intelligence in Rehabilitation: Perceptions, Knowledge, and Challenges Among Healthcare Providers // Healthcare (Basel). – 2025. – Vol. 13, № 4. – P. 350. – doi: 10.3390/healthcare 13040350.
14. Lanotte F., O’Brien M.K., Jayaraman A. AI in Rehabilitation Medicine: Opportunities and Challenges // Annals of Rehabilitation Medicine. – 2023. – Vol. 47, № 6. – P. 444–458. – doi: 10.5535/ arm.23131.
15. Calabrò R.S., Mojdehdehbaher S. AI-Driven Telerehabilitation: Benefits and Challenges of a Transformative Healthcare Approach // AI. – 2025. – Vol. 6, № 3. – P. 62. – doi: 10.3390/ai6030062.
16. Patel R. The Impact of AI-Driven Education in Correctional Facilities: A Longitudinal Study // Education and Technology Journal. – 2023. – Vol. 15, № 1. – P. 22–39.
17. Mühlhoff R., Ruschemeier H. Regulating AI with Purpose Limitation for Models // Journal of AI Law and Regulation. – 2024. – Vol. 1, № 1. – P. 24–39. – doi: 10.21552/aire/2024/1/5.
18. Das Jui, Tonni & Rivas P. Fairness Issues, Current Approaches, and Challenges in Machine Learning Models // International Journal of Machine Learning and Cybernetics. – 2024. – Vol. 15. – P. 1–31. – doi: 10.1007/s13042-023-02083-2.
19. Iskandarov R.R. Iskusstvennyj intellekt v psihiatrii: sovremennoe sostoyanie problemy // Psihicheskoe zdorov’e. – 2024. – T. 19, № 8. – S. 26–30. – EDN: MAAQHE.
20. Iskandarov R.R., Kryazheva S.G. Nejrotekhnologii v penitenciarnoj sisteme: perspektivy i etiko-pravovye vyzovy // Obrazovanie i pravo. – 2025. – № 2. – S. 555–558. – EDN: BAZKLT.

Скачать