Скачать статью (PDF)

Правовая культура в условиях развития искусственного интеллекта

Авторы
  • КИРИЛЛОВА Татьяна Константиновнадоктор юридических наук, профессор кафедры гражданского права Санкт-Петербургского государственного университета аэрокосмического приборостроения
  • СОСНОВСКИЙ Евгений Сергеевичпреподаватель кафедры публичного права Санкт-Петербургского государственного университета аэрокосмического приборостроения
Аннотация и ключевые слова

Аннотация. В статье рассматриваются актуальные вопросы трансформации правовой культуры в условиях стремительного развития технологий искусственного интеллекта (ИИ). Автор анализирует основные тенденции изменения правосознания граждан, профессионального юридического сообщества и правотворческих органов в эпоху цифровизации. Исследуются проблемы этико-правового регулирования применения ИИ, риски размывания традиционных ценностно-нормативных установок, а также перспективы формирования «цифровой» правовой культуры. Особое внимание уделено вопросам ответственности за вред, причинённый системами ИИ, защите прав человека в условиях алгоритмического принятия решений и формированию правовой грамотности населения. Сделан вывод о необходимости комплексного подхода к развитию правовой культуры, учитывающего как технологические инновации, так и сохранение фундаментальных гуманистических ценностей права.

Ключевые слова: правовая культура, искусственный интеллект, правосознание, цифровизация, цифровое право, этика ИИ, алгоритмическое регулирование, правовая грамотность, ответственность, права человека.

Текст статьи

Стремительное развитие технологий искусственного интеллекта (далее – ИИ) на протяжении последнего десятилетия привело к существенным изменениям не только в экономической и социальной сферах, но и в правовой системе общества. Внедрение алгоритмических систем в государственное управление, судопроизводство, правоохранительную деятельность, оказание юридических услуг ставит перед юридической наукой принципиально новые задачи. Среди них особое место занимает проблема трансформации правовой культуры – сложного социокультурного феномена, отражающего отношение общества и личности к праву, уровень развития правосознания, правовой деятельности и правовых институтов [1, с. 14].

Актуальность темы обусловлена тем, что развитие ИИ оказывает двойственное воздействие на правовую культуру: с одной стороны, оно расширяет возможности правовой коммуникации, повышает доступность правовой информации, способствует совершенствованию правоприменительной практики; с другой – порождает риски деформации правосознания, размывания традиционных правовых ценностей, утраты человеком субъектности в правовых отношениях [2, с. 47]. Вопросы этики ИИ, ответственности за алгоритмические решения, защиты персональных данных и прав человека в цифровой среде требуют научного осмысления в контексте формирования новой модели правовой культуры.

Степень научной разработанности темы характеризуется растущим интересом исследователей к проблемам взаимодействия права и ИИ. Существенный вклад в разработку проблематики цифровизации права и правовой культуры внесли работы Т.Я. Хабриевой, Н.Н. Черногора, А.В. Минбалеева, П.М.

Морхата, И.Р. Бегишева, А.А. Карцхия и других отечественных учёных [3; 4; 5]. Вместе с тем комплексное исследование правовой культуры в условиях развития ИИ остаётся недостаточно разработанным.

Цель настоящей статьи – выявить основные направления трансформации правовой культуры под влиянием технологий ИИ и определить пути её развития в условиях цифровой эпохи.

Задачи исследования: 1) раскрыть содержание правовой культуры в контексте цифровизации; 2) проанализировать влияние ИИ на правосознание и правовое поведение; 3) выявить ключевые этико-правовые проблемы применения ИИ; 4) предложить направления совершенствования правовой культуры.

Методологическую основу составили общенаучные (анализ, синтез, системный подход) и частнонаучные (формально-юридический, сравнительно-правовой, социолого-правовой) методы исследования.

Правовая культура традиционно понимается как качественное состояние правовой жизни общества, выражающееся в достигнутом уровне развития правовой деятельности, юридических актов, правосознания и правового развития субъектов [1, с. 18]. Структурно она включает познавательный, ценностноориентационный и поведенческий компоненты.

В условиях цифровой трансформации каждый из этих компонентов претерпевает существенные изменения.

Т.Я. Хабриева и Н.Н. Черногор обоснованно отмечают, что цифровизация порождает новое измерение правовой реальности, в котором классические правовые категории нуждаются в переосмыслении [3, с. 9]. Возникает понятие «цифровая правовая культура», которое включает в себя: цифровую правовую грамотность, навыки безопасного поведения в цифровой среде, понимание особенностей правового регулирования отношений, опосредованных технологиями, в том числе ИИ [6, с. 112]. А.В. Минбалеев подчёркивает, что развитие технологий ИИ требует формирования у субъектов права специальных компетенций, позволяющих критически оценивать результаты работы алгоритмических систем и осознанно использовать их в юридической практике [5, с. 28]. Это формирует запрос на новый тип правовой социализации личности, ориентированный на гибридную (физическую и цифровую) реальность. Воздействие ИИ на правосознание носит многоплановый характер. С позитивной стороны, использование интеллектуальных систем правового консультирования (чат-ботов, юридических ассистентов на основе больших языковых моделей) повышает доступность правовой информации для широких слоёв населения, способствует росту правовой грамотности [7, с. 64]. Граждане получают возможность оперативно получать первичную юридическую консультацию, что особенно важно в условиях неравномерного распределения юридических услуг по территории страны.

Вместе с тем П.М. Морхат указывает на риски, связанные с некритическим восприятием результатов работы ИИ-систем: пользователи склонны переоценивать точность алгоритмических рекомендаций, что может приводить к принятию ошибочных правовых решений [4, с. 75]. Возникает феномен «алгоритмического конформизма», при котором человек делегирует машине свою правовую субъектность.

Особую обеспокоенность вызывает явление «правовой деформации», порождаемое массовым распространением дипфейков, генеративных моделей, способных создавать правдоподобные, но недостоверные юридические документы. И.Р. Бегишев справедливо отмечает, что данные технологии создают новые формы противоправного поведения, требующие как уголовно-правового реагирования, так и формирования у населения навыков критической оценки цифрового контента [8, с. 156].

В профессиональной среде ИИ трансформирует деятельность юристов:

автоматизация рутинных операций (анализа документов, поиска прецедентов, составления типовых договоров) высвобождает время для творческой работы, но одновременно ставит вопрос о профессиональной идентичности юриста, его этических обязательствах при использовании ИИ-инструментов [9, с. 23].

Развитие ИИ обнажает фундаментальные этико-правовые проблемы, непосредственно затрагивающие правовую культуру общества. Первая из них – проблема ответственности за вред, причинённый системами ИИ. Дискуссия о возможности признания ИИ субъектом права («электронным лицом») остаётся открытой [4, с. 102]. Российская доктрина в основном придерживается позиции, согласно которой ответственность должны нести разработчики, владельцы и операторы соответствующих систем [10, с. 89].

Вторая проблема связана с

алгоритмической предвзятостью (bias). Системы ИИ, обученные на исторических данных, способны воспроизводить и усиливать существующие в обществе дискриминационные практики.

Это особенно опасно при использовании ИИ в правосудии, правоохранительной деятельности, кредитном скоринге [11, с. 41]. Защита от алгоритмической дискриминации становится новым направлением правозащитной деятельности и важнейшим элементом современной правовой культуры.

Третья проблема – обеспечение прозрачности и объяснимости алгоритмических решений. Принцип «права на объяснение», получивший развитие в европейском Общем регламенте по защите данных (GDPR), постепенно проникает и в российскую правовую доктрину [12, с. 58]. Гражданин должен иметь возможность понять основания принятого в отношении него юридически значимого решения, что является необходимым условием реализации права на судебную защиту.

Четвёртая проблема – защита персональных данных и неприкосновенности частной жизни в условиях массового сбора и обработки информации системами ИИ. А.А.

Карцхия отмечает, что цифровой суверенитет личности становится новой ценностью, требующей правовой защиты [13, с. 67].

В ответ на эти вызовы в Российской Федерации в 2021 году был принят Кодекс этики в сфере искусственного интеллекта – рамочный документ, формулирующий принципы ответственного развития ИИ. Подобные документы, включая Рекомендацию ЮНЕСКО об этических аспектах ИИ (2021), формируют международный консенсус о ценностно-нормативных основаниях развития технологий [14, с. 31].

Анализ выявленных проблем позволяет предложить ряд направлений развития правовой культуры в условиях ИИ-революции.

Первое направление – формирование цифровой правовой грамотности населения. Необходима интеграция в образовательные программы всех уровней модулей, посвящённых правам и обязанностям субъектов в цифровой среде, особенностям взаимодействия с ИИ-системами, способам защиты от алгоритмической дискриминации [6, с. 119]. Особое значение приобретает правовое просвещение в сфере критической оценки цифрового контента.

Второе направление – развитие профессиональной правовой культуры юристов. Современный юрист должен обладать базовыми знаниями в области ИИ, понимать принципы работы алгоритмических систем, владеть навыками их использования при соблюдении этических норм. Это требует пересмотра стандартов юридического образования, включения в учебные планы соответствующих дисциплин [9, с. 28; 15, с. 142]. Третье направление – совершенствование правотворческой культуры. Создание адекватного правового регулирования отношений в сфере ИИ требует от законодателя как глубокого понимания технологических особенностей, так и приверженности фундаментальным правовым ценностям. Принцип «человекоцентричности» (human-centric approach) должен оставаться методологической основой правового регулирования ИИ [3, с. 14].

Четвёртое направление – укрепление этической составляющей правовой культуры. Гуманистические ценности права – достоинство человека, справедливость, равенство, защита уязвимых групп – должны выступать ориентиром при оценке любых технологических инноваций. Как справедливо указывает Н.Н. Черногор, цифровизация не должна вести к утрате антропологических оснований права [16, с. 21]. Пятое направление – развитие международного сотрудничества в сфере регулирования ИИ. Трансграничный характер цифровых технологий требует выработки согласованных подходов к их правовому регулированию, обмена лучшими практиками, формирования глобальной правовой культуры цифровой эпохи [14, с. 36].

Заключение

Проведённое исследование позволяет сделать следующие выводы. Развитие технологий искусственного интеллекта оказывает глубокое и многомерное воздействие на правовую культуру современного общества, трансформируя её содержательные, структурные и функциональные характеристики. Возникает новый феномен – цифровая правовая культура, интегрирующая традиционные правовые ценности и компетенции с навыками безопасного и эффективного взаимодействия с цифровыми технологиями. Влияние ИИ на правовую культуру носит амбивалентный характер: расширяя возможности правовой коммуникации и доступности правовой информации, оно одновременно порождает риски деформации правосознания, размывания субъектности человека в правовых отношениях, появления новых форм противоправного поведения.

Адекватный ответ на вызовы цифровой эпохи требует комплексной стратегии развития правовой культуры, включающей повышение цифровой правовой грамотности населения, модернизацию юридического образования, совершенствование правотворчества, укрепление этической составляющей правовой жизни и развитие международного сотрудничества. При этом фундаментальным принципом должна оставаться человекоцентричность права – приоритет защиты прав, свобод и достоинства человека над любыми технологическими и экономическими интересами.

Дальнейшие исследования в данной сфере представляются перспективными в части эмпирического изучения изменений правосознания различных социальных групп под влиянием ИИ, разработки методик оценки уровня цифровой правовой культуры, а также сравнительно-правового анализа международного опыта регулирования ИИ.

Список литературы

  1. Певцова Е.А. Правовая культура и правовое воспитание в России на рубеже XX–XXI веков: монография. – М.: Новый учебник, 2020. – 416 с.
  2. Полякова Т.А., Минбалеев А.В., Кроткова Н.В. Тенденции и перспективы развития информационного права в условиях цифровой трансформации // Государство и право. – 2022. – № 9. – С. 45–58.
  3. Хабриева Т.Я., Черногор Н.Н. Право в условиях цифровой реальности // Журнал российского права. – 2021. – № 1. – С. 5–16.
  4. Морхат П.М. Искусственный интеллект: правовой взгляд: монография. – М.: Буки Веди, 2021. – 254 с.
  5. Минбалеев А.В. Проблемы правового регулирования искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). – 2022. – № 6. – С. 25–34.
  6. Зенин С.С., Кутейников Д.Л., Япрынцев И.М., Ижаев О.А. Формирование правового регулирования цифровой среды и цифровой правовой грамотности // Правовая парадигма. – 2021. – Т. 20. – № 2. – С. 110–123.
  7. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. – 2021. – Т. 25. – № 1. – С. 60–73.
  8. Бегишев И.Р. Уголовно-правовые риски применения технологий искусственного интеллекта // Актуальные проблемы экономики и права. – 2021. – Т. 15. – № 1. – С. 150–162.
  9. Талапина Э.В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. – 2022. – № 2. – С. 17–32.
  10. Гаджиев Г.А., Войниканис Е.А. Может ли робот быть субъектом права (поиск правовых форм для регулирования цифровой экономики)? // Право. Журнал Высшей школы экономики. – 2020. – № 4. – С. 85–109.
  11. Незнамов А.В. Алгоритмическая предвзятость в правовом измерении // Закон. – 2021. – № 8. – С. 38–48.
  12. Архипов В.В., Наумов В.Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. – 2021. – № 3. – С. 55– 62.
  13. Карцхия А.А. Цифровой суверенитет: правовой аспект // Мониторинг правоприменения. – 2022. – № 1. – С. 64–72.
  14. Шахрай С.М. Цифровая конституция. Основные права и свободы личности в тотально информационном обществе // Вестник Российской академии наук. – 2021. – Т. 91. – № 11. – С. 28–37.
  15. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. – 2021. – № 2. – С. 138–161.
  16. Черногор Н.Н., Залоило М.В. Цифровизация и будущее права // Журнал российского права. – 2020. – № 11. – С. 5–22.

Скачать

English summary

Legal culture in the context of artificial intelligence development

Authors
  • KIRILLOVA Tatiana KonstantinovnaDoctor of Law, Professor of the Department of Public Law, St. Petersburg State University of Aerospace Instrumentation
  • SOSNOVSKY Evgeny SergeevichLecturer at the St. Petersburg State Universityof Aerospace Instrumentation

Annotation. The article examines topical issues of transformation of legal culture in the context of the rapid development of artificial intelligence (AI) technologies. The author analyzes the main trends in changing the legal consciousness of citizens, the professional legal community and law-making bodies in the era of digitalization. The problems of ethical and legal regulation of AI application, the risks of erosion of traditional value and normative attitudes, as well as the prospects for the formation of a «digital» legal culture are studied. Particular attention is paid to issues of liability for harm caused by AI systems, protection of human rights in the context of algorithmic decisionmaking, and the formation of legal literacy of the population. A conclusion is drawn on the need for a comprehensive approach to the development of legal culture, taking into account both technological innovations and the preservation of fundamental humanistic values of law.

Key words: legal culture, artificial intelligence, legal consciousness, digitalization, digital law, AI ethics, algorithmic regulation, legal literacy, liability, human rights.

References

  1. E.A. Pevtsova. Legal culture and legal education in Russia at the turn of the XX-XXI centuries: monograph. - M.: New textbook, 2020. - 416 s.
  2. Polyakova T.A., Minbaleev A.V., Krotkova N.V. Trends and prospects for the development of information law in the context of digital transformation// State and law. – 2022. – № 9. - S. 45-58.
  3. Khabrieva T.Ya., Chernogor N.N. Law in Digital Reality//Journal of Russian Law. – 2021. – № 1. - S. 5-16.
  4. Morhat PM Artificial Intelligence: A Legal View: A Monograph. - M.: Buki Vedi, 2021. - 254 s.
  5. Minbaleev A.V. Problems of legal regulation of artificial intelligence//Bulletin of the University named after O.E. Kutafina (MSLA). – 2022. – № 6. - S. 25-34.
  6. Zenin S.S., Kuteinikov D.L., Yapryntsev I.M., Izhaev O.A. Formation of legal regulation of the digital environment and digital legal literacy//Legal paradigm. – 2021. - T. 20. – № 2. - S. 110-123.
  7. Ponkin I.V., Redkina A.I. Artificial intelligence from the point of view of law//Bulletin of the Peoples’ Friendship University of Russia. Series: Legal Sciences. – 2021. - T. 25. – № 1. - S. 60-73.
  8. I.R. Begishev. Criminal law risks of using artificial intelligence technologies//Current problems of economics and law. – 2021. - T. 15. – № 1. - S. 150-162.
  9. E.V. Talapina. Law and Digitalization: New Challenges and Prospects//Journal of Russian Law. – 2022. – № 2. - S. 17-32.
  10. Gadzhiev G.A., Voynikanis E.A. Can a robot be a subject of law (search for legal forms to regulate the digital economy)?//Law. Journal of the Higher School of Economics. – 2020. – № 4. - S. 85- 109.
  11. Neznamov A.V. Algorithmic bias in the legal dimension//Law. – 2021. – № 8. - S. 38-48.
  12. Arkhipov V.V., Naumov V.B. Information and legal aspects of the formation of legislation on robotics//Information law. – 2021. – № 3. - S. 55-62.
  13. Karzhia A.A. Digital Sovereignty: Legal Aspect//Enforcement Monitoring. – 2022. – № 1. - S. 64-72.
  14. Shahrai S.M. Digital Constitution. Fundamental rights and freedoms of the individual in a totally information society//Bulletin of the Russian Academy of Sciences. – 2021. - T. 91. – № 11. - S. 28-37.
  15. Laptev V.A. The concept of artificial intelligence and legal responsibility for its work//Law. Journal of the Higher School of Economics. – 2021. – № 2. - S. 138-161.
  16. Chernogor N.N., Zaloilo M.V. Digitalization and the Future of Law//Journal of Russian Law. – 2020. – № 11. - S. 5-22.

Creative Commons Attribution 4.0 License Контент доступен под лицензией Creative Commons Attribution 4.0 License.