Особенности гражданско-правовой ответственности при использовании систем искусственного интеллекта

• КОВАЛЬКОВА Елена Юрьевнадоцент кафедры гражданского права Казанского филиала ФГБОУВО «Российский государственный университет правосудия им. В.М. Лебедева», канд. юрид. наук, доцент, ORCID ID 0000-0002-0211-7427ekovalkova@yandex.ru
• АЛЕМПЕЕВ Георгий СергеевичКазанский филиал ФГБОУВО «Российский государственный университет правосудия им. В.М. Лебедева»georgyalempeev@yandex.ru

В статье исследуются проблемы гражданско-правовой ответственности, возникающие в связи с использованием систем искусственного интеллекта (ИИ). Актуальность темы обусловлена стремительным внедрением технологий ИИ в различные сферы общественной жизни, что сопровождается существенным отставанием правового регулирования, отсутствием единой доктринальной основы для определения лица, несущего ответственность за вред, причиненный деятельностью ИИ. Авторы приходят к выводу о необходимости применения комплексного подхода, основанного на классификации систем ИИ по степени риска и дополнении статьи 1079 Гражданского кодекса РФ указанием на роботов-агентов как источники повышенной опасности.

Ключевые слова: искусственный интеллект, система искусственного интеллекта, гражданско-правовая ответственность, деликт

Безусловно, один из самых масштабных процессов, происходящих в современном обществе, - это развитие информационных технологий. Они всеобъемлющи, распространяются на большинство сфер деятельности как человека, так и государства.

Степень научной разработанности проблемы характеризуется наличием множества концепций, предлагающих возложение ответственности на разработчиков, лиц, курирующих деятельность и, либо на иных участников оборота, однако единого подхода в науке не выработано.

Цель настоящей статьи состоит в выявлении особенностей гражданско-правовой ответственности при использовании систем ИИ и обосновании оптимальной модели распределения ответственности.

Задачи исследования включают анализ существующих теоретических подходов, оценку зарубежного опыта (в частности, Закона Евросоюза об искусственном интеллекте) и формулирование предложений по совершенствованию российского законодательства.

Методологическую основу исследования составляют общенаучные методы (анализ, синтез, системный подход) и частнонаучные методы (формально-юридический, сравнительно-правовой).

В Указе Президента РФ от 09.05.2017 № 203 «О стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» [6] говорится о важности формирования конкурентоспособной инфраструктуры, развитии отечественных технологий и т.д. Цифровизация охватывает без исключения практически все области социального общества, и прежде всего экономику, транспорт, медицину, спорт, банки, государственные услуги и др. Не исключением является и правовая система, куда внедрение информационных технологий происходит также активно, как и в иные отрасли [10].

Следует отметить, что достаточно долгое время действующее законодательство не содержало определений терминов «цифровизация», «искусственный интеллект» (далее — ИИ), «цифровые права», «криптовалюта», «виртуальное имущество» и др. Активное внедрение ИИ побуждает законодателя пересматривать свой подход и вносить либо изменения, либо принимать новые акты. Так, в 2019 г. введение «цифровых прав» в Гражданский кодекс [1] обозначило новую эпоху в понимании границ гражданско-правовых объектов. Обособленность объектов — важный признак, трансформирующийся с внедрением цифровых активов, меняющих традиционные представления о вещах и правах.

А уже в 2025 г. закреплена национальная стандартизированная концепция и терминология в области искусственного интеллекта, созданная на основе международного стандарта ИСО/МЭК 22989:2022 [4]. Так, искусственный интеллект представлен как междисциплинарная область, широко опирающаяся на информатику, науку о данных, естественные и гуманитарные науки, математику, общественные и другие науки. В п. 3.1.3 дается непосредственное определение:

«искусственный интеллект; ИИ (artificial intelligence, AI): исследование и разработка механизмов и приложений систем ИИ». Важным в данном контексте представляется и определение «системы искусственного интеллекта; система ИИ (artificial intelligence system, AI system): техническая система, использующая одну или несколько моделей ИИ, которая порождает такие конечные результаты, как контент, прогнозы, рекомендации или решения для заданного набора определенных человеком целей» (п. 3.1.4) [4].

В сфере информационных технологий как уже неотъемлемого явления особо выделяются вопросы, связанные с ответственностью при использовании искусственного интеллекта. Если 6–7 лет назад его присутствие в жизни человека оставалось под большим вопросом, то сейчас степень развития программ на базе ИИ достигла уровня, когда они достаточно активно внедрены в жизнь и деятельность граждан и могут не только помогать, но и приносить вред. В связи с упомянутым выше возникает множество вопросов, связанных с правовым положением и регулированием деятельности ИИ. В данной работе мы разберем один из них, а именно вопрос гражданско-правовой ответственности за деятельность ИИ. Реалии таковы, что он развивается стремительными темпами, вследствие чего аппарат правового регулирования запаздывает, а новизна проблемы приводит к тому, что отсутствует теоретическая основа для вынесения решений. Необходимо прояснить, что, несмотря на постоянно растущий уровень автономности, адаптивности, ИИ по-прежнему не может быть наделен статусом субъекта гражданского права [8]. Невзирая на обилие теорий и научных доктрин на тему правосубъектности ИИ, вопрос остается решенным, по крайней мере на данный момент, чего не скажешь о гражданской ответственности за деятельность тех самых программ.

По нашему мнению, ключевой проблемой, вызванной стремительным развитием ИИ, является определение лица, несущего гражданско-правовую ответственность в случае причинения вреда. Гражданско-правовой ответственности свойственен ряд особенностей, одной из таковых является ее имущественный характер, подразумевающий имущественное воздействие, что относит ее к одному из элементов экономического регулирования правоотношений страны [9, с. 443– 444]. Также не стоит забывать компенсационную природу, согласно которой гражданско-правовая ответственность подразумевает равноценное возмещение причиненного ущерба. Перечисленные особенности подчеркивают актуальность указанного вопроса.

Решение обозначенной проблемы необходимо рассматривать с трех точек зрения, в корне отличающихся в вопросе определения лиц, потенциально ответственных за деятельность ИИ.

В первую очередь, хотелось бы упомянуть концепцию, согласно которой ответственность за действия ИИ будут нести лица, причастные к его созданию. На первый взгляд все кажется довольно логично. Разработчики несут ответственность за программу, которую сами создали, запрограммировали, следовательно, никто иной не оказывает большее влияние на ее дальнейшее функционирование, нежели они сами. Разберем ряд ситуаций. В случае, когда деятельность ИИ причиняет вред имуществу, здоровью или жизни потребителя, можно провести аналогию с абз. 4 п. 3 ст. 14 Закона РФ от 07.02.1992 № 2300-1 «О защите прав потребителей» [3], где сказано, что потерпевший вправе предъявить внедоговорный иск к производителю товара, но он также вправе предъявить уже договорный иск к продавцу. Также можно привести в пример ситуацию, когда автопилотируемый автомобиль, управляемый ИИ, вследствие ошибки автопилота причиняет вред здоровью или имуществу третьих лиц. В таком случае, согласно ст. 1095 ГК РФ [2], причиненный вред «подлежит возмещению продавцом или изготовителем товара, лицом, выполнившим работу или оказавшим услугу (исполнителем), независимо от их вины». Как раз в этом примере и проявляется очень тонкая грань между ситуациями, когда ответственность должно нести лицо, ответственное за программирование ИИ, когда продавец товара, а когда и лицо, курирующее деятельность устройства в реальном времени. Именно на деятельность последних мы сейчас обратим внимание.

Существуют ситуации, когда, несмотря на автономность искусственного интеллекта, он так или иначе находится под контролем человека. Стоит отметить, что в большинстве случаев производитель указывает в условиях эксплуатации требования к лицу, управляющему программой на базе ИИ, среди которых присутствует требование о периодическом контроле за его деятельностью. Таким образом, мы подходим ко второй теории, согласно которой ответственность за правонарушения ИИ несет лицо, курирующее его деятельность в реальном времени. Здесь выглядит обоснованным решение сослаться на ст. 1079 ГК РФ в случае, если лицо управляет источником повышенной опасности. По большому счету, обе эти теории являются жизнеспособными и могут применяться в зависимости от сложившейся ситуации. Поэтому кажется нецелесообразным 100-процентное склонение к одной из них. Однако не стоит забывать, что ИИ обладает определенным уровнем автономности, вследствие чего не всегда могут быть применены нормы о возмещении вреда по отношению к разработчикам или к лицам, курирующим его деятельность, ведь в действиях программ на базе ИИ присутствует доля их самостоятельности. Отметим, что ГК РФ предусматривает деликтную ответственность на основе императивных норм за причиненный ущерб (ст. 1064, 1070, 1073 ГК РФ), возмещение вреда, причиненного в состоянии крайней необходимости (ст. 1067 ГК РФ) и возможность возмещения вреда без вины (ст. 1079 ГК РФ). Однако, как уже говорилось ранее, ИИ не может быть наделен статусом субъекта [8].

Таким образом, имеющейся автономности ИИ недостаточно для наложения на него ответственности за причиненный вред, но при этом ее может быть достаточно, чтобы совершить неправомерное действие, неподконтрольное лицу, курирующему его деятельность, и лицу, отвечающему за разработку. Можно обратиться к опыту европейских стран, а именно к инициативам, вызванным развитием Закона Евросоюза об искусственном интеллекте [13], где отмечается, что юридическая ответственность за деятельность ИИ может быть возложена на дистрибьюторов или импортеров системы ИИ, а не на первоначального поставщика [11]. По нашему мнению, в данной ситуации многое будет зависеть от сферы деятельности, в которой работает программа на базе ИИ. Видится целесообразным потребовать дополнительную регистрацию программ на базе ИИ, деятельность которых связана с повышенной опасностью для окружающих, что упростит контроль за их деятельностью и определению лиц, несущих гражданско-правовую ответственность. В ситуации, если организация, услуги которой оказывает ИИ, осознает опасность и рискованность применения подобных программ и не принимает никаких мер, что в итоге приводит к правонарушению, ответственность за негативные последствия применения ИИ должен нести именно он. В таком случае в рамках действующего российского законодательства видится целесообразным определение деятельности ИИ как деятельности, создающей повышенную опасность. Как и в упомянутом выше случае, на ум приходит идея о применении в данной ситуации статьи 1079 ГК РФ, которая носит открытый характер. Это подтверждается в руководящих разъяснениях Вер- ховного Суда РФ, где указывается, что перечень источников повышенной опасности носит неисчерпывающий характер [5]. Учитывая это, потребуется дополнение первого пункта ст. 1079 ГК РФ признанием роботов-агентов как источников повышенной опасности в ситуациях, если действия программы, ввиду ее автономности, не подконтрольны на 100% человеку. Стоит учесть автономность ИИ и предусмотреть ответственность дистрибьютора за его деятельность, приведшую к гражданским правонарушениям.

Таким образом, по нашему мнению, решение проблемы видится в объединении всех трех теорий в одну концепцию. По итогу, дополнение 1 пункта статьи 1079 ГК РФ позволит урегулировать большую часть вопросов о гражданско-правовой ответственности, связанной с ИИ. Отметим, что субъект ответственности за вред, причиненный деятельностью ИИ, вероятно, будет склоняться в сторону уменьшения случаев виновности лиц, курирующих его деятельность, так как в большинстве случаев он не будет иметь контроль над ним. В странах Европейского Союза существует пропорциональный подход к регулированию ИИ, основанный на оценке риска, устанавливающий поэтапную систему требований и обязательств в зависимости от уровня риска для здоровья и безопасности. При этом в отечественных научных трудах также присутствуют попытки задействовать данный подход. Так, Алексеев А.О., Ерахтина О.С., Кондратьева К.С., Никитин Т.Ф. в своей работе отмечают, что классификация технологий искусственного интеллекта должна происходить по следующим признакам: способность самостоятельно определять круг задач без вмешательства и помощи человека, способность автономно развиваться и в целом осуществлять свою деятельность без вмешательства человека [7, с. 52].

Принятый сравнительно недавно Закон Евросоюза об ИИ (Artificial Intelligence Act) разделяет системы на базе ИИ на четыре категории [12]:

1. Системы неприемлемого риска, представляющие серьезную угрозу правам и безопасности человека. К ним можно отнести системы социального рейтинга, манипулятивные системы, системы биометрической идентификации в режиме реального времени для наблюдения в общественных местах.

2. Высокий риск. К нему относятся системы, управляющие электро- и транспортными сетями, программы, использующиеся в прогностической деятельности и в сфере здравоохранения. Перечисленные системы находятся под наибольшим контролем и требуют строгого надзора из-за их потенциальной опасности.

3. Программы ограниченного риска. Категория ограниченно охватывает такие системы ИИ, как чат-боты, приложения, использующие ИИ для маркетинга, виртуальные помощники и т.п. Тщательного надзора они не требуют, но разработчики должны убедиться, что пользователи взаимодействуют с ИИ.

4. Минимальный или нулевой риск. Сюда относятся системы, используемые для развлечений и повышения производительности, в качестве вспомогательных инструментов в различных компьютерных играх. Они не попадают под ряд нормативных требований, выдвинутых Законом об ИИ, но при этом должны соответствовать общим законам ЕС.

Несмотря на то, что закон выглядит практико-ориентированным и учитывающим особенности ИИ, в нем видится ряд недостатков, наиболее существенными из которых являются неоднозначность описанной классификации и соотношение с существующими видами ответственности в гражданском праве. К тому же, Закон ЕС об ИИ хотя и устанавливает правила безопасности и прозрачности регулирования деятельности программ, но в нем отсутствуют какие-либо положения о гражданско-правовой ответственности, связанные с его деятельностью. Однако сама по себе идея разделения ИИ на несколько уровней опасности выглядит перспективно и вполне может быть реализована в российском законодательстве.

Дабы упростить процесс привлечения лиц к гражданско-правовой ответственности за деятельность программ на базе ИИ, видится целесообразным выделить наиболее важный критерий для разграничения той самой ответственности. По нашему мнению, им должна стать степень причиненного вреда, описанная в законе ЕС, но с поправкой — разделением не на четыре группы, а на две: высокого риска и приемлемого риска, что обяжет регистрировать первые как источник повышенной опасности. Таким образом, виновным в случае правонарушений, как уже говорилось ранее, будет являться дистрибьютор программы. В остальных же случаях все будет зависеть от произошедшей ситуации, и ответственность будет нести либо лицо, курирующее деятельность системы, либо ее создатель.

Подводя итоги, мы пришли к выводу, что на данный момент отсутствует какой-то конкретный подход для регулирования гражданско-правовой ответственности за деятельность ИИ. Существующие подходы имеют как ряд достоинств, так и существенных недостатков, что вряд ли позволит им в том виде, в котором они есть, справиться с поставленной задачей.

Список литературы

1. Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 № 51-ФЗ: ред. от 01.01.2026 // Собрание законодательства РФ. – 1994. – № 32, ст. 3301.
2. Гражданский кодекс Российской Федерации (часть вторая) от 26.01.1996 № 14-ФЗ: ред. от 01.01.2026 // Собрание законодательства РФ. – 1996. – № 5, ст. 410.
3. Закон РФ от 07.02.1992 № 2300-1 «О защите прав потребителей»: ред. от 08.08.2024 // Ведомости СНД и ВС РФ. – 1992. – № 15, ст. 766.
4. Национальный стандарт РФ ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022) «Искусственный интеллект. Концепции и терминология искусственного интеллекта»: утв. и введ. в действие приказом Федерального агентства по техническому регулированию и метрологии от 28.10.2024 № 1550-ст. – Москва: Стандартинформ, 2024. – 58 с.
5. Постановление Пленума Верховного Суда РФ от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» // Бюллетень Верховного Суда РФ. – 2010. – № 3.
6. Указ Президента РФ от 09.05.2017 № 203 «О стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» // Собрание законодательства РФ. – 2017. – № 20, ст. 2901.
7. Алексеев А. О. Подходы к гражданско-правовой ответственности разработчика технологий искусственного интеллекта: на основе классификации технологий / А. О. Алексеев, О. С. Ерахтина, К. С. Кондратьева, Т. Ф. Никитин // Информационное общество. – 2020. – № 6. – С. 47–57. – URL: http://infosoc.iis.ru/article/view/522 (дата обращения: 31.10.2025).
8. Никифоров С. В. Правовое регулирование и оформление правосубъектности искусственного интеллекта в российском и международном праве / С. В. Никифоров // Пробелы в российском законодательстве. – 2020. – № 1. – С. 79–82.
9. Суханов Е. А. Российское гражданское право: в 2 т. Т. 1: Общая часть / Е. А. Суханов. – Москва: Статут, 2022. – 576 с.
10. Шайкова Е. С. Цифровизация юриспруденции / Е. С. Шайкова // Молодой ученый. – 2021. – № 12. – С. 214–216. – URL: https://cyberleninka. ru/article/n/tsifrovizatsiya-yurisprudentsii (дата обращения: 05.03.2026).
11. Ответственность искусственного интеллекта в правовом поле / Digital & Technology Lawyers. – URL: https://dgtlaw.ru/analytic/otvetstvennostiskusstvennogo-intellekta-v-pravovom-pole (дата обращения: 05.03.2026).
12. Risk classifications of ai in the eu artificial intelligence act / Master et DU Cyberjustice – Université de Strasbourg // Blog Cyberjustice. – 2025. – 31 Jan. – URL: https://cyberjustice.blog/2025/01/31/ risk-classifications-of-ai-in-the-eu-artificial-intelligence-act/ (дата обращения: 02.11.2025).
13. The EU Artificial Intelligence Act: up-todate developments and analyses of the EU AI Act // EU Artificial Intelligence Act. – URL: https:// artificialintelligenceact.eu/ (дата обращения: 02.11.2025).

Скачать