Искусственный интеллект в юридической деятельности: правовые пределы, ответственность и контроль

• СОВИНА Анна РудольфовнаАссистент кафедры гражданского права, Санкт-Петербургского государственного университета аэрокосмического приборостроенияrudolfovna15@mail.ru

В статье рассматриваются правовые пределы использования искусственного интеллекта в юридической деятельности, а также вопросы распределения ответственности и организации контроля за результатами алгоритмической обработки правовой информации. Показано, что внедрение интеллектуальных систем в юридическую практику повышает скорость поиска информации, подготовки документов и предварительного анализа правовых позиций, однако не отменяет требований к законности обработки данных, сохранению конфиденциальности, проверке результата и сохранению персональной ответственности юриста. Обосновывается вывод о том, что искусственный интеллект в юридической деятельности должен рассматриваться как вспомогательный инструмент, применение которого допустимо лишь при наличии человеческого контроля, внутренней регламентации и понятных правил фиксации ошибок и последствий их возникновения. В исследовании автор указывает на то, что в перспективе развитие регулирования должно идти в направлении закрепления минимальных стандартов использования интеллектуальных систем в юридической работе. Необходимо определить допустимые виды задач, установить обязанность человеческой проверки результата, сформировать правила хранения логов взаимодействия с системой, обеспечить специальный режим для персональных и конфиденциальных данных и предусмотреть ответственность за необоснованную передачу информации в непроверенный сервис. Кроме того, требуется развитие профессиональных стандартов для адвокатов, корпоративных юристов и сотрудников государственных органов, использующих ИИ в правовой работе.

Ключевые слова: искусственный интеллект, юридическая деятельность, правовая ответственность, алгоритмический контроль, юридическая помощь, конфиденциальность, цифровизация права

Введение

Цифровая трансформация юридической деятельности привела к тому, что обработка правовой информации все чаще осуществляется не только человеком, но и программными системами, способными выполнять поиск, классификацию, сопоставление и генерацию текстов. На практике это выражается в использовании интеллектуальных сервисов для анализа судебной практики, составления проектов договоров, подготовки правовых заключений, проверки реквизитов документов, формирования шаблонов процессуальных актов и предварительной оценки рисков. В юридической среде подобные решения воспринимаются как способ ускорения рутинных операций и снижения нагрузки на специалиста, однако правовая природа таких инструментов требует более строгого анализа, поскольку любая автоматизация в сфере права затрагивает вопросы правомерности обработки данных, качества результата и распределения последствий ошибки.

Нормативная база применения искусственного интеллекта в правовой сфере формируется постепенно и отличается фрагментарным характером. Основополагающее значение имеет Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее - Указ Президента РФ № 490) [1], которым утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года. В ней искусственный интеллект рассматривается как комплекс технологических решений, позволяющих имитировать когнитивные функции человека и получать результаты, сопоставимые с интеллектуальной деятельностью человека. Однако стратегический документ, определяя общие ориентиры развития, не отвечает на вопрос, в каких пределах допустимо использовать такие решения в юридической профессии и какие правовые последствия наступают при ошибке алгоритма.

По этой причине обсуждение темы искусственного интеллекта в юридической деятельности неизбежно выходит за рамки технологического описания и переходит в плоскость правового регулирования, профессиональной этики и распределения ответственности. Вопрос состоит уже не в том, способен ли алгоритм найти норму или составить черновик документа, а в том, кто должен проверять результат, кто несет последствия неверного вывода и каким образом должен быть организован контроль за использованием интеллектуальной системы в работе юриста, адвоката, корпоративного консультанта или специалиста юридического подразделения организации.

Материалы и методы исследования Методологическую основу настоящего рассуждения составляют формально-юридический анализ, системное толкование нормативных предписаний, сравнительно-правовой подход и доктринальное обобщение отечественных публикаций по вопросам legal tech и искусственного интеллекта. Применение этих методов позволяет рассматривать искусственный интеллект не как абстрактную техническую новацию, а как инструмент, который включается в уже существующий массив юридических обязанностей и подчиняется общим принципам законности, добросовестности и ответственности.

Важное значение имеет Федеральный закон «Об информации, информационных технологиях и о защите информации» от 27.07.2006 № 149-ФЗ (далее - Федеральный закон № 149-ФЗ) [2], поскольку именно он определяет общий правовой режим информации и информационных систем.

Для юридической деятельности этот закон важен тем, что любой интеллектуальный сервис работает с информацией, а значит, подчиняется правилам ее обращения, ограничения доступа и защиты от неправомерного вмешательства. Не менее значим Федеральный закон «Об электронной подписи» от 06.04.2011 № 63-ФЗ (далее - Федеральный закон № 63-ФЗ) [3], поскольку юрист в цифровой среде регулярно сталкивается с необходимостью удостоверения документов, подтверждения авторства, проверки полномочий и обеспечения юридической силы электронного взаимодействия. Дополнительное значение имеет Федеральный закон «О персональных данных» от 27.07.2006 № 152-ФЗ (далее - Федеральный закон № 152-ФЗ) [4]. В юридической практике обработка персональных данных происходит постоянно: это сведения о доверителях, клиентах, контрагентах, работниках, свидетелях, должниках, представителях и иных участниках правоотношений. Передача таких данных в алгоритмическую среду не может происходить без оценки целей обработки, правового основания, режима хранения и круга лиц, имеющих доступ к результату.

7

Особую роль в регулировании играет Федеральный закон от 08.07.2024 № 169-ФЗ «О внесении изменений в Федеральный закон „Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации“» [5], который усилил правовую основу для апробации цифровых технологий в контролируемой среде. Для темы искусственного интеллекта этот закон важен тем, что он демонстрирует переход от чисто декларативного подхода к экспериментальному правовому регулированию, где допуск технологии сопровождается ограничениями, наблюдением и оценкой результатов применения.

Подзаконное регулирование, имеющее значение для развития технологий искусственного интеллекта, выражено, в частности, в Постановлении Правительства Российской Федерации от 27.03.2021 № 456 [6], Постановлении Правительства Российской Федерации от 21.05.2021 № 767 [7], Постановлении Правительства Российской Федерации от 27.05.2021 № 798 [8] и Постановлении Правительства Российской Федерации от 05.07.2021 № 1120 [9]. Указанные акты связаны с грантовой поддержкой, апробацией технологий искусственного интеллекта, подготовкой кадров и финансированием исследовательских центров.

Их значение для юридической сферы состоит не в прямом регулировании профессии юриста, а в том, что они формируют инфраструктуру развития интеллектуальных решений, которые затем внедряются в правоприменительную и консультативную деятельность.

Статистический материал, использованный в статье, показывает, что обсуждение искусственного интеллекта уже не носит сугубо теоретического характера. По данным С.М. Курбатовой, приведенным в статье «Искусственный интеллект как технология повышения эффективности практической юридической деятельности», около 22% работы юриста вообще и 35% работы офисного юриста могут быть автоматизированы [10]. В статье В.М. Шеншина указывается, что с марта 2023 по март 2024 года число судебных решений в спорах, связанных с применением искусственного интеллекта, увеличилось на 60%, достигнув 406 решений [11]. Эти данные важны как свидетельство того, что искусственный интеллект становится не только внутренним рабочим инструментом, но и предметом судебного контроля, споров о пределах его применения и оценки последствий его использования.

Результаты и обсуждения

Переход от общего понимания цифровизации к частной проблеме применения искусственного интеллекта в юридической деятельности показывает, что основная трудность заключается не в технической эффективности системы, а в правовой квалификации ее роли. Наиболее распространенная ошибка в профессиональной среде состоит в восприятии искусственного интеллекта как самостоятельного «субъекта решения».

Такое представление не соответствует действующему праву. Российское законодательство не наделяет искусственный интеллект правосубъектностью, не признает его носителем прав и обязанностей и не связывает с ним самостоятельную юридическую ответственность. Следовательно, все последствия использования алгоритма в правовой работе должны быть отнесены к действиям конкретного человека или организации, которые приняли решение применить систему и воспользовались ее результатом.

Эта позиция подтверждается общими началами гражданского и административного законодательства. Если юрист использует интеллектуальную систему для подготовки документа, то правовая значимость документа определяется не машинной обработкой как таковой, а тем, кто именно подписал, утвердил и направил такой документ. Если алгоритм сформировал неверную правовую позицию, но специалист не проверил результат, то ошибка становится следствием ненадлежащего исполнения профессиональной обязанности по проверке информации. Иными словами, технология не поглощает юридическое суждение, а лишь изменяет форму подготовки этого суждения.

Именно здесь возникает вопрос о пределах допустимости использования искусственного интеллекта. В юридической деятельности он может быть применен как средство поиска, систематизации, черновой подготовки и предварительной аналитики, но не должен превращаться в инструмент автоматического принятия решений в тех случаях, где требуется личная оценка обстоятельств, толкование норм, учет интересов доверителя, соблюдение профессиональной тайны и индивидуальная стратегия защиты. Указ Президента РФ № 490 [1] ориентирует правовую систему на развитие искусственного интеллекта, но не отменяет базового требования о человеко-центрированном характере юридической помощи.

Следовательно, допустимость применения технологии зависит от того, выполняет ли человек контрольную функцию и способен ли исключить механическое следование алгоритму.

Важнейшим пределом использования интеллектуальных систем является режим информации и данных. Федеральный закон № 149-ФЗ [2] устанавливает общий принцип правового режима информации, а Федеральный закон № 152-ФЗ [4] задает строгие рамки работы с персональными данными. Юридическая деятельность неизбежно связана с обработкой чувствительных сведений: паспортных данных, адресов, семейного положения, сведений о доходах, коммерческих показателей, медицинских обстоятельств, правоустанавливающих документов и иной конфиденциальной информации. Передача таких данных во внешний облачный сервис без анализа договора, режима доступа, места хранения и политики обработки может привести к нарушению законодательства. Именно поэтому использование ИИ в юридической работе не может основываться только на удобстве интерфейса или скорости ответа. Необходимо предварительно установить, где хранятся данные, кто имеет доступ к ним, используется ли обезличивание и сохраняется ли возможность контроля над результатом.

Отдельный блок вопросов связан с электронной формой юридически значимого взаимодействия. Федеральный закон № 63-ФЗ [3] имеет особое значение в тех случаях, когда документы создаются или подписываются в электронной среде. Если интеллектуальная система формирует проект заявления, договора или доверенности, то правовую силу документ приобретает не в момент машинной генерации, а после проверки, утверждения и, когда это требуется, подписания надлежащей электронной подписью. Следовательно, электронная подпись выступает не просто технической функцией, а юридическим механизмом, связывающим содержание документа с волей конкретного лица. В этой части особенно важен контроль над тем, чтобы система не подменяла удостоверяющее действие человека и не создавала иллюзию готового правового результата без реального волеизъявления.

Подзаконные акты, направленные на поддержку инфраструктуры искусственного интеллекта, показывают, что государство рассматривает данную технологию как объект стратегического развития. Постановление Правительства РФ № 456 [6] связано с грантовой поддержкой проектов с использованием технологий искусственного интеллекта; Постановление Правительства РФ № 767 [7] предусматривает поддержку пилотных проектов апробации таких технологий; Постановление Правительства РФ № 798 [8] ориентировано на подготовку кадров в сфере искусственного интеллекта; Постановление Правительства РФ № 1120 [9] направлено на поддержку исследовательских центров. Эти акты имеют косвенное значение для юридической профессии, поскольку формируют среду, в которой развиваются правовые сервисы, автоматизированные правовые базы, аналитические системы и инструменты генерации текстов. Однако наличие такой инфраструктуры не означает автоматического снятия правовых ограничений. Напротив, чем активнее технология внедряется, тем выше требования к регламенту ее использования.

В связи с этим центральное место занимает вопрос ответственности. На практике возможны три уровня ответственности: ответственность разработчика, ответственность организации, внедрившей технологию, и персональная ответственность юриста, использовавшего результат. Разработчик может отвечать за дефекты программного обеспечения, если они обусловили вред или убытки, организация - за неправильную организацию процесса обработки данных, несанкционированный доступ сотрудников, отсутствие внутренних правил или нарушение режима конфиденциальности, юрист - за непринятие мер по проверке результата, за подписание документа без анализа содержания и за использование заведомо непроверенного алгоритмического вывода. Такая конструкция соответствует общим принципам российского права: в юридической деятельности нельзя переложить профессиональную обязанность на технический сервис.

Особенно остро вопрос ответственности проявляется в адвокатской практике и в корпоративном консультировании. Адвокат не вправе допустить раскрытия сведений, составляющих адвокатскую тайну, а корпоративный юрист обязан сохранять режим коммерческой тайны и несанкционированного доступа к внутренним документам компании. Использование облачного чат-бота или внешней аналитической платформы без оценки условий обработки информации способно привести к утрате конфиденциальности.

Следовательно, контроль должен начинаться не на стадии возникновения ошибки, а на стадии выбора инструмента. Это означает необходимость предварительной проверки программного продукта, анализа пользовательского соглашения, определения категории допустимых данных и фиксации того, какие именно задачи могут быть переданы системе.

Статистика, приведенная в исследованиях российских правоведов, подтверждает масштаб изменения юридической профессии. Указание на то, что 22% работы юриста вообще и 35% работы офисного юриста могут быть автоматизированы [10], показывает, что интеллектуальные системы способны заменить значительную часть рутинных операций. Однако это не означает сокращения юридической компетенции. Напротив, чем выше уровень автоматизации, тем более значимой становится проверка результата, поскольку автоматизируемые действия обычно касаются именно тех этапов, где ошибка способна распространиться на весь документ или правовую позицию.

Другой статистический показатель - рост на 60% числа судебных решений по спорам, связанным с 7 применением искусственного интеллекта, до 406 решений [11] - свидетельствует о том, что проблемы уже выходят за пределы внутренней организации юридической работы и становятся объектом судебной оценки. Это подтверждает необходимость формирования устойчивых правил внутреннего контроля и нормативных критериев допустимости использования ИИ.

Вопрос контроля следует рассматривать не только как технический, но и как организационно-правовой. Внутри юридической организации должны быть определены: перечень допустимых систем, категории данных, разрешенных для загрузки, уровень обязательной проверки результата, порядок фиксации ошибок, круг лиц, уполномоченных на контроль, и механизм запрета на использование непроверенных сервисов. Без таких правил использование искусственного интеллекта превращается в стихийную практику, не совместимую с требованиями юридической ответственности. Для публичного сектора это особенно важно, поскольку государственные органы и учреждения обязаны действовать строго в пределах компетенции и в соответствии с режимом обработки информации. Для частного сектора важно сохранение доверия клиента, который передает юристу не только данные, но и правовые ожидания.

Отдельно следует отметить, что искусственный интеллект не должен использоваться в ситуациях, где алгоритм способен лишь имитировать правовую аргументацию без учета фактической специфики дела. К таким ситуациям относятся сложные споры о семейных отношениях, делах о защите деловой репутации, корпоративных конфликтах, банкротных спорах и иных категориях дел, в которых юридическая позиция формируется под воздействием не только текста закона, но и доказательственной базы, поведения сторон, судебной практики и стратегических целей клиента. Здесь механическая генерация текста может создать внешне корректный, но внутренне ошибочный документ. Поэтому контроль должен выражаться не в формальном присутствии человека рядом с алгоритмом, а в реальном содержательном анализе и принятии решения человеком.

На уровне правового регулирования целесообразно зафиксировать минимальные стандарты использования искусственного интеллекта в юридической деятельности. Такие стандарты могли бы включать обязанность юриста указывать, что проект документа был подготовлен с применением интеллектуальной системы; обязанность сохранять исходный запрос и полученный ответ для последующей проверки; обязанность не передавать в систему сведения, составляющие тайну, без специального правового основания; обязанность подтверждать каждое значимое утверждение, сформированное алгоритмом, по независимому источнику. Подобные меры не препятствуют цифровизации, но создают режим, при котором технология работает в рамках профессионального контроля. Именно такой режим соответствует юридической природе искусственного интеллекта как вспомогательного инструмента, а не самостоятельного носителя ответственности.

Таким образом, основная проблема применения искусственного интеллекта в юридической деятельности состоит в сохранении баланса между эффективностью и правовой определенностью. С одной стороны, интеллектуальные системы позволяют ускорить аналитическую работу, сократить время на подготовку документов и снизить нагрузку на специалиста. С другой стороны, они увеличивают вероятность скрытой ошибки, технологической зависимости и нарушения режима конфиденциальности. Чем сложнее становятся алгоритмы, тем выше значение надзора со стороны человека, способного критически проверить результат и принять юридически значимое решение.

В этой связи следует исходить из того, что искусственный интеллект не заменяет профессионального субъекта, а только расширяет инструменты его деятельности. В правовом смысле это означает сохранение персональной ответственности специалиста, организационной ответственности работодателя и потенциальной ответственности разработчика за дефекты продукта. Если такой подход будет закреплен в регулировании и внутреннем корпоративном контроле, искусственный интеллект станет фактором повышения качества юридической помощи, а не источником дополнительной неопределенности.

Искусственный интеллект уже вошел в юридическую деятельность как устойчивый инструмент поиска, анализа и подготовки правовой информации, однако его внедрение не должно сопровождаться снижением стандартов законности и профессиональной ответственности. Анализ Указа Президента РФ № 490 [1], Федерального закона № 149-ФЗ [2], Федерального закона № 63-ФЗ [3], Федерального закона № 152-ФЗ [4], Федерального закона от 08.07.2024 № 169-ФЗ [5], а также подзаконных актов о поддержке инфраструктуры искусственного интеллекта [6-9] показывает, что законодатель исходит из модели контролируемого развития технологий, а не из модели полной автономности алгоритма. Такая установка соответствует правовой природе юридической профессии, поскольку в ней личная оценка фактов, проверка источников, сохранение конфиденциальности и принятие окончательного решения не могут быть переданы машине.

Выводы

В перспективе развитие регулирования должно идти в направлении закрепления минимальных стандартов использования интеллектуальных систем в юридической работе. Необходимо определить допустимые виды задач, установить обязанность человеческой проверки результата, сформировать правила хранения логов взаимодействия с системой, обеспечить специальный режим для персональных и конфиденциальных данных и предусмотреть ответственность за необоснованную передачу информации в непроверенный сервис. Кроме того, требуется развитие профессиональных стандартов для адвокатов, корпоративных юристов и сотрудников государственных органов, использующих ИИ в правовой работе.

Таким образом, дальнейшее развитие искусственного интеллекта в юридической деятельности должно строиться не по логике замещения специалиста, а по логике усиления его профессиональных возможностей при сохранении личной ответственности. Именно при таком подходе цифровая трансформация будет согласована с требованиями законности, достоверности и доверия к юридической помощи.

Список литературы

1. Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства Российской Федерации. - 2019. - № 41. - Ст. 5700.
2. Федеральный закон от 27.07.2006 № 149- ФЗ «Об информации, информационных технологиях и о защите информации» // Собрание законодательства Российской Федерации. - 2006. - № 31 (ч. I). - Ст. 3448.
3. Федеральный закон от 06.04.2011 № 63-ФЗ «Об электронной подписи» // Собрание законодательства Российской Федерации. - 2011. - № 15. - Ст. 2036.
4. Федеральный закон от 27.07.2006 № 152- ФЗ «О персональных данных» // Собрание законодательства Российской Федерации. - 2006. - № 31 (ч. I). - Ст. 3451.
5. Федеральный закон от 08.07.2024 № 169- ФЗ «О внесении изменений в Федеральный закон „Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации “» // Собрание законодательства Российской Федерации. - 2024. - № 29. - Ст. 4046.
6. Постановление Правительства Российской Федерации от 27.03.2021 № 456 «Об утверждении Правил предоставления субсидии из федерального бюджета федеральному государственному бюджетному учреждению „Фонд содействия развитию малых форм предприятий в научно-технической сфере“ на грантовую поддержку малых предприятий по разработке, применению и коммерциализации продуктов, сервисов и (или) решений с использованием технологий искусственного интеллекта, разработчиков открытых библиотек в сфере искусственного интеллекта, акселерации проектов с применением искусственного интеллекта» // Собрание законодательства Российской Федерации. - 2021. - № 15. - Ст. 2511.
7. Постановление Правительства Российской Федерации от 21.05.2021 № 767 «Об утверждении Правил предоставления субсидии из федерального бюджета на поддержку некоммерческой организацией Фонд развития Центра разработки и коммерциализации новых технологий пилотных проектов апробации технологий искусственного интеллекта в приоритетных отраслях» // Собрание законодательства Российской Федерации. - 2021. - № 22. - Ст. 3899.
8. Постановление Правительства Российской Федерации от 27.05.2021 № 798 «Об утверждении Правил предоставления грантов в форме субсидий из федерального бюджета организациям на разработку программ бакалавриата и программ магистратуры по профилю „искусственный интеллект“, а также на повышение квалификации педагогических работников образовательных организаций высшего образования в сфере искусственного интеллекта» // Собрание законодательства Российской Федерации. - 2021. - № 23. - Ст. 4073.
9. Постановление Правительства Российской Федерации от 05.07.2021 № 1120 «Об утверждении Правил предоставления субсидии из федерального бюджета на государственную поддержку автономной некоммерческой организации „Аналитический центр при Правительстве Российской Федерации“ в целях поддержки исследовательских центров в сфере искусственного интеллекта, в том числе в области „сильного“ искусственного интеллекта, систем доверенного искусственного интеллекта и этических аспектов применения искусственного интеллекта» // Собрание законодательства Российской Федерации. - 2021. - № 29. - Ст. 5643.
10. Курбатова С. М., Русаков А. Г. Искусственный интеллект как технология повышения эффективности практической юридической деятельности // Аграрное и земельное право. - 2024. - № 3 (231). - С. 56–58.
11. Шеншин В. М., Попков Д. В. Искусственный интеллект в сфере юриспруденции в эпоху цифровизации (окончание) // Аграрное и земельное право. - 2024. - № 6 (234). - С. 40–44. 7
12. Шундиков К. В. Искусственный интеллект в российском правосудии: состояние и перспективы // Образование и право. - 2023. - № 8. - С. 315–321.
13. Бахтеев Д. В., Тарасова Л. В. Применение искусственного интеллекта в деятельности арбитражных судов РФ: перспективные направления и проблемы // Вестник Костромского государственного университета. - 2020. - Т. 26. - № 4. - С. 249–254. - DOI: 10.34216/1998-0817-2020-26-4- 249-254.
14. Соколова А. А. Искусственный интеллект в юриспруденции: риски внедрения // Юридическая техника. - 2019. - № 13. - С. 350–356. - EDN: YZOSDR.

Скачать