Конституционный принцип равенства и запрет алгоритмической дискриминации при реализации цифровых прав граждан

Введение

На современном этапе цифровизация интегрируется во все сферы общественных отношений. Не являются исключением и правоотношения, возникающие в административной, гражданской, уголовно-правовой и конституционно-правовой сферах. С учетом предмета настоящего исследования особое внимание следует уделить реализации конституционных прав граждан в условиях цифровизации.

Одним из основных драйверов цифровизации общества является использование информации как в форме текста, так и в форме бинарного кода. Последний зачастую реализуется в программных решениях, которые также именуются алгоритмами.

Применение алгоритмов позволяет быстрее обрабатывать большие объемы данных, снижать расходы и ограничивать влияние личных предпочтений работника или должностного лица, поэтому автоматизированные системы используются при кредитном скоринге, подборе персонала, установлении цен, ранжировании пользователей и предоставлении государственных услуг.

Например, по результатам эмпирического исследования ИСИЭЗ НИУ ВШЭ, охватившего более 2,3 тысяч организаций, почти четверть пользователей технологий искусственного интеллекта планировала внедрить системы интеллектуальной поддержки принятия решений. Одновременно 36,4% опрошенных организаций указали на пропуски, неструктурированность и другие недостатки используемых данных [1, с. 8, 26-27, 36]. Следовательно, алгоритмы все активнее влияют на решения, затрагивающие граждан, тогда как недостатки исходных данных повышают вероятность получения ошибочных или необоснованных результатов.

Необоснованное неравенство в цифровой среде может возникать вследствие неполноты исходных данных, недостаточной представленности отдельных социальных групп, воспроизведения ранее сложившейся практики и использования косвенных показателей. В результате автоматизированная система способна формировать различные решения в отношении лиц, находящихся в сопоставимом положении. Такое воздействие выражается в отказе в трудоустройстве или предоставлении услуги, снижении рейтинга, установлении менее выгодных условий либо ограничении доступа к цифровому сервису.

Правовая квалификация подобных случаев затруднена скрытостью алгоритма и отсутствием у гражданина сведений о критериях, повлиявших на результат. Российское законодательство не закрепляет понятие алгоритмической дискриминации и порядок ее выявления, вследствие чего единый механизм защиты от необоснованного неравенства в цифровой среде не сформирован. Разрешение данной проблемы осложняется также недостаточной разработанностью ее теоретико-правовых основ.

Рассматриваемая проблема имеет конституционно-правовое значение, поскольку автоматизированные решения могут влиять на реализацию прав граждан. В соответствии со ст. 18 Конституции РФ права и свободы определяют содержание и применение законов, деятельность органов публичной власти и обеспечиваются правосудием. Поэтому использование алгоритма не исключает конституционно-правовой оценки принятого решения. Если автоматизированная система без объективных оснований формирует различные результаты для лиц, находящихся в сопоставимом положении, возникает вопрос о соблюдении принципа равенства, закрепленного ст. 19 Конституции РФ.

Проблема предвзятости алгоритмизированных систем уже была предметом исследований в российской науке, однако внимание ученых сосредоточено преимущественно на отдельных причинах и сферах ее проявления. Так, Э.В. Талапина исследовала влияние профилирования, качества обучающих данных и ранее принятых человеком решений на формирование дискриминационного результата [2, с. 14-19]. П.П. Кабытов и Н.А. Назаров рассмотрели автоматизированное принятие решений в государственном управлении, связав его прозрачность с правом гражданина получать объяснение, потребовать участия человека и обжаловать результат [3, с. 49-53]. С.В. Володенков и С.Н. Федорченко раскрыли социально-политические риски алгоритмизации, включая непрозрачность цифровых систем, манипуляторное воздействие и воспроизводство существующего неравенства [4, с. 37-40]. Однако указанные исследования не формируют единого подхода, связывающего защиту конституционных прав и достоинства личности в цифровой среде с установлением правовых требований к применению алгоритмических систем.

Цель исследования состоит в разработке теоретико-правового правовой природы алгоритмической дискриминации, определении ее признаков и обосновании необходимости законодательного закрепления данного понятия и введения предварительного тестирования алгоритмических систем, способных повлиять на реализацию прав граждан в цифровой среде.

Методологическую основу работы составили формально-юридический, системный, статистический, сравнительно-правовой и функциональный методы. Изучены российские научные публикации, практика и материалы официальных исследований.

Основная часть

До широкого распространения цифровых технологий дискриминационное нарушение прав, как правило, связывалось с действием или решением конкретного лица, например с отказом соискателю в трудоустройстве либо ограничением доступа гражданина к услуге по обстоятельствам, которые не должны были влиять на его правовое положение.

Такое понимание дискриминации получило нормативное выражение в ст. 5.62 Кодекса Российской Федерации об административных правонарушениях (КоАП РФ), согласно которой дискриминацией признается «нарушение прав, свобод и законных интересов человека и гражданина в зависимости от его пола, расы, цвета кожи, национальности, языка, происхождения, имущественного, семейного, социального и должностного положения, возраста, места жительства, отношения к религии, убеждений, принадлежности или непринадлежности к общественным объединениям или каким-либо социальным группам». Конституционную основу запрета дискриминации составляет ст. 19 Конституции РФ, закрепляющая равенство всех перед законом и судом, а также равенство прав и свобод человека и гражданина.

Приведенное определение раскрывает последствия дискриминации и признаки, обусловливающие необоснованные различия в правовом положении граждан, но не учитывает способ принятия решения. Если решение принимается непосредственно человеком, как правило, возможно установить лицо, допустившее нарушение, и обстоятельства, положенные в основу такого решения. Цифровизация изменила условия реализации прав граждан: подача документов, получение государственных и иных услуг, а также принятие юридически значимых решений все чаще осуществляются с применением информационных систем. При этом правовая природа соответствующих прав сохраняется, но изменяются способы их осуществления и защиты. Для характеристики прав, реализуемых в цифровой среде, в юридической науке используется понятие цифровых прав.

В российском законодательстве понятие цифровых прав закреплено в ст. 141.1 Гражданского кодекса РФ (далее - ГК РФ), относящей к таковым названные законом обязательственные и иные права, содержание и условия осуществления которых определяются правилами информационной системы. С учетом ст. 128 ГК РФ цифровые права входят в состав имущественных прав и рассматриваются как объекты гражданского оборота. Следовательно, законодатель использует данное понятие в узком гражданско-правовом значении. Широкое понимание цифровых прав, охватывающее положение человека в цифровой среде, нормативного закрепления не получило. А.И. Овчинников, Н.В. Кроткова и В.И. Фатхи относят к цифровым правам права и свободы человека, реализуемые в цифровом пространстве, и подчеркивают необходимость их защиты при использовании цифровых технологий [5, с. 44-45]. В настоящем исследовании термин «цифровые права» охватывает конституционные права граждан, осуществляемые в цифровой среде либо зависящие от решений алгоритмических систем.

Отсутствие единого законодательного определения этой категории не исключает действия гарантий, закрепленных Конституцией РФ. Согласно ч. 3 ст. 55 Конституции РФ права и свободы человека и гражданина могут быть ограничены федеральным законом только в той мере, в какой это необходимо в целях защиты основ конституционного строя, нравственности, здоровья, прав и законных интересов других лиц, обеспечения обороны страны и безопасности государства. Использование алгоритма само по себе не может служить основанием для ограничения прав или нарушения принципа равенства. Ограничение следует считать необоснованным, если применяемые системой критерии не связаны с целью принимаемого решения либо без объективной необходимости ставят отдельных граждан или группы лиц в менее выгодное положение.

Одной из новых форм такого ограничения является алгоритмическая дискриминация. Под алгоритмической дискриминацией следует понимать необоснованное ухудшение положения человека, вызванное применением автоматизированной системы и связанное с учетом признака, не имеющего объективной связи с целью принимаемого решения. Ее возникновение обусловлено использованием государственными органами и частными организациями программных решений, основанных на алгоритмах. Алгоритм задает последовательность обработки представленных в машиночитаемой форме данных и позволяет системе оценивать риски, ранжировать заявления и формировать итоговый результат или рекомендацию. Тем самым в этих условиях причина неравного обращения не всегда связана с прямым решением одного лица, она может быть заложена в исходных данных, выбранных разработчиком показателях, настройках модели или порядке ее применения. Работник при этом нередко лишь формально подтверждает рассчитанный системой результат, полагаясь на правильность произведенной системой оценки. Вследствие этого установление причины дискриминационного воздействия и определение роли каждого участника существенно затрудняются.

В своей работе Е.Н. Новикова приводит пример применения алгоритмической системы при подборе персонала российскими компаниями. Используемый для первоначальной оценки соискателей робот-рекрутер «Вера» исключал из дальнейшего отбора лиц старше 45 лет, поскольку в параметры его работы был включен критерий «оптимального возраста» кандидата от 25 до 35 лет [6, с. 10]. В данном случае возраст выступал самостоятельным основанием для отклонения кандидатуры, хотя непосредственно не характеризовал образование, опыт и профессиональные качества соискателя. Субъективное предпочтение работодателя было перенесено в настройки алгоритма и вследствие автоматизированного применения приобрело систематический характер. Приведенный пример позволяет выделить основные признаки алгоритмической дискриминации и отграничить ее от обычной ошибки автоматизированной системы, поскольку неблагоприятный результат был обусловлен не случайным техническим сбоем, а последовательным применением заранее установленного возрастного критерия.

На основании изучения научной литературы, нормативных правовых актов и практики целесообразно выделить следующие признаки алгоритмической дискриминации:

Использование признака, не имеющего объективной связи с целью принимаемого решения, непосредственно либо посредством связанных с ним данных.

Неодинаковое воздействие алгоритма на лиц, находящихся в сопоставимом положении.

Непрозрачность механизма принятия решения, не позволяющая установить, какие данные и параметры оказали существенное влияние на его содержание.

Недостаточная представленность отдельных групп граждан в массиве данных, использованном для обучения алгоритма, повышающая вероятность ошибочных или неблагоприятных решений в отношении таких лиц.

Использование для обучения системы исторических данных, отражающих ранее сложившуюся практику неравного обращения и приводящих к ее воспроизведению алгоритмом.

Перечисленные признаки свидетельствуют об опасности алгоритмической дискриминации, обусловленной прежде всего ее скрытым характером. Автоматизированные решения могут восприниматься как независимые от субъективной оценки человека и потому объективные, однако это не гарантирует их правомерности. Для гражданина такой результат способен повлечь ограничение доступа к социальным и экономическим благам, а отсутствие сведений о причинах решения затрудняет его обжалование. Такие тенденции могут приводить к социальному неравенству и снижению доверия к цифровым технологиям и использующим их организациям. На государственном уровне распространение подобной практики может препятствовать надлежащей реализации гарантий равенства и охраны достоинства личности, закрепленных ст. 19 и 21 Конституции РФ.

Действующее законодательство не определяет содержания понятия «алгоритмическая дискриминация», что затрудняет установление единых критериев, позволяющих разграничить необоснованное неравное воздействие алгоритма, допустимое ограничение прав и техническую ошибку. В этой связи представляется целесообразным в ст. 2 Федерального закона «Об информации, информационных технологиях и о защите информации» нормативно закрепить определение алгоритмической дискриминации, под которой следует понимать необоснованное ухудшение положения человека или группы лиц, вызванное применением информационной системы и связанное с использованием признака, не имеющего объективной связи с целью принимаемого решения, либо его косвенного цифрового выражения.

Введение понятия не устранит проблему само по себе, но создаст правовую основу для дальнейшего регулирования, например, для определения критериев алгоритмической дискриминации, требований к проверке информационных систем. Так, для алгоритмических систем, затрагивающих права граждан и способных существенно повлиять на их реализацию, представляется необходимым нормативно закрепить обязательный этап предварительного тестирования. Такое тестирование предлагается проводить оператором до ввода системы в эксплуатацию, причем сформированные в его ходе решения не должны влечь правовых последствий для граждан.

В соответствии с предлагаемым порядком в ходе тестирования система будет обрабатывать специально отобранные данные, а по каждому полученному результату будет подготавливаться отчет с указанием использованных сведений, критериев их оценки и оснований принятого решения. Назначенный оператором ответственный работник будет проверять обоснованность применяемых критериев и сопоставлять результаты по различным группам граждан для выявления возможных необоснованных различий. При отсутствии нарушений он подготовит заключение о возможности ввода системы в эксплуатацию. При выявлении ошибок или необоснованных различий алгоритм будет направлен на доработку и последующее повторное тестирование. Сохранение результатов тестирования позволит использовать их при рассмотрении жалоб и установлении причин неблагоприятного решения, что обеспечит переход от устранения уже возникших последствий к предупреждению нарушений и создаст дополнительные гарантии реализации принципов равенства и достоинства личности в цифровой среде.

Заключение

Проведенное исследование показало, что алгоритмическая дискриминация представляет собой новую форму необоснованного неравенства, возникающую при обработке данных автоматизированными системами. Ее выявление требует оценки не только итогового решения, но и использованных при анализе критериев, исходных данных и характера их влияния на отдельные группы граждан. Отсутствие законодательного закрепления признаков алгоритмической дискриминации затрудняет ее отграничение от допустимой дифференциации и технической ошибки, в связи с чем теоретико-правовое обоснование содержания данного понятия является первоначальным условием развития соответствующего правового регулирования. Научная новизна исследования состоит в предложении мер, объединяющих законодательное закрепление понятия алгоритмической дискриминации и требования к предварительному тестированию подобных систем. Их реализация позволит предупреждать необоснованное неравенство заблаговременно и обеспечит соблюдение конституционных принципов равенства и достоинства личности в цифровой среде.