Деформация воли в цифровой среде: алгоритмическое манипулирование как порок воли

Введение

Автономия воли остается одной из несущих опор частного права: сделка обязывает постольку, поскольку выражает свободно сформированное намерение лица. Цифровая среда испытывает эту опору на прочность. Платформа, опосредующая сделку, одновременно проектирует обстановку и интерфейс, в которых пользователь принимает решение, и располагает данными о его поведении, достаточными для тонкой настройки воздействия. Возникает не информирование и не открытое убеждение, а скрытое управление выбором, внешне сохраняющее видимость свободного решения.

Зарубежная наука осмысляет это явление не первое десятилетие. Понятие «манипулирование рынком» как эксплуатацию когнитивных ограничений потребителя ввели в конце 1990-х годов, а применительно к опосредованному технологиями рынку его развил Р. Кало, описавший «цифровое рыночное манипулирование» [9]. Философско-правовое определение онлайн-манипулирования как скрытого влияния, подрывающего автономию решения, предложили Д. Сассер, Б. Ресслер и Х. Ниссенбаум [10]. В отечественной цивилистике категории воли, волеизъявления и порока воли были разработаны основательно [4; 5]. Обращается наука и к цифровой среде: исследованы правовые проблемы электронной коммерции и применение законодательства о защите прав потребителей к обороту цифрового контента [7], а также поведенческий контроль платформы над пользователем как черта складывающегося платформенного права [8]. Однако специфический феномен алгоритмического воздействия на волеобразование остается на периферии, а его соотнесение с системой пороков воли по существу не проведено.

Цель статьи — обосновать квалификацию алгоритмического манипулирования как самостоятельного порока воли и определить механизм оспаривания сделки, совершенной под его влиянием. Достижение цели предполагает решение четырех задач: во‑первых, разграничить факторы деформации воли в цифровой среде — архитектуру выбора, когнитивные искажения и алгоритмическое манипулирование; во‑вторых, соотнести манипулирование с обманом и заблуждением и установить пределы статей 178 и 179 ГК РФ; в‑третьих, на сравнительно-правовом материале выявить складывающийся за рубежом подход к манипулятивным практикам; в‑четвертых, предложить механизм квалификации манипулирования de lege lata и решение de lege ferenda.

Методологическую основу исследования составили формально-юридический метод (толкование статей 1, 10, 178 и 179 ГК РФ), сравнительно-правовой метод (право Европейского союза и Соединенных Штатов Америки) и системно-структурный метод, позволивший разграничить три фактора деформации воли и соотнести их с системой пороков воли. Выводы поведенческой экономики привлекаются как вспомогательный материал, описывающий механизм воздействия, но не подменяют его гражданско-правовую квалификацию.

Научная новизна состоит в том, что алгоритмическое манипулирование отграничено от обмана и заблуждения и обосновано как самостоятельный порок воли, поражающий не содержание представления лица о сделке, а свободу волеобразования. На этой основе предложены объективный стандарт противоправности, не требующий доказывания умысла в отношении конкретной сделки, и специальное основание оспаривания с переносом на платформу бремени доказывания добросовестности интерфейса.

1. Три фактора деформации воли в цифровой среде

Деформация воли в цифровой среде складывается из трех различных по природе факторов, которые следует развести, чтобы не смешивать механизм воздействия с инструментом.

Первый фактор — архитектура выбора. Под ней понимается способ организации информационной среды, в которой субъект принимает решение: структура подачи вариантов, их последовательность и контекст предопределяют предсказуемые поведенческие реакции, формально не ограничивая свободу выбора. Понятие восходит к концепции «подталкивания» Р. Талера и К. Санстейна, показавших, что любое представление альтернатив влияет на выбор, а потому нейтрального дизайна не существует [11]. В цифровой среде архитектура выбора материализуется в дизайне интерфейса — расположении кнопок, предзаполненных согласиях, искусственных затруднениях при отказе. Совокупность приемов, использующих дизайн во вред пользователю, получила название темных паттернов (dark patterns).

Второй фактор — когнитивные искажения. Это систематические отклонения в восприятии и оценке информации, обусловленные эвристическими механизмами мышления и приводящие к предсказуемым ошибкам суждения. Эффект якоря, неприятие потерь, склонность к статус‑кво, переоценка дефицита и срочности — устойчивые свойства мышления, описанные поведенческой экономикой. Сами по себе они не порок, а антропологическая данность. Юридически значимыми они становятся, когда другая сторона целенаправленно их эксплуатирует.

Третий фактор качественно отличается от первых двух. Архитектура выбора и когнитивные искажения суть механизмы — соответственно среды и мышления. Алгоритмическое манипулирование есть инструмент: целенаправленное использование алгоритмических систем для воздействия на принятие решения путем персонализированного управления информационным потоком, эксплуатации когнитивных искажений и применения приемов архитектуры выбора, чтобы побудить субъекта к сделке на условиях, отвечающих интересам платформы в ущерб его собственным. Отличие от классического воздействия не количественное, а структурное. Платформа обращается не к усредненному адресату; она наблюдает конкретного пользователя, выявляет его индивидуальные уязвимости и настраивает воздействие под них в реальном времени. Сассер, Ресслер и Ниссенбаум определяют такое воздействие как скрытое влияние, подрывающее способность лица к самостоятельному решению; именно скрытость отличает манипулирование от убеждения, которое апеллирует к разуму открыто [10].

2. Манипулирование и классические пороки воли: пределы статей 178 и 179 ГК РФ

Система пороков воли исходит из того, что воля либо формируется под влиянием искажающего фактора, либо неверно выражается вовне. Сделки с пороком воли оспоримы; основания их оспаривания исторически сложились вокруг типичных ситуаций — заблуждения, обмана, насилия, угрозы, кабальности [1; 3; 6]. В отечественной доктрине воля раскрыта как психический регулятивный процесс, в котором изъявлению предшествуют формирование побуждений, их оценка и принятие решения [4]; порок воли, следовательно, может поражать не только итоговое изъявление, но и любой этап этого процесса. Вопрос в том, охватывает ли этот перечень алгоритмическое манипулирование.

Ближе всего к манипулированию стоит обман (ст. 179 ГК РФ). Обман есть умышленное введение лица в заблуждение относительно обстоятельств сделки, в том числе путем сообщения ложных сведений или умолчания о тех обстоятельствах, о которых сторона должна была сообщить при требуемой добросовестности. Ключевой элемент обмана — недостоверность передаваемой или утаиваемой информации. Манипулирование же способно действовать без единого ложного факта. Платформа может сообщать правду — об остатке товара, о числе просмотров, о времени действия предложения — и тем не менее искажать решение, подбирая момент, форму и адресность подачи под выявленную уязвимость пользователя. Воздействие направлено не на знание лица, а на сам процесс обработки им достоверной информации. Подвести манипулирование под обман в его буквальном понимании поэтому затруднительно.

Заблуждение (ст. 178 ГК РФ) удалено от манипулирования еще дальше. Оно описывает несоответствие сложившегося у лица представления действительности относительно природы сделки, ее предмета или стороны. При манипулировании представление о существе сделки может быть совершенно верным: пользователь точно понимает, что покупает и на каких условиях. Порочен не результат восприятия, а путь, которым лицо приведено к решению, — ускоренный, эмоционально нагруженный, искусственно стесненный. Заблуждение фиксирует ошибку в содержании воли, тогда как манипулирование поражает свободу ее формирования.

Отсюда промежуточный вывод: алгоритмическое манипулирование занимает зазор между обманом и заблуждением. Оно не сводится к недостоверности, как обман, и не сводится к ошибке о существе сделки, как заблуждение, а поражает автономию волеобразования как таковую. Действующие основания оспаривания его недоохватывают, и эта неполнота требует доктринального решения.

3. Квалификация манипулирования как порока воли: de lege lata и de lege ferenda

Сравнительно-правовой опыт показывает движение к самостоятельному запрету манипулятивных практик, не сводимому к запрету обмана. Право Европейского союза квалифицирует агрессивные и вводящие в заблуждение коммерческие практики как недобросовестные (Директива 2005/29/ЕС о недобросовестных коммерческих практиках). Регламент (ЕС) 2022/2065 о цифровых услугах пошел дальше: его статья 25 запрещает поставщикам онлайн-платформ проектировать интерфейсы так, чтобы вводить в заблуждение, манипулировать или иным образом существенно искажать способность пользователей принимать свободные и осознанные решения, а сопроводительный текст прямо относит к запрещенному темные паттерны. Регламент (ЕС) 2024/1689 об искусственном интеллекте запрещает системы, использующие подсознательные, целенаправленно манипулятивные или вводящие в заблуждение приемы либо эксплуатирующие уязвимости лица и способные причинить существенный вред (статья 5). Существенно, что эти запреты не требуют ложности сведений: противоправность связывается с самим фактом искажения свободного решения.

Право Соединенных Штатов движется в том же направлении, оставаясь в рамках модели пресечения недобросовестных практик. Раздел 5 Закона о Федеральной торговой комиссии (15 U.S.C. § 45) запрещает недобросовестные и вводящие в заблуждение действия и практики; опираясь на него, Федеральная торговая комиссия в докладе «Bringing Dark Patterns to Light» (2022) прямо отнесла темные паттерны к пресекаемым практикам. Показательно, что в американской доктрине обсуждается недостаточность этого инструментария там, где воздействие не сводится к обману, — то есть именно в той зоне, которую занимает манипулирование, действующее на достоверной информации. На уровне штатов обозначается и частноправовой по характеру эффект: Калифорнийский закон о правах на неприкосновенность частной жизни (Cal. Civ. Code § 1798.140) определяет темный паттерн как интерфейс, спроектированный или используемый с существенным эффектом подрыва автономии, принятия решения или выбора пользователя, и устанавливает, что согласие, полученное с помощью темных паттернов, согласием не признается. Тем самым и в США намечается сдвиг от проверки правдивости отдельных утверждений к оценке самого воздействия на свободу решения.

Важно, однако, видеть природу этих запретов. Они принадлежат публичному регулированию: их нарушение влечет надзорные и административные последствия, но напрямую не делает совершенную под влиянием манипулирования сделку оспоримой. Частноправовое последствие в виде недействительности сделки остается вопросом национального договорного права. Это лишь усиливает аргумент: признание манипулирования противоправным на уровне регулирования само по себе не дает потерпевшему частноправового средства защиты, и российскому праву такое средство предстоит выработать самостоятельно.

Российское право специальной нормы о манипулировании при заключении сделок не содержит; сам термин «манипулирование» используется узко, применительно к рынку ценных бумаг (Федеральный закон от 27 июля 2010 г. № 224-ФЗ). Это не означает, что оборот беззащитен. De lege lata алгоритмическое манипулирование может быть квалифицировано через расширительное толкование обмана (ст. 179 ГК РФ) в связке с принципом добросовестности (ст. 1, 10 ГК РФ). Опорой служит уже заложенная в статье 179 конструкция обмана через умолчание: сторона отвечает за несообщение сведений, о которых должна была сообщить при требуемой добросовестности. Если развить эту логику, недобросовестным следует признать и активное создание манипулятивной среды — целенаправленную эксплуатацию уязвимостей пользователя, даже когда сообщаемые сведения достоверны. Принцип добросовестности (п. 3 ст. 1, ст. 10 ГК РФ) дает для такого толкования нормативное основание, позволяя оценивать поведение сильной стороны не по формальной правдивости отдельных утверждений, а по совокупному эффекту на свободу решения контрагента.

Отечественная практика и законодательство уже содержат фрагменты искомого решения. Пленум Верховного Суда РФ допускает признание сделки недействительной по совокупности статей 10 и 168 ГК РФ, когда ее совершение сопряжено со злоупотреблением правом (пункты 7 и 8 постановления от 23 июня 2015 г. № 25); практика применения статей 178 и 179 ГК РФ систематизирована Президиумом ВАС РФ (информационное письмо от 10 декабря 2013 г. № 162). Дальше всего продвинулось потребительское законодательство: статья 16 Закона РФ «О защите прав потребителей» после реформы 2022 года (Федеральный закон от 1 мая 2022 г. № 135-ФЗ) объявляет недопустимые условия, ущемляющие права потребителя, ничтожными, возлагает на продавца бремя доказывания согласия потребителя на дополнительные платные товары и услуги и прямо запрещает проставление за потребителя автоматических отметок о согласии, как и формирование условий, предполагающих такое согласие изначально. По существу законодатель уже запретил конкретный манипулятивный прием интерфейса и использовал оба элемента отстаиваемой здесь конструкции — объективную оценку дизайна и перенос бремени доказывания на сильную сторону, — но сделал это точечно, на уровне отдельного приема, не создав общего основания оспаривания сделки, совершенной под влиянием манипулирования.

У этой аналогии есть, однако, предел. Обман требует умысла — на необходимости его установления настаивает и практика (пункт 99 постановления Пленума Верховного Суда РФ от 23 июня 2015 г. № 25), — тогда как манипулятивный эффект достигается работой автоматизированной системы, и доказать направленный умысел в отношении конкретной сделки крайне трудно. Поэтому опорой должна служить не субъективная категория умысла, а объективная недобросовестность — целенаправленность самого дизайна, оцениваемая по его устройству и эффекту, а не по доказанному намерению в отношении отдельного пользователя. Расширительное толкование обмана этот сдвиг от умысла к объективному стандарту провести в полной мере не позволяет, оставаясь паллиативом.

Поэтому de lege ferenda предлагается закрепить алгоритмическое манипулирование самостоятельным основанием оспаривания. Сделка, совершенная под влиянием алгоритмического манипулирования, то есть целенаправленного использования автоматизированных систем для существенного искажения свободного волеобразования потребителя (а равно иной слабой стороны) путем эксплуатации его уязвимостей и приемов организации интерфейса, должна признаваться оспоримой по иску потерпевшего. Ограничение основания слабой стороной оправдано структурной асимметрией отношений: манипулятивный эффект достижим там, где одна сторона проектирует информационную среду и располагает данными о другой; вне такой асимметрии обычные приемы убеждения порока воли не образуют. Признак существенности отсекает обычные, неизбежные эффекты дизайна от противоправного воздействия. Ценность специального основания в двух чертах, которых расширительное толкование обмана не дает: объективном стандарте противоправности, не привязанном к доказыванию умысла, и переносе бремени доказывания добросовестности дизайна на платформу как на сторону, контролирующую среду и располагающую данными о пользователе. Так порок воли в цифровой среде получает механизм защиты, отвечающий его природе, и не растворяется ни в обмане, ни в заблуждении.

По своей природе это специальное основание недействительности, примыкающее к системе пороков воли, но адресованное слабой стороне: оно не претендует на всеобщее применение к отношениям равных субъектов, а защищает того, кто вынужденно действует в спроектированной контрагентом среде. Защита слабой стороны признана в доктрине самостоятельным политико-правовым основанием ограничения договорной свободы [2], и предлагаемая конструкция остается в этих рамках. Место такого основания — специальная норма в общих положениях о недействительности сделок с адресацией слабой стороне, что охватывает и непотребительские случаи структурной зависимости (например, слабую сторону договора присоединения по статье 428 ГК РФ), а не только законодательство о защите прав потребителей. Последствия недействительности определяются по общим правилам: исполненное по сделке подлежит возврату (статья 167 ГК РФ), а причиненные потерпевшему убытки возмещаются платформой по модели пункта 4 статьи 179 и статьи 15 ГК РФ.

Заключение

Деформация воли в цифровой среде складывается из трех разнородных факторов: архитектуры выбора как механизма организации среды, когнитивных искажений как механизма мышления и алгоритмического манипулирования как инструмента, целенаправленно соединяющего первые два для побуждения к сделке в интересах платформы.

Алгоритмическое манипулирование не охватывается действующими основаниями оспаривания. Обман (ст. 179 ГК РФ) предполагает недостоверность сведений, тогда как манипулирование действует и на достоверной информации; заблуждение (ст. 178 ГК РФ) фиксирует ошибку о существе сделки, тогда как манипулирование поражает свободу волеобразования при верном представлении лица о сделке.

Сравнительно-правовой опыт (Директива 2005/29/ЕС, ст. 25 Регламента о цифровых услугах, ст. 5 Регламента об искусственном интеллекте; в праве США — раздел 5 Закона о Федеральной торговой комиссии и запрет темных паттернов в законодательстве штатов) подтверждает становление самостоятельного запрета манипулятивных практик, противоправность которых не зависит от ложности сведений; эти запреты, однако, носят публично-регуляторный характер и сами по себе не делают сделку оспоримой.

De lege lata алгоритмическое манипулирование может квалифицироваться через расширительное толкование обмана (ст. 179 ГК РФ) в связке с принципом добросовестности (ст. 1, 10 ГК РФ); такое толкование, опираясь на умысел, остается паллиативом.

De lege ferenda обоснованно закрепление алгоритмического манипулирования самостоятельным основанием оспаривания сделки на основе объективного стандарта недобросовестности дизайна, с признаком существенности искажения и переносом на платформу бремени доказывания добросовестности.

Теоретическое значение полученных результатов состоит в достраивании системы пороков воли применительно к цифровой среде: наряду с истинностью представления лица о сделке самостоятельную защиту получает свобода волеобразования. Практическое значение — в конструкции оспаривания, которая переносит бремя доказывания добросовестности дизайна на платформу и делает защиту потерпевшего осуществимой в условиях доказательственной асимметрии. Открытым остается операциональный критерий существенности искажения — порог, отделяющий противоправное воздействие от обычных эффектов дизайна, от которого зависят границы применения предложенного основания.