Искусственный интеллект и врачебная тайна: как в интернете нарушается конфиденциальность пациентов

Искусственный интеллект (далее ИИ) по праву можно признать самой выдающейся инновацией первых двух десятилетий 21 века. Современные нейронные сети, не являясь искусственным сознанием в истинном смысле данного слова, представляют собой язы- ковые модели, обученные понимать и распознавать смыслы слов, а также генерировать текст самостоятельно, основываясь на изученных материалах. На сегодняшний день ИИ активно применяется во всех возможных отраслях жизни и прогрессирует с огромной скоростью, формируя все более логичные и сложные по своей структуре рассуждения.

Тем не менее, у ИИ, как относительно новой разработки, существует множество уязвимостей. Его внедрение создает риски утечек информации и неправомерного использования деятельности нейросети, а также неспособность государства призвать к ответственности людей, создающих контент, противоречащий Конституции УК РФ. Являясь полезным инструментом для медработников, ИИ способен создать угрозу раскрытия сведений, составляющих врачебную тайну отдельных пациентов, что весьма опасно для социума в связи с нарушением врачебной этики, без которой медицинская практика невозможна на законодательном уровне. [1] Целью данной статьи явилось изучение правовых нюансов взаимодействия с нейронными сетями в данный момент, в рамках действующего на территории Москвы123-ФЗ, и теоретизирование о будущем искусственного интеллекта в России после вступления в силу законопроекта «Об основах государственного регулирования применения технологий искусственного интеллекта» в 2027 году и предложение возможных решений для создания безопасной информационной среды для врачей и пациентов. [2] Наиболее важным аспектом данного вопроса является защита данных, недопущение их распространения вне медицинских систем и надежная охрана информационных здравоохранительных структур.

Для формулирования идей по правовому регулированию искусственного интеллекта в медицинской сфере следует ознакомиться с опытом других государств и обратить внимание на принятые там меры и законы.

В данный момент конституции многих стран мира претерпевают значительные изменения в связи с возникновением ИИ. Всемирная организация здравоохранения в 2021 году выпустила «Руководство по этике и управлению ИИ в здравоохранении», согласно которому законы о применении нейросетей обязаны придерживаться принципов защита автономии человека, обеспечения благополучия и безопасности, прозрачности, ответственности и социального равенства. [3] В США была разработана концепция «программного обеспечения в роли медицинского устройства» (SaMD). Суть этой концепции состоит в необходимости сертифицировать агентов искусственного интеллекта аналогичным сертификации медицинского оборудования и услуг образом. [4] В Европейском Союзе был представлен законопроект «Регламент об ИИ» (AI Act), ранжирующий системы нейронных сетей по уровню опасности: чем он выше, тем строже должен вестись мониторинг действий искусственного интеллекта, тем прозрачнее должно быть его устройство. [5] В России правовое регулирование ИИ в медицине только начинает развиваться. 18 марта 2026 года впервые был опубликован проект ФЗ «Об основах государственного регулирования применения технологий искусственного интеллекта». В нем устанавливаются следующие требования к разработке и машинному обучению:

уОбязательная маркировка ИИ-контента (фотографий, текста, видео) при публикации в интернете; уКаждый участник взаимоотношения с искусственным интеллектом в случае генерации нарушающих закон материалов понесет наказание соразмерное своей вине в создании контента; уРазработчикам дозволено использовать защищенные авторским правом объекты без разрешения от непосредственного правообладателя в случае, если разработчик обладает законным доступом к объекту. [6] Безусловно, законопроект еще будет доработан и откорректирован, поскольку в текущей версии не учитываются многие детали. К примеру, защита прав пациентов, ставшая причиной написания данной статьи, совершенно не освещена, несмотря на масштабные инциденты кражи приватной жизненно-важной информации: киберпреступникам, получившим доступ к исходному коду нейросети, открываются огромные базы данных, собранных со всей мировой сети и включающих в себя секретную документацию вместе с персональной информацией госпиталей, поликлиник и прочих медицинских учреждений. [7] Данные собираются даже из трекеров самочувствия, приложений для диабетиков и перехватываются с серверов радио- и видеонянь. ИИ облегчает планирование фишинг-схем, подбор паролей и поиск «уязвимостей нулевого дня» (т.е. ненадежные фрагменты программы, обнаруженные злоумышленниками сразу после релиза приложения; более того, ограничения и правила нейросетей можно обходить с помощью специальных «промптов» (указаний), в которые хакер может вложить инструкции правонарушения или добиться изъятия необходимой ему информации. [8] Всем этим атакам в первую очередь подвергается Интернет медицинских вещей. Самые часто атакуемые:

устройства – это инфузионные насосы, аппараты КТ и МРТ, устройства для мониторинга состояния пациента и медицинские рабочие станции.

Среди последствий кибератак – задержки в проведении анализов и процедур, о чем сообщили 56% организаций, увеличение числа осложнений после процедур (53%), продолжительности пребывания пациентов (52%), числа переводов пациентов (44%) и даже более высокие показатели смертности (28%). [9] Каким же образом можно обезопасить сферу здравоохранения и нивелировать негативные последствия использования ИИ?

В ходе изучения норм нейросетевого права разных стран, обзоров расследований кибер-инцидентов и нынешних стратегий цифрового развития РФ нами были выдвинуты следующие предложения:

уСоздание отечественных агентов искусственного интеллекта специально для медицинских организаций, надежно защищенные и существующие в замкнутой интернет-сети здания соответствущих организаций; уРазработка доктрины «Разделенная солидарная ответственность», предлагающая разделение субъектов медицинской помощи на медицинского оператора (клинику) и инфраструктурно-алгоритмического оператора» (разработчика ИИ и провайдера телемедицины), закрепив их солидарную ответственность за раскрытие врачебной тайны вследствие утечки данных; уОтслеживание согласия, т.е. замена статичного бумажного ИДС на цифровую контрактную форму, заполняемую в приложении Госуслуги и позволяющую пациенту отслеживать, какая именно нейросеть в данный момент обучается на его снимках или данных, и отзывать это согласие в один клик; y Поправки к статье 13 ФЗ-323 «Врачебная тайна». Необходимо дополнить часть 3 указанной статьи положением, согласно которому «передача сведений, составляющих врачебную тайну, провайдерам информационно-телекоммуникационных платформ и системам искусственного интеллекта для их обучения, допускается исключительно в изолированных сетях без права выгрузки данных во внешнюю интернет-среду»; y Изменения в ФЗ-152 «О персональных данных». Ввести запрет на использование телемедицинских данных, полученных с использованием средств ИИ, в рекламных и страховых целях без создания отдельного, специального цифрового согласия через Госуслуги; уВведение института сертификации ИИ (наподобие SaMD в США). Обязать разра� - ботчиков медицинского ИИ проходить сертификацию ФСТЭК России не только на предмет защиты каналов связи, но и на устойчивость ИИ к вышеупомянутым методам обхода ограничений.

Правовое регулирование ИИ в медицине находится в стадии становления, что требует гибкого, но надежного механизма защиты прав участников процесса. Сложная природа технологий диктует необходимость комплексного подхода: жесткие требования к безопасности должны гармонично дополняться нормами биоэтики — этическими кодексами и профессиональными стандартами врачей. Оптимальная модель регулирования призвана стимулировать технологический рост и доступность здравоохранения, одновременно минимизируя потенциальные риски. Формирование такой среды возможно лишь в рамках междисциплинарного диалога между юристами, медиками, разработчиками нейросетей и общественностью, что обеспечит ответственное внедрение инноваций для повышения качества жизни граждан [10].