Правовое регулирование искусственного интеллекта и робототехники в здравоохранении
Статья раскрывает особенности применения искусственного интеллекта в здравоохранении. Автор поднимает актуальные вопросы распределения ответственности за вред, причиненный роботом, в том числе анализирует правовую базу регулирования роботизации в России, обращает внимание на необходимость создания не только единого федерального закона, но и внесения изменений в действующее законодательство об ответственности за ущерб и вред, причиненные новыми технологиями. В статье анализируются вопросы конфиденциальности и этики в сфере применения технологий искусственного интеллекта в здравоохранении.
Ключевые слова: правовое регулирование здравоохранения, медицинские роботы, право, робототехника, искусственный интеллект, медицина.
This article explores the specifics of using artificial intelligence in healthcare. The author addresses current issues of attributing liability for harm caused by robots, including an analysis of the legal framework governing robotics in Russia. She emphasizes the need not only for a unified federal law but also for amendments to existing legislation on liability for damage and harm caused by new technologies. The article also examines privacy and ethical issues in the application of artificial intelligence technologies in healthcare.
Key words: legal regulation of healthcare, medical robots, law, robotics, artificial intelligence, medicine.
XXI в. характеризуется как век информационных технологий, науки и прогресса во всех сферах жизни общества. Одним из таких векторов развития является искусственный интеллект (далее - ИИ) и робототехника. Исследования по данным направлениям осуществляются во всем мире и во всех областях человеческой жизни: в образовании (робот ЮРА от компании "Промобот" - принимает экзамены у студентов); промышленности (коботы Hanwha для обслуживания станков ЧПУ), сельском хозяйстве ("агроМоб" - робот способен осуществлять сельскохозяйственные работы, идентифицировать вредителей и подпитывать растения), здравоохранении.
Медицинская робототехника переживает скачок роста. Роботы уже проходят испытания в процедурах биопсии, а над созданием роботизированных систем для брахитерапии работают как минимум три команды. В то же время набирает обороты формирование роботов-ассистентов и реабилитационных экзоскелетов. Область медицинских исследований также динамично осваивается роботами: множество стартапов создают роботов-узистов, автоматизированные системы для взятия проб и крови из вены, а также конструкции, облегчающие проведение КТ и МРТ.
Несомненно, медицина - одно из важнейших направлений, так как жизнь человека и его здоровье являются высшим благом и охраняются на законодательном уровне. Хотя роботы и ИИ не являются одним и тем же в медицине, но эти технологии используются в разных областях здравоохранения.
Современное правовое поле в области медицинской робототехники направлено на достижение баланса между различными интересами и целями, в том числе:
- поддержку инноваций и технического прогресса;
- формирование правовой основы, которая, с одной стороны, предоставляет участникам рынка (разработчикам, производителям, пользователям и другим) необходимую свободу, а с другой - предотвращает произвольные действия;
- обеспечение наилучших возможных результатов для здоровья пациентов и их первостепенных интересов при применении робототехники в медицине;
- защиту пациентов и всего общества от рисков и угроз, присущих использованию медицинских роботизированных систем;
- гарантирование безопасности, включая защиту от киберугроз;
- соблюдение конфиденциальности данных пациентов и другие нормы <1>.
--------------------------------
<1> Цомартова Ф.В. Роботизация в здравоохранении: правовая перспектива // Здравоохранение Российской Федерации. 2020. Т. 64. N 2. С. 88 - 96.
Роботы - это механизмы и устройства, которые совершают конкретные задачи в здравоохранении. К примеру, роботы-хирурги (система да Винчи и Хоспи); робот-манипулятор "Орбита"; роботы-тренажеры от компании "Эйдос"; HOSPI - роботизированная "аптечка".
ИИ - это алгоритмы машинного обучения, которые исследуют сведения и помогают в диагностике, лечении и оптимизации работы врачей и медицинских учреждений. К примеру, платформа Medsenger.AI - дает возможность врачу виртуально прослеживать общее состояние пациента; мобильное приложение AI Skin.
С учетом этого роботы и ИИ осуществляют разный круг задач, но их совместное применение дает возможность существенно повысить качество медицинского обслуживания.
Как и прежде, в законодательстве отсутствует интерпретация "робот в медицине", "робот-фармацевт", "робот-хирург" или "роботизированная система в здравоохранении". Однако большинство исследователей относят робота к понятию "медицинские изделия", под которыми понимаются любые изделия (инструменты, аппараты, материалы и т.д.), применяемые в медицинских целях (профилактика, диагностика, лечение, реабилитация, мониторинг, исследования, изменение функций организма, прерывание беременности), не оказывающие фармакологического, иммунологического, генетического или метаболического воздействия.
Робот зачастую становится вспомогательным средством при проведении операции. Например, в июне 2025 г. "робот-хирург" впервые в мировой практике в Иркутске провел пятилетнему ребенку уникальную операцию по удалению кисты подвздошной кишки. До этого такие технологии были только в Москве. Становится очевидно, что значительный уровень прогресса таких систем потребует и законодательной регламентации. В России требуется принять законопроект, как это уже действует в Южной Корее, где введен в действие Закон "О развитии и распространении умных роботов". Он служит своего рода не только государственной программой развития робототехники, но и вместе с тем полноценным документом непосредственного действия <2>.
--------------------------------
<2> Бояринова А.О., Карев Д.А. Проблемы правового регулирования робототехники и искусственного интеллекта // Синергия наук. 2019. N 33. С. 791 - 796.
В настоящий момент нормы, регулирующие применение ИИ в здравоохранении, не адаптированы к специфике роботизированных систем. Так, Федеральный закон от 21 ноября 2011 г. N 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации" <3> прямо определил содержание понятия высокотехнологичной медицинской помощи, которое включает применение роботизированной техники.
--------------------------------
<3> Федеральный закон от 21 ноября 2011 г. N 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации" (послед. редакция).
Согласно Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы ИИ определяется как одно из основных направлений развития отечественных информационных и коммуникационных технологий. Это направление ставится в один ряд с такими значимыми областями, как конвергенция сетей связи, биотехнологии и облачные вычисления.
До 2035 г. будет реализована Национальная технологическая инициатива (НТИ), утвержденная Правительством РФ. Проект служит планом действий по интеграции прорывных технологий, таких как 3D-печать органов, развитие биофабрик и создание нанороботов для медицины, а также по увеличению числа роботизированных операций.
В 2016 г. в России была выдвинута Д.С. Гришиным и В.Б. Наумовым концепция первого в России законопроекта о робототехнике. Авторы выдвигали тезис о том, что законы робототехники Айзека Азимова могут иметь практическое применение в юриспруденции. В дальнейшем проблема регулирования робототехники освещалась в сфере медиа и в выступлениях представителей государственных инстанций. Но данный документ так и не был внесен в Государственную Думу РФ и тем самым не был принят.
В ближайшем будущем ожидается разработка концепции нового законопроекта "О роботах и робототехнике", в котором должны быть урегулированы вопросы распределения ответственности при использовании роботизированных систем, точное понятие робота и его классификация, этические вопросы применения роботизации в обществе.
Развитие робототехники происходит в условиях, когда законодательство еще не сформировалось полностью, что можно охарактеризовать как "серую зону". Важным событием стало принятие в феврале 2025 г. кодекса этики, который заложил основу для регулирования использования ИИ в сфере охраны здоровья.
Прежде чем законодательно урегулировать робототехнику, необходимо прийти к единому понимаю правового статуса робота; ответственности; вопроса конфиденциальности и этики в сфере роботизации вообще, не только касательно медицины <4>. Рассмотрим более подробно вопрос ответственности и защиты информации при работе с роботизированными системами.
--------------------------------
<4> Богомолов А.И., Невежин В.П., Жданов Г.А. Искусственный интеллект в экспертные системы в мобильной медицине // Хроноэкономика. 2018. N 3 (11). С. 17 - 28.
М.В. Бычкова считает, что робота можно освободить от ответственности и провозгласить его обстоятельством непреодолимой силы. Она также делает акцент на том, что ответственность за дефекты несет производитель, за компьютерный сбой - разработчик. В случае если робот самообучаемый, то ответственность несет лицо, вложившее наибольший вклад в обучение. Если же робот действовал по командам, ответственность возлагается на оператора устройства.
Вероятно, если операцию с помощью робототехники делал хирург и он своими действиями неправильно им управлял, то ответственность возлагается на врача. Если же сбой произошел по вине самой машины, без вмешательства медицинского персонала, то ответственность в силу объективной природы робота будет нести его разработчик.
В России, как было упомянуто выше, робот относится к медицинскому изделию, т.е. до введения его в эксплуатацию он должен пройти проверку на эффективность и безопасность. В случае выявления каких-либо нарушений производитель может столкнуться с публично-правовой ответственностью, вплоть до изъятия продукции и отмены ее регистрации.
Резолюция о робототехнике подчеркивает, что ответственность программиста возрастает пропорционально развитию навыков робота. Важным аспектом при определении вины за причиненный вред является разграничение между навыками, которые робот приобрел самостоятельно в процессе самообучения, и теми, которым его обучали целенаправленно.
В современный период также особенно остро стоит проблема обеспечения информационной безопасности. Так как разработчики имеют доступ к большому количеству медицинской документации пациентов, то эти сведения могут быть использованы злоумышленниками для различных противоправных действий, включая мошенничество с налогами, незаконное получение лекарственных средств, а также для продажи конфиденциальной информации компаниям, занимающимся распространением фармацевтической продукции.
Поэтому важно минимизировать вероятность утечек данных, которые могут повлечь угрозу не только информационной безопасности, но и здоровью человека. Ярким примером является взлом кардиостимуляторов, который может назначить опасную для жизни и здоровья схему лечения. Вероятнее всего, такие технологии могут обернуться массовыми убийствами. Поэтому носимые устройства должны быть надежно защищены от внешних атак. Но какую защиту считать надежной? И кто будет отвечать за такие нарушения?
Для нормального функционирования медицинские роботы подключаются к Интернету, информационным системам в сфере здравоохранения и другим медицинским изделиям, что также увеличивает риск потенциальных угроз кибербезопасности. Сами медицинские роботы, как и другие компьютерные системы, могут быть уязвимы, что может повлиять на их безопасность и эффективность <5>.
--------------------------------
<5> Цомартова Ф.В. Указ. соч. С. 88 - 96.
Безусловно, роботизированные устройства могут не только помогать человеку выполнять те или иные задачи, но и активное их внедрение может привести к негативным последствиям, в первую очередь вытеснение роботом человека из социально значимых сфер (медицина, образование); ошибки робота, которые могут повлечь фатальные последствия (в том числе гибель множества людей); деградация человеческого интеллекта и многое другое <6>. В перспективе нужно не допустить вмешательства роботов в жизнь человека и, конечно же, не наделять его излишними правами, помнить о том, что он лишь инструмент и помощник в руках человека.
--------------------------------
<6> Исаков В.Б. Правовой статус роботов, наделенных искусственным интеллектом: объекты или субъекты? // Право и права человека в современном мире: тенденции, риски, перспективы развития: материалы Всероссийской научной конференции, посвященной памяти профессора Ф.М. Рудинского (г. Москва, 15 апреля 2021 г.): сборник научных статей / члены ред. кол.: В.В. Строев, Н.М. Ладнушкина, Д.А. Пашенцев, Т.Б. Куликова; под общ. ред. В.В. Строева, Д.А. Пашенцева, Н.М. Ладнушкиной. М.: Саратовский источник, 2021. С. 103 - 106.
Медицинская деятельность в контексте роботизации и ИИ затрагивает не только вопросы правового регулирования, но и биоэтику и нормы морали. Общественное недоверие к системам ИИ и робототехники является значительной проблемой. Например, пациенты могут чувствовать психологический дискомфорт, общаясь с машиной вместо человека, что может повлиять на восприятие качества медицинской помощи. Также необходимо решить на законодательном уровне вопрос: может ли пациент сказать "нет" роботу и потребовать, чтобы им занимался человек-специалист?
Таким образом, несмотря на многочисленные преимущества, роботы не могут полностью заменить человека. Поэтому в современной медицинской деятельности наибольшая эффективность достигается в тандеме человека-врача и роботизированных систем. Нельзя не согласиться с М.А. Лапиной о том, что ИИ в области здравоохранения представляет собой один из наиболее захватывающих и в то же время обременительных вопросов актуальной правовой теории.
