ИИ в здравоохранении

Опыт США

В июне в Калифорнии (США) рассматривался законопроект об использовании ИИ при общении с¹ пациентами . Ранее в США (в 2023–2024 гг.) были рассмотрены предложения по регулированию использования ИИ в сфере здравоохранения. Можно выделить следующие подходы:

1) Наделение ИИ компетенцией врача:

− возможность выписывать рецепты на лекарственные препараты. ИИ фактически приравнивается к практикующему врачу при условии, что (1) технология разрешена штатом для назначения конкретного² препарата и (2) одобрена FDA³ (федеральный законопроект США );

2) Ограничение использования ИИ:

− запрет на принятие решений в сфере здравоохранения (наряду со страхованием и социальным обеспечением) исключительно на основе результатов, сгенерированных⁴ ИИ (законопроект штата Джорджия ).

Любое такое решение должно содержательно рассматриваться человеком. Планируется создать для этого правила;

− запрет для медучреждений заменять независимые оценки лицензированных специалистов по уходу за пациентами на рекомендации⁵ или решения ИИ (штат Иллинойс ).

Например, если медсестра определила процедуры для восстановления пациента после операции, учреждение не вправе предписывать ей изменить их на основе рекомендаций ИИ.

Некоторые штаты не внедряют специальное регулирование систем ИИ в здравоохранении, однако они признаются⁶ «высокорисковыми» (штаты Вермонт , Вирджиния , Колорадо ). В этих 3 штатах предусмотрена обязанность разработчиков и пользователей высокорисковых систем ИИ принимать меры для избежания алгоритмической дискриминации при доступе человека к медицинским услугам, пользователей – уведомлять об использовании ИИ при оказании услуг. Существует обязанность разработчиков разъяснять пользователям возможность и способы мониторинга.

В Калифорнии в июне 2024 г. уточнена обязанность медучреждений, использующих генеративный ИИ для создания письменных или устных сообщений о состоянии здоровья⁷ пациентов :

− информировать, что сообщение создано с помощью ИИ, и что такое сообщение было проверено человеком – поставщиком услуги;

− предоставлять инструкции, как пациенту связаться с человеком – поставщиком услуги.

Кроме того, с 2023 г. в Массачусетсе рассматривается законопроект об использовании ИИ в области психического⁸ здоровья :

− лицензированный специалист в этой сфере должен получить одобрение лицензирующего органа на использование ИИ;

− ИИ должен постоянно контролироваться специалистом;

− пациент предоставляет информированное согласие на получение лечения у специалиста, который будет использовать ИИ.

Получение информированного согласия пациента – необходимое условие любого медицинского вмешательства. Но при применении

ИИ требуется согласие после информирования о том, как работает ИИ.

Опыт ЕС

В ЕС в июне 2024 г. был подписан⁹ Закон об ИИ , который признает ИИ высокорисковым при его использовании:

1) для обеспечения безопасности медицинского устройства, используемого,¹⁰ например, для диагностики in vitro ;

2) при оценке органами власти права лица на доступ к госуслугам здравоохранения (например, в рамках медицинского страхования);

3) для оценки и классификации экстренных вызовов от физических лиц, например установления приоритета в направлении служб неотложной первой помощи и получении медицинской помощи.

К высокорисковому ИИ предъявляются специальные требования, включая требования анализа рисков, обеспечения человеческого контроля за ИИ и пр.

Подход ЕС аналогичен подходам штатов США – Вермонта, Вирджинии, Колорадо, но есть и отличия. В ЕС требуется контроль человеком при использовании высокорискового ИИ (в названных штатах такое требование отсутствует), но не предусмотрена обязанность информировать людей о применении ИИ. Это связано с желанием снять любую ответственность с потребителей медицинских услуг. В отличие от Колорадо, у ЕС не установлена возможность требовать пересмотра человеком неблагоприятного решения ИИ. С точки зрения развития технологий подход Колорадо имеет преимущества: пересмотренные решения дают обратную связь и могут быть использованы для улучшения работы ИИ.

Опыт Китая

Национальная комиссия Китая по здравоохранению в 2022 г. заявила, что существующему ИИ в медицинской сфере не хватает данных и прозрачности работы алгоритмов для медицинского¹¹ обслуживания . Неясно, как определять ответственность за причиненный вред пациентам в результате действий ИИ. Поэтому в Китае установлены ограничения¹² при использовании ИИ в медицине :

1) медицинское учреждение не может использовать ИИ, выдавая его за врача или заменяя врача, имеющего право оказывать услуги по диагностике и лечению лично (ст. 13).

2) рецепты на лекарства должен выписывать сам лечащий врач, использование ИИ или других методов автоматического формирования рецептов строго запрещено (ст. 21).

Опыт России

В России действует 2 экспериментальных правовых режима для тестирования медицинских технологий с ИИ, а также принят ГОСТ Р 59921.2–2021 «Системы искусственного интеллекта в клинической медицине».

Однако отсутствует специальное правовое регулирование применения систем ИИ в здравоохранении. Тем не менее ИИ может использоваться как часть ПО в медицинском изделии (Приказ Минздрава России от 06.06.2012 N 4н). Такое ПО отнесено к категории ПО с высокой степенью риска, для которых предусмотрены специальные условия использования и лицензирования. Правила регистрации таких систем определены Постановлением Правительства РФ от 27.12.2012 № 1416.

Для применения ИИ во врачебной практике в России необходимо внедрять системы выявления и управления рисками, а также устанавливать требование человеческого контроля за решениями, принятыми ИИ. Это позволит использовать ИИ в медицине – например, – применение ИИ для постановки диагноза может сократить¹³ расходы на лечение до 50% . При этом человеческий контроль снизит риски ошибок в диагнозе или при назначении лекарств.

Материал из выпуска мониторинга №6, июнь 2024. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара