В Москве прошел Всероссийский форум с международным участием «Обращение медицинских изделий. Novamed 2021». Одна из сессий была посвящена перспективам цифровизации и использования искусственного интеллекта в здравоохранении.
Цифровизация здравоохранения идет огромными шагами. Искусственный интеллект становится незаменимым помощником медиков, технологии его применения меняют подходы к оказанию медицинской помощи. Но тема эта насколько интересна, настолько и сложна. Программные продукты с искусственным интеллектом дают поистине колоссальные возможности, но несут риски, которые не всегда можно просчитать. Как обеспечить доступ на рынок этих продуктов и при этом соблюсти интересы пациентов и медицинских работников в части обеспечения безопасности лечебного процесса?
Искусственный интеллект как медицинское изделие
Понятие «искусственный интеллект» присутствует в нашей жизни давно, но на официальном уровне признание произошло лишь пару лет назад.
Указом Президента РФ № 490 от 10.10.2019 была утверждена Национальная стратегия развития искусственного интеллекта до 2030 года. Тогда были сформулированы основные понятия, которые используются при обращении этого продукта. В том числе появилось и определение для самого искусственного интеллекта — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.
Но что такое ИИ для здравоохранения? Как вписать его в нормативно-правовые документы? Заместитель начальника Управления организации государственного контроля и регистрации медицинских изделий Федеральной службы по надзору в сфере здравоохранения Мария Суханова рассказала, что после выхода указа Президента Росздравнадзор совместно с Минздравом и профессиональным сообществом образовали рабочую группу, которая создала критерии отнесения программных продуктов к медицинским изделиям и ввела классификацию медицинских изделий как по классам потенциального риска применения, так и по видам номенклатуры (Приказ Минздрава России от 06.06.2012 N 4н (ред. от 07.07.2020). Важным результатом совместной работы стало введение одноэтапной процедуры государственной регистрации программных продуктов для медицины.
Говорит заместитель руководителя Федеральной службы по надзору в сфере здравоохранения Дмитрий Павлюков: «Нам нужно понимать, насколько вообще несет в себе риски этот продукт и как его дальше регулировать. Мы вывели на рынок 11 программных продуктов с искусственным интеллектом. Почти все они были зарегистрированы в Росздравнадзоре в 2021 году. На сегодня не было ни одного неблагоприятного события, связанного с их применением. Но вместе с тем, так как мы относим эти программные продукты к высокому классу риска, до февраля 2022 года все производители должны предоставить подробные отчеты об их применении в медицинской практике, чтобы мы могли аккумулировать данные и понять, как развивается эта технология».
Здравоохранение — лидер по применению искусственного интеллекта
Эксперт по искусственному интеллекту «Центрального научно-исследовательского института организации и информатизации здравоохранения» Минздрава России Александр Гусев отмечает: «Сейчас сфера искусственного интеллекта является мировым рекордсменом в мире по размеру инвестиций, вливаемых в программные продукты с использованием технологий ИИ, и по количеству сделок. Здравоохранение — это та отрасль, где инвесторы имеют максимальные надежды на то, что эти продукты будут востребованы и популярны».
По словам А.Гусева, здравоохранение сейчас занимает первое место в мире среди всех отраслевых инвестиций по числу сделок – 96 за второй квартал 2021 (16,8 % от общего числа). Это абсолютный рекорд по сравнению с другими отраслями. А по размеру привлеченных средств у здравоохранения второе место — 2,766 млрд. долларов (13,82 % от всех инвестиций в сфере ИИ). Впереди только транспорт и логистика.
Но, несмотря на эти рекорды, с прошлого года все острее становится дискуссия о доверии и ответственном отношении всех участников сферы ИИ. Слишком много спекуляций. «Вокруг ИИ много псевдопродуктов, которые либо не применимы вообще, либо сделаны некачественно, — подчеркнул Александр Гусев. — Технологий ИИ много, много программных продуктов, но складывается парадоксальная картина: сегодня модель машинного обучения (метода анализа данных, который анализирует построение аналитической модели) может сделать даже посредственный технический специалист, но в то же время очень сложно правильно применить технологии машинного обучения, и высок риск ошибиться».
10-летний ретроспективный анализ случаев, связанных с неправильной работой медицинского программного обеспечения в Англии и Уэльсе, показал: было выявлено 2627 инцидентов, связанных с работой ПО. Большая часть ни к чему плохому не привела, однако 18 процентов причинили вред разной степени тяжести, в том числе были зафиксированы 4 смертельных случая.
«Сейчас появилось много документов, которые рассматривают вопросы доверия, безопасности и эффективности, — отметил А.Гусев. – И первым принципом работы программных продуктов на основе искусственного интеллекта в России должна быть безопасность». Будет доказанная безопасность, будет и доверие.
Стандарты — залог доверия
По мнению Дмитрия Павлюкова, которое он высказал на форуме, в условиях формирования доверия ключевую роль играет стандартизация в области применения ИИ.
Два года назад в России был создан Технический комитет по стандартизации № 164 «Искусственный интеллект». Как отмечает его председатель Сергей Гарбук, в области здравоохранения стандартизация ИИ наиболее актуальна. С одной стороны, высок уровень технологической зрелости, с другой – не менее высок уровень ответственности, связанной с рисками для граждан в результате некорректной работы системы. Поэтому стандарты — это инструмент нахождения компромисса между безопасностью системы новой технологии для людей и простотой продвижения новых технологий на практике.
В прошлом году была разработана перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на 2021-2024. В ней есть раздел, посвященный стандартам ИИ в области здравоохранения. При разработке программы подразумевался обязательный этап обучения на прецедентах. Значительная часть систем ИИ рассчитана на автоматизацию естественных интеллектуальных способностей человека.
Технический комитет является представительным органом РФ в международной организации по стандартизации ИИ, и сейчас по инициативе российской стороны там рассматривается возможность разработки международного стандарта клинических испытаний систем с ИИ.
Опыт и мудрость не заменить
Медицина все больше переходит на цифру, и требуются новые цифровые инструменты обработки цифровых данных. Два года назад начались клинические испытания ПО на основе технологий (лучевая диагностика). 21.11.2019 вышло постановление правительства Москвы № 1543-ПП о проведении эксперимента по испытанию инновационных технологий в области компьютерного зрения для анализа медицинского изображения и дальнейшего применения в системе здравоохранения Москвы. В 2020-21 гг. в нем приняла участие 21 компания, разработавшая или имеющая права на предоставление сервисов на базе технологий компьютерного зрения, предназначенных для анализа медицинских изображений. Сервисы использовались в 102 медицинских организациях при проведении 13 видов исследований (КТ, МРТ и другие). Было обработано 3,8 млн исследований, подготовлено 104 дата-сетов (механизмов хранения информации, предоставляющих быстрый доступ к большим объемам данных).
Говорит главный внештатный специалист по лучевой и инструментальной диагностике, директор ГБУЗ «Научно-практический клинический центр диагностики и телемедицинских технологий ДЗМ» Сергей Морозов: «За время эксперимента мы увидели, что искусственный интеллект значительно снижает длительность подготовки описания результатов. Он не может заменить врача, но может в отдельных клинических сценариях ускорить работу рентгенолога, оптимизировать ресурсы за счет автоматизации двойных просмотров результатов скринингов. Поначалу врачи опасались, что ИИ заменит их, относились как к конкуренту, но потом настороженность все же сменилась слабопозитивным отношением».
Очевидно, что искусственный интеллект может взять на себя лишь часть врачебных функций. Окончательный диагноз все равно ставит только врач. И тем более никакой искусственный интеллект не сможет конкурировать с опытом, мудростью и непосредственным общением доктора с пациентом, а ведь все это играет важную роль при постановке диагноза и выработке схемы лечения.
Как начать доверять машинам?
С какими проблемами сталкиваются сами разработчики и производители медицинского программного обеспечения? Заместитель директора АО «ЮСАР+» Сергей Дьяченко рассказал: «Основу той пирамиды, что мы строим для врача-диагноста, составляет радиологическая информационная система. В ней содержится информация о тех исследованиях, которые проводятся в ходе обследования — например, флюорография, узи, МРТ, рентген. Ключевой продукт — это система описания, рекомендации и статистики. В нее входит набор протоколов разной степени формализации, которые позволяют эффективно описывать те или иные нозологии, чтобы потом иметь возможность организовать общение врачей — диагностов и клиницистов, а также помочь пациенту понять, о чем говорится в заключении».
Весной 2020 года компания обратилась к проблеме коронавируса и применила к этому заболеванию формализованный протокол. Получился продукт, который определяет в ходе исследования объем поражения легких и позволяет визуализировать поражения. Модуль искусственного интеллекта заполняет необходимые поля, предлагая врачу те или иные решения, а тот может или согласиться с ними или заменить своими данными. Аналогичная работа будет продолжаться в области онкологии.
По словам С.Дьяченко, сложности есть, и заключаются они, в основном, в «недоверии к машинам», непонимании роли искусственного интеллекта, скепсису относительно инновационных методов диагностики и лечения, низкому уровню знаний современных компьютерных технологий (особенно в регионах). По мнению разработчика, чтобы снять барьеры, нужно популяризировать ИИ среди врачей и пациентов, добавить соответствующие курсы в программу как технических, так и медицинских вузов, сформировать систему поощрения применения технологий искусственного интеллекта для медицинских учреждений и для поставщиков, а также непременно проводить открытое общественное обсуждение.
Все это так, но не надо забывать, что хороший продукт продает себя сам. Если эффект очевиден, то излишняя стимуляция может даже навредить. Если технологии ИИ позволяют сокращать время диагностики и при этом повышать ее качество, то в скором времени их реальная польза в здравоохранении станет неоспоримым фактом для всех.
Текст: Лидия Громека
Фото: iStock by Getty Images
