После публикации в СМИ сообщения о приостановке использования одной из систем чтения рентген-изображений на основе искусственного интеллекта Botkin.AI, Росздранадзор пояснил причину такого решения.
Росздравнадзор впервые приостановил использование медицинского изделия с искусственным интеллектом (ИИ) Botkin.AI, которое применялось для обнаружения патологий на изображениях КТ.
«В ходе проводимого Росздравнадзором мониторинга безопасности медицинских изделий в отношении Botkin.AI были выявлены отклонения в характеристиках (результаты работы ПО с ИИ) относительно заявленных при его государственной регистрации. В результате анализа Росздравнадзором сделан вывод о наличии угрозы причинения вреда жизни и здоровью граждан при применении Botkin.AI. В связи с этим принято решение о приостановке его применения, а также инициировано проведение внепланового выборочного контроля в отношении производителя Botkin.AI ООО «Интеллоджик», — говорится в сообщении Росздравнадзора.
Надзорное ведомство направило заявление и документы для проверки в прокуратуру столицы. После чего будет сделан вывод о возможности дальнейшего использования продукта с ИИ Botkin.AI.
По данным Росздравнадзора на 21.11.2023, в России зарегистрированы 24 медизделия, являющиеся программным обеспечением с технологией искусственного интеллекта. 19 из 24 таких продуктов анализируют изображения, 16 из них — российской разработки, в числе которых и Botkin.AI производства ООО «Интеллоджик». Производитель должен проводить мониторинг их безопасности и эффективности после госрегистрации и предоставлять отчеты в Росздравнадзор для анализа. «Вместе с тем, несмотря на неоднократные требования Росздравнадзора, указанные отчеты от производителя Botkin.AI в службу не поступали», — пояснили в ведомстве.
Депутаты Госдумы заявили об обязательности тестирования ИИ перед применением в медицине, чтобы исключить риск для здоровья пациентов. Татьяна Соломатина, замглавы комитета Госдумы по здравоохранению, считает, что для медпрограмм с использованием ИИ нужны клинические испытания. «Эти приборы должны пройти ровно то же самое, что проходят лекарственные препараты, прежде чем они пойдут на рынок», — сказала Соломатина изданию Daily Storm после заседания рабочей группы 20 ноября, где анализировали применение ИИ в здравоохранении.
Она подчеркнула, что обсуждение этих вопросов продолжится, поскольку применение ИИ в медицине должно быть отрегулировано на законодательном уровне, «чтобы от этого не пострадали ни пациенты, ни врачи, которые используют данные методики».
В июне 2023 года вопрос о применения искусственного интеллекта впервые рассматривался на Совете безопасности ООН, а месяцем ранее — в ЮНЕСКО. Собравшиеся говорили не только о возможностях ИИ, но и о проблемах и рисках, связанных с его использованием.
В сентябре 2023 года появился новый ГОСТ на медизделия с ИИ. Он разрабатывался с участием рентгенологов, программистов, ученых, клиницистов и закрепил требования для каждого этапа жизненного цикла систем искусственного интеллекта, что должно повысить надежность программных решений и запускать в практику только проверенные продукты. В частности, этот стандарт ввел требование мониторинга системы ИИ на всех этапах, связанных с его эксплуатацией.
