ИИ дают ошибочные ответы по медицине на каждый второй вопрос

Чат-боты с искусственным интеллектом почти в половине случаев ошибаются в ответах на медицинские вопросы. Такие данные получили специалисты по результатам исследования на эту тему. Авторы работы, опубликованной в BMJ Open, пришли к выводу, что без должного просвещения и контроля использование этих сервисов может быть рискованным, пишет «МВ»

В ходе работы ученые оценили пять популярных сервисов — ChatGPT, Gemini, DeepSeek, Grok и Meta AI (принадлежит Meta, признана в России экстремистской и запрещена). Им всем предложили ответить на десять вопросов, касающихся рака, вакцинации, стволовых клеток, питания и спорта.

Эксперты изучили 250 ответов и выявили, что практически половина (49,6%) из них содержали искажения. В 30% случаев ошибки оказались незначительными, а в 19% — существенными. Уровень качества разных моделей оказался примерно одинаковым, но Grok чаще других допускал ошибки. Чат-боты лучше всего отвечали на вопросы о вакцинации и онкологии, но хуже справлялись с темами питания и спорта. При этом ни одна из сравниваемых систем не указала правильно источники информации. Вместо реальных ссылок боты создавали несуществующие публикации, выдавая так называемые галлюцинации.

Кроме того, исследователи отметили, что формулировки чат-ботов трудны для понимания обычным читателем. Они рассчитаны на уровень студентов второго-четвертого курсов. По мнению экспертов, ИИ пока плохо справляется с важными медицинскими темами. Без строгого контроля и обучения пользователей такие нейросети могут стать источником опасных заблуждений, распространяя неверные советы о здоровье.

Как писали ранее, российские ученые разрабатывают основы для регулирования искусственного интеллекта в медицине. Эти нормы определят ответственность за ошибки и вред, а также улучшат взаимодействие врача и пациента через нейросети. В России продолжают обсуждать и исправлять законопроект о регулировании применения ИИ.

Фото: bayzidstock @123RF.com