Нейросети чаще цитируют онлайн-аптеки, чем научные статьи, отвечая на вопросы о здоровье

Новое российское исследование показывает, что ответы ИИ далеко не всегда основаны на принципах доказательной медицины. Во многих случаях нейросети ориентируются преимущественно на коммерческие сайты, статьи-рейтинги и материалы онлайн-аптек.

К такому выводу пришли авторы исследования, посвященного тому, как нейросети отвечают на вопросы о лекарствах и здоровье. Эксперты проанализировали работу девяти популярных моделей искусственного интеллекта, включая ChatGPT, Google Gemini, Perplexity, DeepSeek, GigaChat, Grok и сервисы на основе технологий «Алисы». Каждой системе было задано почти три тысячи одинаковых вопросов, связанных с лечением, профилактикой заболеваний, витаминами, безрецептурными препаратами и биологически активными добавками. При этом названия конкретных брендов в запросах намеренно не использовались, чтобы оценить, какие препараты и источники нейросети выбирают самостоятельно.

Всего было изучено более 26 тысяч ответов. Анализ показал, что основную часть информации ИИ получает с коммерческих ресурсов: сайтов онлайн-аптек, маркетплейсов, медицинских блогов и различных подборок с заголовками вроде «Лучшие препараты» или «Топ средств от…». По данным исследования, около 70% всех ссылок, используемых нейросетями, ведут именно на такие ресурсы. Напротив, научные базы данных, государственные медицинские сайты и материалы, основанные на доказательной медицине, упоминаются значительно реже.

Современные языковые модели обучаются на огромных массивах открытых данных и зачастую отдают предпочтение тем источникам, которые чаще встречаются в интернете и лучше индексируются поисковыми системами. В результате популярные коммерческие публикации могут оказывать на формирование ответов большее влияние, чем специализированные медицинские рекомендации или результаты клинических исследований.

Исследование также показало, что многие модели склонны представлять информацию в виде рейтингов и списков, фактически воспроизводя формат рекламных статей. Такой стиль подачи может создавать у пользователя впечатление, что перечисленные препараты имеют одинаково высокую доказательную базу или официально рекомендованы медицинским сообществом, хотя это далеко не всегда так.

Особенно заметной эта тенденция оказалась в категориях безрецептурных препаратов, биологически активных добавок и аптечной косметики. Именно здесь нейросети наиболее свободно используют торговые марки и чаще называют конкретные бренды. При этом предупреждение о необходимости консультации с врачом встречается далеко не во всех ответах. Разные нейросети нередко используют схожие источники информации, поэтому обращение к нескольким ИИ-сервисам не всегда гарантирует получение независимого «второго мнения».

Всемирная организация здравоохранения и другие международные медицинские организации уже подчеркивали, что использование искусственного интеллекта в здравоохранении требует прозрачности источников и обязательной проверки медицинских советов специалистами. Поэтому эксперты рекомендуют рассматривать ответы нейросетей как инструмент для первичного знакомства с темой, но не как основание для самостоятельного выбора лекарств или изменения схемы лечения.

Фото: sitthiphong @123RF.com