Ученые: медицинские системы с ИИ по дизайну не должны напоминать человека

Вместе с ростом количества медицинских решений с ИИ, которые напрямую контактируют с пациентами, аналитики задумались, в каком виде люди легче общаются с интеллектуальной системой. Опросы и исследования показали, что человекоподобный дизайн вызывает у пациентов как большую откровенность и повышенные ожидания, так и настороженность. Есть и мнение, что человекоподобный облик подрывает доверие к медикам, сообщает Vademecum.

В мире насчитывается пока порядка 120 медицинских медицинских решений с ИИ, напрямую взаимодействующих с пациентами. Наблюдения за их общением проводятся не первый год.

В 2021 году исследователи из Университета Плимута, обсуждая преимущества человекоподобного дизайна роботов, отметили, что антропоморфные черты — выражение, пропорции тела и направление взгляда — повышают вовлеченность пользователей и усиливают ощущение безопасности при взаимодействии с ними. В 2024 году ученые из Аньхойского политехнического университета в Китае выяснили, что гуманоидный облик робота повышает доверие и готовность следовать его советам.

Наряду с этим исследователи из Маастрихтского университета и Университета Базеля предложили изменить подход к оформлению медицинских систем ИИ для работы с пациентами. Они считают, что желание придать ИИ человекоподобный вид основано на идее, что доверие можно «собрать» из черт лица или голоса. Однако, по их мнению, такие решения только усиливают культурные и гендерные предубеждения.

Исследователи отмечают, что качество медицинской помощи и исход лечения во многом зависит не только от точных рекомендаций, но и от полноты человеческого взаимодействия, которое не может заменить робот. Поэтому предлагается подчеркивать нечеловеческую природу ИИ через образы, не похожие на лица, использовать нестандартную пластику движений или другие формы виртуального воплощения. Искусственный интеллект в таком виде не заменяет врача в глазах пациента, а создает дополнительный вид взаимодействия, подобно тому, когда в терапии участвуют животные.

Необычный дизайн поможет снизить риски подмены медработников цифровыми ассистентами, уменьшить влияние стереотипов и расширить терапевтические инструменты. Это может стать основой новых стандартов разработки медицинских ИИ-моделей и требований к их внешнему виду, полагают ученые.

Ранее наблюдения английской компании Aide показали, что пациенты ценят нейтральность ИИ, отсутствие осуждения и более сочувствующий тон при обсуждении лечения. Ученые склоняются к выводу, что для эффективного взаимодействия с пациентами медицинский искусственный интеллект должен обладать собственной моделью общения.

Фото: kreminska @123RF.com