ВОЗ: 6 принципов регулирования ИИ в здравоохранении для применения без вреда

    23.10.2023
    Новости
    912

    Всемирная организация здравоохранения призвала к ответственному и эффективному регулированию применения искусственного интеллекта (ИИ) в сфере здравоохранения. ВОЗ опубликовала руководство, где изложены принципы безопасного использования ИИ, сообщает портал ВОЗ.

    Эксперты ВОЗ признают потенциал ИИ для улучшения результатов клинических испытаний и медицинской диагностики. Но обращают внимание, что при использовании нейросетей нужно защищать конфиденциальность данных и продолжать исследовать механизмы работы ИИ во избежание неточности работы в дальнейшем. «Искусственный интеллект открывает большие перспективы в сфере здравоохранения, но также сопряжен с серьезными проблемами, включая неэтичный сбор данных, угрозы кибербезопасности, а также предвзятость или дезинформацию», – сказал Тедрос Адханом Гебрейесус, глава ВОЗ. 

    В рекомендациях ВОЗ обозначены 6 принципов регулирования технологий ИИ:  

    1. Документирование решений ИИ

    Для повышения доверия к новым технологиям важна открытость данных и документирование, в том числе, регистрация всего жизненного цикла решений и отслеживание процессов их разработки.

    2. Модели обучения и кибербезопасность

    Вопросы целевого назначения технологий нужно решать комплексно на основе более простых моделей. Важно непрерывное обучение и контроль со стороны человека, а также нужно учитывать модели обучения и угрозы кибербезопасности.

    3. Валидация

    Обеспечению безопасности и упрощению регулирования поможет внешняя валидация (доказательства, что продуктом можно пользоваться) данных и четкое определение целевого назначения технологий ИИ.

    4. Препятствия для распространения ошибок 

    Для устранения распространения систематических ошибок и погрешностей, нужен порядок контроля качества данных, тщательная проверка систем перед запуском.

    5. Конфиденциальность и защита данных

    Для конфиденциальности и защиты данных нужно решать проблемы применения комплексных режимов регулирования: устанавливать пределы действия юрисдикции и определяемые ими требования по получению согласий на обработку данных.

    6. Сотрудничество на всех уровнях  

    Укрепление взаимодействия между регуляторами, пациентами, медиками, производителями и госструктурами для обеспечения соответствия продукции нормативным требованиям в течение всего жизненного цикла.

    Доклад также указывает, что работа систем искусственного интеллекта зависит не только от программного кода, реализованного в них, но и от данных, которые используются при их обучении и накапливаются из медицинских учреждений и при взаимодействии с пользователями. Чем лучше регулирование качества этих данных, тем ниже вероятность, что системы ИИ увеличат отклонения, содержащиеся в тренировочных данных.

    В октябре 2023 года министр здравоохранения РФ Михаил Мурашко, выступая на форуме «Биотехмед», отметил, что более 70 регионов уже приступили к внедрению программ на основе ИИ в деятельность учреждений здравоохранения, а до конца года это должны сделать все субъекты РФ.

    Новости

    читать все
    наверх