Искусственный интеллект хотят маркировать

Системы искусственного интеллекта сегодня используются во многих сферах, включая медицину. И сейчас настала пора ввести их маркировку по аналогии с лекарствами и некоторым другим медоборудованием, считают в Общественной палате России.

С предложением ввести специальную маркировку для систем искусственного интеллекта выступил руководитель рабочей группы Общественной палаты (ОП) РФ по законодательству в сфере интернет-технологий и цифровизации Вадим Виноградов. Он изложил их в письме министру цифрового развития, связи и массовых коммуникаций Максуту Шадаеву, передает «Парламентская газета».

Технологии на основе искусственного интеллекта (ИИ) сегодня могут применяться в любом компьютере или гаджете, включая медицинские приборы. Системы ИИ помогают врачам ставить диагнозы на основе параметров здоровья, рентгеновских снимков и результатов анализов. Также есть программы поддержки врачебных решений. ИИ широко используется и в других сферах: оформляет кредит в банке  или страховку по телефону, подбирает кадры для компаний и т.д. Кроме того, с помощью нейросетей сегодня можно создавать фото, видео или аудио-контент, обрабатывая и комбинируя самую разную информацию и накладывая ее друг на друга (так создаются так называемые дипфейки – видеоролики, где одно изображение подставлено вместо другого).

Все эти случаи, по мнению Вадима Виноградова, требуют введения маркировки, чтобы пользователь знал, имеет ли он дело с реальным человеком или программой.

Планируется, что маркировка потребует внесения определенных изменений в законодательство. В случае с голосовыми помощниками она может быть выполнена в форме аудио-сообщения, предупреждающего, что с человеком говорит робот. А на изделия, где используется ИИ, можно нанести соответствующую буквенную маркировку.

Напоминаем, что с 1 сентября в силу вступил ГОСТ для испытаний медицинских систем ИИ.  А год назад крупнейшие производители и разработчики систем ИИ в России договорились о соблюдении этического кодекса. Он заключается в сохранении принципов этического поведения при разработке, испытании и внедрении продукции с ИИ.