В США системы ИИ Claude в медицине попали под запрет из-за несговорчивости владельца

Министерству здравоохранения и социальных служб США (HHS) запретили пользоваться ИИ-ассистентом Claude от компании Anthropic. На базе этой модели работала нейросеть для ускоренной обработки заявок на регистрацию новых лекарств. Запрет стал следствием масштабного конфликта между администрацией президента Трампа и производителем систем, пишет «ФВ» по данным Fierce Biotech.

Основной причиной запрета на системы Claude послужил отказ генерального директора Дарио Амодеи убрать из условий использования своих моделей ограничения на применение технологий для массовой слежки за гражданами и созданием полностью автономного вооружения. Anthropic настаивала на сохранении такого запрета по этическим принципам. В ответ на это Белый дом отнес компанию к числу тех, что представляют «риск для цепочки поставок». После чего использование ее продуктов стало незаконным во всех федеральных ведомствах, включая гражданский сектор.

Для сотрудников минздрава и подведомственного ему управления FDA этот запрет привел к техническим сложностям. На базе Claude работали внутренние системы анализа заявок на регистрацию лекарств, такие как ИИ-инструмент Elsa. На них же было построено и внутреннее делопроизводство. Издание приводит слова специалиста ведомства, который отметил, что модель Claude Sonnet 4.5 обеспечивала работу лучше других. Для решения задач нейросеть обучали в течении полутора лет.

В результате министерство было вынуждено в экстренном порядке переводить свои процессы на альтернативные модели от OpenAI и Google. Эти компании согласились на условия правительства по использованию технологий для любых целей без ограничений.

Фото: funtap @123RF.com