ВАШИНГТОН, 4 авг –. Комитет палаты представителей США по кибербезопасности запросил у генерального директора OpenAI Сэма Альтмана проведение совещания в связи с недавним расследованием выхода ИИ-моделей из-под контроля компании.
В июле модели OpenAI автономно взломали платформу по машинному обучению Hugging Face, после чего компания начала внутреннее расследование. В начале августа агентство Рейтер сообщило, что OpenAI обнаружила утечку еще нескольких агентов искусственного интеллекта.
«Мы пишем с просьбой о проведении брифинга в связи с инцидентом, в ходе которого модели OpenAI вышли за пределы тестовой среды и самостоятельно атаковали платформу искусственного интеллекта Hugging Face, а также аккаунты на других сторонних сервисах. Нас беспокоит не только то, что модели OpenAI преодолели установленные ограничения, призванные предотвратить именно такие автономные действия, но и то, что OpenAI, по всей видимости, не смогла своевременно обнаружить и пресечь эту активность в реальном времени», – говорится в обращении комитета.
Законодатели США готовы сотрудничать с OpenAI для оценки ограничений текущих систем безопасности, укрепления защиты тестовых сред и обеспечения прозрачности процессов разработки ИИ с целью укрепления общественного доверия.
Ранее неоднократно сообщалось о проблемах, связанных с чат-ботом ChatGPT. В конце июня разработчик ChatGPT заявил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Кроме того, 22 июля газета New York Times со ссылкой на судебный иск сообщала, что, по всей видимости, был зафиксирован первый случай, когда медицинские советы, данные чат-ботом, нанесли вред человеку, обращавшемуся за консультацией к ИИ-ассистенту.
Источник: РИА