ВАШИНГТОН, 6 авг -. Когнитивный психолог и специалист в области информатики Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и считающийся одним из «крестных отцов» ИИ, предупредил, что человечеству будет все труднее контролировать искусственный интеллект.
«Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ — ред.) просто перехитрив их и тем самым, не позволив им вырваться из-под контроля», — приводит слова Хинтона телеканал CNN.
По мнению ученого, модели искусственного интеллекта продолжат умнеть.
«Я думаю, по мере того как они умнеют, их намерения также станут изощреннее, а способность избегать контроля будет все больше и больше», — сказал Хинтон во время конференции в Лас-Вегасе.
Он также заявил, что недавние сообщения о взломах, произведенных ИИ-агентами, могут быть лишь началом эпохи вышедших из-под контроля ИИ-хакеров.
«Я ожидаю множества опасных кибератак», — сказал Хинтон.
В июле OpenAI сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
Ранее в августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель искусственного интеллекта компании Anthropic — Claude Mythos 5 — создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код.
Источник: РИА