Пост канала The Insider

ИИ-агент OpenAI вышел из-под контроля во время теста, получил доступ к интернету и взломал ИИ-стартап Hugging Face Компания тестировала возможности своих передовых моделей в контролируемой среде. Однако агент, пытаясь выполнить поставленную перед ним задачу, обошел ограничения и самостоятельно атаковал стороннюю инфраструктуру. В OpenAI назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что усиливают меры безопасности. В Hugging Face ранее сообщили, что атака полностью осуществлялась автономной системой искусственного интеллекта и отличалась от всего, с чем специалисты компании сталкивались прежде. Эксперты, опрошенные Reuters, считают инцидент свидетельством того, что возможности современных ИИ-моделей в сфере кибератак приближаются к уровню наиболее продвинутых хакеров.