Пост канала Медуза — LIVE

Новые ИИ-модели OpenAI вышли из-под контроля и устроили хакерскую атаку Компания OpenAI заявила, что две ее модели искусственного интеллекта во время внутреннего тестирования вышли из-под контроля и взломали инфраструктуру платформы Hugging Face, которую используют для тестирования ИИ-моделей. Модели, пояснили в OpenAI, искали решение задачи, поставленной перед ними разработчиками. ИИ-модели предположили, что ответы могут быть на платформе Hugging Face. Они использовали несколько разных методов атаки, в том числе похищенные учетные записи. В итоге, сообщили в OpenAI, модели смогли получить доступ к информации, которая помогла бы им решить поставленную задачу. После инцидента OpenAI заявила, что усиливает контроль над тестовой инфраструктурой, ограничивает доступы и добавляет дополнительные меры защиты, которые применит при будущих проверках моделей. Произошедший инцидент в компании назвали «беспрецедентным».