Пост канала Раньше всех. Ну почти.

Четыре исследовательские команды за 10 дней выявили четыре разных способа взлома ИИ-моделей, пишет технологическое издание The Next Web. Исследования показали, что главная проблема таких систем заключается не в ошибках самих моделей, а в том, что они получают доступ к личным данным пользователей, памяти и внешним сервисам. Защитить пользователей, по мнению специалистов, могут дополнительные проверки действий ИИ, но это может замедлить работу агентов.