Agentic ProbLLMs — использование кодирующих агентов | Иоганн Ребергер

Демонстрация эксплойтов для быстрого внедрения, нацеленных на системы кодирования агентов, обнаруженных в ходе Месяца ошибок ИИ в августе 2025 года. Эксплойты нацелены на агентов, использующих компьютеры и кодирующих агенты на основных платформах, подчеркивая опасные последствия автономной работы без человеческого контроля. Критические уязвимости угрожают конфиденциальности, целостности системы и будущему автоматизации на основе ИИ, включая RCE, кражу токенов доступа и «ZombAI» — агентов, присоединяющихся к инфраструктуре управления и контроля. В ходе сессии будут рассмотрены государственные TTP, такие как ClickFix, применяемые к системам кодирования компьютеров, и продемонстрированы методы ClickFix, применяемые с помощью ИИ и приводящие к полной компрометации системы. Представлены текущие стратегии смягчения последствий и рекомендации на будущее.

Подпишитесь на Zenity Labs, чтобы быть в курсе самых актуальных исследований о состоянии и будущем безопасности агентов.

https://labs.zenity.io/