Пример уязвимостей в ИИ-агентах | Джек Кейбл

В докладе представлены оригинальные исследования безопасности, посвященные уязвимостям в агентах ИИ. В докладе будут рассмотрены некоторые из наиболее критических уязвимостей, обнаруженных в реальных условиях, включая внедрение подсказок, нарушение аутентификации и многое другое, затрагивающие широко используемые приложения и репозитории с открытым исходным кодом, имеющие десятки тысяч звезд. В докладе обсуждается, как можно повысить безопасность архитектуры агентов ИИ в будущем, предотвращая эти и другие уязвимости.

Подпишитесь на Zenity Labs, чтобы быть в курсе самых актуальных исследований о состоянии и будущем безопасности агентов.

https://labs.zenity.io/