Обеспечение безопасности агентного ИИ: угрозы, модели и меры по их снижению в эпоху автономии | Р...

Изучите реальные стратегии обеспечения безопасности систем агентского ИИ. Мы рассмотрим внедрение корпоративных агентов ИИ в рамках моделей управления и меняющихся нормативных ожиданий, изучив, как агенты меняют поверхности атак, создавая новые угрозы, такие как автономная эксплуатация, манипулирование целями и социальная инженерия на основе ИИ. Думая как злоумышленники, специалисты по безопасности могут использовать адаптивные модели доверия, принципы проектируемой безопасности и методы обнаружения угроз с использованием ИИ. Мы расскажем о методах моделирования угроз, учитывающих уникальные риски, включая нарушение намерений и обманное поведение, и предоставим практическую схему обеспечения безопасности интеллектуальных систем.

Подпишитесь на Zenity Labs, чтобы быть в курсе самых актуальных исследований о состоянии и будущем безопасности агентов.

https://labs.zenity.io/