Стражи следующего поколения: обеспечение безопасности агентов ИИ в экосистемах, ориентированных н...

По мере того, как ИИ-агенты всё больше проникают в жизнь детей через образовательные инструменты, виртуальных друзей и развлекательные платформы, они создают сложные проблемы безопасности и этики. В рамках этой сессии будут критически рассмотрены уникальные уязвимости при взаимодействии ИИ-агентов с пользователями младше 18 лет, включая такие угрозы, как эксплуатация данных, риски манипуляции, изощрённый груминг через интерфейсы ИИ и психологические последствия зависимости от ИИ. Опираясь на практические знания, полученные в результате комплексного технического опыта в области управления программами и кибербезопасности, в презентации будет показано, как дизайн, соответствующий возрасту, надёжные модели конфиденциальности и расширенная фильтрация контента становятся критически важными элементами безопасности для защиты уязвимых пользователей и обеспечения ответственных инноваций.

Подпишитесь на Zenity Labs, чтобы быть в курсе самых актуальных исследований о состоянии и будущем безопасности агентов.

https://labs.zenity.io/