Защита веб-приложений на базе искусственного интеллекта с помощью Fortinet

Подход Fortinet к защите рабочих нагрузок ИИ включает в себя многоуровневую стратегию защиты. В презентации на конференции Cloud Field Day 24 были продемонстрированы атаки SQL-инъекции (SQLi), подделка запросов на стороне сервера (SSRF) и манипуляция моделями, направленные на приложения на базе ИИ с использованием протокола контекста модели (MCP), что наглядно демонстрирует, как решения Fortinet защищают на каждом этапе цепочки атак. Демонстрация выявила уязвимости, создаваемые агентами ИИ, и важность защиты этой новой поверхности атаки.

Представленная среда, развёрнутая в AWS в виде микросервисов, включает уязвимое приложение электронной коммерции («Juice Shop»), дополненное чат-ботом на основе ИИ. Трафик между VPC направляется через VPC служб безопасности, где FortiWeb (брандмауэр веб-приложений) и FortiGate обеспечивают проверку. Схема атаки включает взаимодействие пользователя с чат-ботом, который затем взаимодействует с большой языковой моделью (OpenAI) через MCP. Такое взаимодействие выявляет уязвимости, что продемонстрировано на примере злоумышленника, успешно внедрившего SQL-код через интерфейс чат-бота, обойдя традиционную защиту веб-приложений.

Компания Fortinet продемонстрировала, как возможности машинного обучения FortiWeb позволяют обнаруживать и нейтрализовать эти атаки. Обучаясь обычному трафику приложений и создавая модель ожидаемого поведения API, FortiWeb может выявлять аномальные запросы, такие как попытки SQL-инъекции. Затем система оценивает эти оповещения, используя свою базу данных аналитики угроз для определения соответствующих мер, включая блокировку вредоносных запросов. Кроме того, ИИ-помощник FortiWeb предоставляет подробный анализ атак, включая рекомендации по устранению уязвимостей, и генерирует документацию по API, чтобы идти в ногу с быстро развивающимися готовыми API.

Докладчик: Деррик Гуч, системный инженер-консультант Fortinet, Шриджа Алам, архитектор облачной безопасности Fortinet, и Джулиан Петерсон, ведущий системный инженер Fortinet. Запись прямого эфира на мероприятии Cloud Field Day в Эмеривилле 21 октября 2025 года. Посмотрите полную презентацию по адресу https://techfieldday.com/event/cfd24/ или посетите сайт https://www.fortinet.com/ для получения дополнительной информации.