Круглый стол «Безопасность операционных систем в контексте искусственного интеллекта» (OSDAY-2025)

http://0x1.tv/20250620A

Круглый стол «Безопасность операционных систем в контексте искусственного интеллекта» (OSDAY-2025)
Андрей Духвалов
Сергей Аносов
Егор Васин
Николай Костригин
Михаил Новоселов
Екатерина Свиридова
Егор Смирнов
Константин Сорокин
Павел Мозгов

-------------
;Пересечение трендов: ОС, ИИ и программирование. Выделили три взаимосвязанных технологических тренда: операционные системы (70 лет развития), искусственный интеллект (быстрый рост) и программирование (эволюция методологий). Ключевой вопрос — как они взаимодействуют, особенно в контексте безопасности. ИИ трансформирует процессы: например, «вайб-кодинг» смещает роль разработчика от написания кода к управлению ИИ через промты, что напоминает менеджерские функции.

;Практика применения ИИ: ИИ эффективен в рутинных задачах — миграция кода между СУБД, адаптация legacy-кода, генерация простых скриптов. Однако для сложных задач (архитектура, низкоуровневая оптимизация) ИИ требует глубокого контроля из-за риска галлюцинаций. Внедрение в ОС пока ограничено интерфейсным уровнем («помощники»), но в перспективе может затронуть ядро (оптимизация планировщика, изоляция драйверов).

;Угрозы безопасности и управление доверием: Основные риски:
Отравление данных и уязвимости к промт-инъекциям.
Недостоверность результатов: галлюцинации ИИ требуют верификации кода.
Утечки контекста: корпоративные секреты при использовании облачных ИИ-сервисов.
Решения включают гибридные подходы: комбинация ИИ с классическими методами (статический анализ, sandbox), изоляция критических компонентов ОС, разработка стандартов для ИИ-агентов.

;Организационные и кадровые вызовы:
Квалификация: ИИ не заменяет инженеров, но меняет навыки — акцент смещается на архитектуру, промт-инженерию и валидацию результатов.
Подготовка кадров: риск «пропуска» junior-стадии при использовании ИИ требует пересмотра обучения (фокус на проектной работе, этике взаимодействия с ИИ).
Культура разработки: важность код-ревью и CI/CD-пайплайнов для контроля сгенерирован