Объяснение и анализ атак, связанных с отравлением данных с помощью искусственного интеллекта и ма...

Состязательный искусственный интеллект и машинное обучение представляют собой растущую угрозу в кибербезопасности и науке о данных. Алгоритмы уязвимы для новых типов скрытных и эффективных кибератак. Злоумышленники могут изменять модели машинного обучения и искусственного интеллекта, не получая доступа к своим системам. Это называется отравлением данных или отравлением моделей. Узнайте больше.

Главы:
00:00 Последствия
00:56 Объяснение отравления данных
02:20 Порог отравления
04:21 Цели атак
05:07 Атаки через бэкдоры
07:27 Векторы атак
10:38 Уязвимость
12:46 Стратегии атак
14:34 Предыдущие успешные атаки

Источники:
#1. https://arxiv.org/pdf/1804.00792.pdf
#2. https://github.com/aks2203/poisoning-...
https://citeseerx.ist.psu.edu/viewdoc...
https://www.energy.gov/sites/default/...
https://arxiv.org/pdf/2009.07008.pdf
https://www .usenix.org/system/files/sec21fall-severi.pdf
https://arxiv.org/pdf/1811.00121.pdf
https://arxiv.org/pdf/1811.09982.pdf
https://arxiv.org/pdf/2006.12557.pdf
https://citeseerx.ist.psu.edu/viewdoc...
https://ieeexplore.ieee.org/stamp/sta... 685687
https://www.forbes.com/sites/naveenjo...
https://blogs.microsoft.com/blog/2016...
https://atlas.mitre.org/studies/AML.C...
https://arxiv.org/pdf/2007 .08432.pdf
https://manuscriptlink-society-file.s...
https://citeseerx.ist.psu.edu/viewdoc...
https://arxiv.org/pdf/1910.00033.pdf
https://arxiv.org/pdf/2012.03765.pdf -knearest
https://elie.net/blog/ai/attacks-agai...
https://people.eecs.berkeley.edu/~tyg...
https://arxiv.org/pdf/1804.00792.pdf