Как отравить искусство ИИ

Nightshade — это новый инструмент для борьбы с ИИ, позволяющий художникам добавлять «яд» в свои цифровые изображения, чтобы серьёзно помешать программам для парсинга изображений.

По сути, он изменяет очень небольшие фрагменты данных в самом изображении, не изменяя его для человеческого глаза, что позволяет обмануть машины, которые его парсят, думая, что это что-то другое. Если в обучающие данные попадёт достаточно много таких изображений, будут получены неправильные изображения.

Интересно будет посмотреть, возможно ли реализовать это в больших масштабах, и, безусловно, будут разработаны меры противодействия, но это интересный способ для художников противостоять парсингу данных ИИ.