021 Классификация изображений. Часть 14. RegNet (2020)

Интересное исследование провели авторы. Мало того, что они поэтапно сокращали пространство поиска, так ещё проделанные эксперименты должны быть очень полезны для научного сообщества. Например, раньше считали, что чем глубже этап (stage) в нейронной сети, тем лучше. Но авторы показали, что для их сети лучше всего работали модели у которых глубина была 20 блоков.
В PyTorch есть порядка 15 моделей семейства RegNet. Посмотрев видео, вы сможете точно понять какая вам нужна модель и для каких целей её можно использовать. В статье есть и математика и статистика. Но в видео я постарался соблюсти баланс. В какую-то глубокую математику я не стал углубляться, но кое что постарался объяснить. Здесь главной задачей было показать как авторы вносили ограничения в пространства поиска.
В конце видео обучим лучшую модель на датасете Арма и проанализируем результаты.

Таймкоды:
00:00 | Введение
01:44 | Знакомимся с авторами
02:38 | Вводная в RegNet
04:31 | Пространство поиска, пространство дизайна
05:49 | Инструменты анализа качества проектирования пространств дизайна
09:59 | Знакомимся с пространством AnyNet
12:35 | Смысл BottleNeck коэффициента
13:30 | Продолжаем знакомиться с пространством AnyNet
15:16 | Улучшаем пространство AnyNet
19:15 | Квантование и пространство RegNet
26:38 | Полученные результаты при использовании модели RegNet
28:42 | Обучаем модель RegNet_y_16gf и тестируем
31:21 | Анализируем предсказания
34:00 | Заключение