SwAV Loss Deep Dive

Автор: Lightning AI

Загружено: 2020-11-19

Просмотров: 3896

Описание:

In this video, we dive into the loss function used in "SWaV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments".

SwAV is the latest paper from FAIR and Inria to post state of the art results in self-supervised learning. The paper combines ideas from contrastive learning and clustering based approaches to train image representations. The swapped prediction problem loss, used in SwAV, enforces consistency in cluster assignment of representations between different views of the same image.

Check out our previous video featuring walkthrough of SwAV paper with author Mathilde Caron:    • Self-Supervised Learning of Image Features...
And step-by-step PyTorch Lightning implementation of SwAV:    • SwAV PyTorch Lightning Implementation

You can find our implementation in Lightning Bolts, a deep learning research toolkit with SOTA models: https://pytorch-lightning-bolts.readt...

Paper: https://arxiv.org/abs/2006.09882

Join our Discord to participate in the discussion:   / discord
Lightning Website: https://lightning.ai/
Follow us on Twitter:   / lightningai
GitHub: https://github.com/PyTorchLightning/p...

SwAV Loss Deep Dive

Доступные форматы для скачивания:

Скачать видео mp4

Информация по загрузке:

Скачать аудио mp3

Похожие видео

SwAV PyTorch Lightning Implementation

SwAV PyTorch Lightning Implementation

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

Self-Supervised Learning of Image Features with SwAV (with author Mathilde Caron)

Self-Supervised Learning of Image Features with SwAV (with author Mathilde Caron)

Визуализация скрытого пространства: PCA, t-SNE, UMAP | Глубокое обучение с анимацией

Визуализация скрытого пространства: PCA, t-SNE, UMAP | Глубокое обучение с анимацией

Контрастное обучение в PyTorch — Часть 1: Введение

Контрастное обучение в PyTorch — Часть 1: Введение

Контрастная кластеризация с SwAV

Контрастная кластеризация с SwAV

DINO: Emerging Properties in Self-Supervised Vision Transformers

DINO: Emerging Properties in Self-Supervised Vision Transformers

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

Lecture 11.3: Discrete Optimal Transport (cont.) | Sinkhorn Iterations | CVF20

Lecture 11.3: Discrete Optimal Transport (cont.) | Sinkhorn Iterations | CVF20

КАК НЕЛЬЗЯ ХРАНИТЬ ПАРОЛИ (и как нужно) за 11 минут

КАК НЕЛЬЗЯ ХРАНИТЬ ПАРОЛИ (и как нужно) за 11 минут

Почему «Трансформеры» заменяют CNN?

Почему «Трансформеры» заменяют CNN?

SwAV | Lecture 79 (Part 4) | Applied Deep Learning (Supplementary)

SwAV | Lecture 79 (Part 4) | Applied Deep Learning (Supplementary)

Contrastive Learning - 5 Minutes with Cyrill

Contrastive Learning - 5 Minutes with Cyrill

ESP32: распознавание речи нейросетью (TensorFlow Lite)

ESP32: распознавание речи нейросетью (TensorFlow Lite)

There Is Something Faster Than Light

There Is Something Faster Than Light

SWaV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments (Mathilde Caron)

SWaV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments (Mathilde Caron)

ДНК создал Бог? Самые свежие научные данные о строении. Как работает информация для жизни организмов

ДНК создал Бог? Самые свежие научные данные о строении. Как работает информация для жизни организмов

Делаем графические процессоры по-настоящему быстрыми: глубокий анализ эффективности тренировок

Делаем графические процессоры по-настоящему быстрыми: глубокий анализ эффективности тренировок

Но что такое нейронная сеть? | Глава 1. Глубокое обучение

Но что такое нейронная сеть? | Глава 1. Глубокое обучение

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ