Vision Transformers : Les transformers pour l'analyse d'image

#transformers #vision #attention
Patreon :   / membership  

Les transformers peuvent-ils remplacer les réseaux à convolution ? Dans cette vidéo j'explore les avantages des transformers et ce que cela apporte pour les domaines de recherche liés au computer vision. Je présente comment le passage d'une représentation emmêlée vers une représentation démêlée est rendu possible. Le contexte global rendu possible par l'utilisation de l'attention. Les kernels dynamiques ainsi que les capacité multi-modal des transformers.

Pour aider à aborder les notions de cette vidéo:
Comprendre les Transformers et les mécanismes d'attention
   • Comprendre les Transformers et les mécanis...  

Slides: https://docs.google.com/presentation/...

00:00 Intro
01:37 Vision & NLP
05:42 Structure
08:04 CNN
09:34 Entangled & disentangled representation
14:30 DETR
18:40 Contexte global
21:00 Kernel dynamique
22:22 VQGAN , DALL - E
26:40 Système de vision de Tesla
20:33 Perceiver IO
30:22 Transformer vs CNN

[Chronique d'une IA]
Spotify : https://open.spotify.com/show/5yTTTKf...
Amazon music : https://music.amazon.fr/podcasts/5097...
Apple Podcasts: https://podcasts.apple.com/us/podcast...

[About me]
Visual Behavior : http://visualbehavior.ai
Perso : https://www.thibaultneveu.ai/
Github : https://github.com/thibo73800
Linkedin :   / thibaultneveu  
Twitter :   / thiboneveu