Популярное

Музыка Кино и Анимация Автомобили Животные Спорт Путешествия Игры Юмор

Интересные видео

2025 Сериалы Трейлеры Новости Как сделать Видеоуроки Diy своими руками

Топ запросов

смотреть а4 schoolboy runaway турецкий сериал смотреть мультфильмы эдисон
dTub
Скачать

Swin Transformer V2 - Paper explained

Автор: Soroush Mehraban

Загружено: 2023-04-27

Просмотров: 5534

Описание:

In this video, I explain how the swin transformer architecture is modified to make it more scalable and achieve better performance.

Paper link: https://arxiv.org/abs/2111.09883

Table of Content:
00:00 Intro
00:34 Scaling issue
03:41 res-post-norm
04:47 Scaled cosine attention
06:50 Scaling up window resolution
12:02 Continuous relative position bias
16:19 GPU Memory Optimization
19:17 Model configuration
19:49 Image classification comparison

Icon made by Freepik from flaticon.com

Swin Transformer V2 - Paper explained

Поделиться в:

Доступные форматы для скачивания:

Скачать видео mp4

  • Информация по загрузке:

Скачать аудио mp3

Похожие видео

SHViT (CVPR2024): Single-Head Vision Transformer with Memory Efficient Macro Design

SHViT (CVPR2024): Single-Head Vision Transformer with Memory Efficient Macro Design

Swin Transformer — бумажное объяснение

Swin Transformer — бумажное объяснение

Transformers

Transformers

How do Large Language Models (LLMs) Actually work?

How do Large Language Models (LLMs) Actually work?

Свин Трансформер

Свин Трансформер

Введение в графовые нейронные сети

Введение в графовые нейронные сети

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

Vision Transformer Basics

Vision Transformer Basics

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows (paper illustrated)

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows (paper illustrated)

2022 CVPR: Hierarchical Image Pyramid Transformer

2022 CVPR: Hierarchical Image Pyramid Transformer

Swin Transformer paper animated and explained

Swin Transformer paper animated and explained

Изображение стоит 16x16 слов: Трансформеры для масштабного распознавания изображений (с пояснения...

Изображение стоит 16x16 слов: Трансформеры для масштабного распознавания изображений (с пояснения...

Analyzing Swin Transformer: A Code Walkthrough

Analyzing Swin Transformer: A Code Walkthrough

CS480/680 Lecture 19: Attention and Transformer Networks

CS480/680 Lecture 19: Attention and Transformer Networks

Почему диффузия работает лучше, чем авторегрессия?

Почему диффузия работает лучше, чем авторегрессия?

Masked Autoencoders (MAE) Paper Explained

Masked Autoencoders (MAE) Paper Explained

Vision Transformer for Image Classification

Vision Transformer for Image Classification

Нейронные сети Transformer, созданные с нуля

Нейронные сети Transformer, созданные с нуля

Почему «Трансформеры» заменяют CNN?

Почему «Трансформеры» заменяют CNN?

SWIN-трансформатор (распознавание изображений)

SWIN-трансформатор (распознавание изображений)

© 2025 dtub. Все права защищены.



  • Контакты
  • О нас
  • Политика конфиденциальности



Контакты для правообладателей: [email protected]