Скачать
Transformers, Pipelining and Tensor Parallelism!
Автор: MLStudent Odyssey
Загружено: 2025-07-21
Просмотров: 445
Описание:
Pipelining and tensor parallelism for dummies!
Resources:
Attention is all you need: https://doi.org/10.48550/arXiv.1706.03762
GPT3: https://doi.org/10.48550/arXiv.2005.14165
Megatron-LM paper: https://doi.org/10.48550/arXiv.1909.08053
00:00 - Disclaimer
00:19 - Transformer review
11:03 - Memory
16:49 - Pipelining
27:09 - Tensor Parallelism
48:00 - Outro
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке:
