CMU Advanced NLP Fall 2025 (6): Pretraining
Автор: Sean Welleck
Загружено: 2025-09-11
Просмотров: 351
This lecture (by Sean Welleck) for CMU CS 11-711, Advanced NLP covers:
Masked language modeling objective
Autoregressive language modeling objective
Data: Sources, Quality, and Quantity
Tokens, model size, compute
Scaling laws
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке: