Скачать
Кэширование KV: ускорение вывода LLM [Лекция]
Автор: Jordan Boyd-Graber
Загружено: 2025-11-30
Просмотров: 133
Описание:
Это отдельная лекция из курса. Если вам понравился материал,
и вы хотите больше информации (например, о предыдущих лекциях), ознакомьтесь
с полным курсом:
https://users.umiacs.umd.edu/~jbg/tea...
(Включая домашние задания и материалы для чтения.)
Я часто называю LLM/Foundation Models/Frontier Models «Muppet Models». Вот почему:
• What general term should you use for model...
Я получил бесплатную подписку на EdCafe, чтобы добавить её в эти слайды:
https://www.edcafe.ai/
Музыка: / review-and-rest
![Кэширование KV: ускорение вывода LLM [Лекция]](https://ricktube.ru/thumbnail/_quDGLpNols/hq720.jpg)
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке:
![Оптимизация моделей: тонкая настройка, дистилляция, LoRA и QLoRA [Лекция]](https://ricktube.ru/thumbnail/UXa6Uf8TluU/mqdefault.jpg)
![Почему я не сторонник подсказок для ИИ [Лекция]](https://ricktube.ru/thumbnail/hyUeko4GLxo/mqdefault.jpg)
![How to find and measure AI's weak spots [Research, NAACL 2025 Outstanding Paper]](https://ricktube.ru/thumbnail/FHeFVNXeTyg/mqdefault.jpg)
![Адам / AdamW: Чем оптимизатор «по умолчанию» отличается от SGD [Лекция]](https://ricktube.ru/thumbnail/ascWFMmSF2w/mqdefault.jpg)
