Faster LLMs: Accelerate Inference with Speculative Decoding

Speculative Decoding: When Two LLMs are Faster than One

Что такое стек ИИ? Магистратура LLM, RAG и аппаратное обеспечение ИИ

Освоение оптимизации вывода LLM: от теории до экономически эффективного внедрения: Марк Мойу

Is this the YEAR or DECADE of AI Agents & Agentic AI?

Лекция по оптимизации ИИ 01 — Предварительное заполнение против декодирования — Освоение методов ...

How to Make AI More Accurate: Top Techniques for Reliable Results

Глубокое погружение: оптимизация вывода LLM

How to make LLMs fast: KV Caching, Speculative Decoding, and Multi-Query Attention | Cursor Team

Lecture 58: Disaggregated LLM Inference

Understanding LLM Inference | NVIDIA Experts Deconstruct How AI Works

AI Inference: The Secret to AI's Superpowers

RAG vs. CAG: Solving Knowledge Gaps in AI Models

EAGLE and EAGLE-2: Lossless Inference Acceleration for LLMs - Hongyang Zhang

Understanding the LLM Inference Workload - Mark Moyou, NVIDIA

MCP vs. RAG: How AI Agents & LLMs Connect to Data

Knowledge Distillation: How LLMs train each other

RAG vs Fine-Tuning vs Prompt Engineering: Optimizing AI Models

Maximize LLM Inference Performance + Auto-Profile/Optimize PyTorch/CUDA Code

Оптимизация вывода LLM №2: тензорный, экспертный и экспертный параллелизм (TP, DP, EP, MoE)

Structured Output from LLMs: Grammars, Regex, and State Machines