This is What Limits Current LLMs

Автор: Edan Meyer

Загружено: 2024-05-04

Просмотров: 102496

Описание:

Recent advances in large language models (LLMs) have centered around more data, larger models, and larger context lengths. The ability of LLMs to learn in-context (i.e. in-context learning) makes longer context lengths extremely valuable. However, there are some problems with relying on just in-context learning to learn during inference.

Social Media
YouTube - / edanmeyer
Twitter - / ejmejm1

This is What Limits Current LLMs

Доступные форматы для скачивания:

Скачать видео mp4

Информация по загрузке:

Скачать аудио mp3

Похожие видео

Проблема масштабирования ИИ

Проблема масштабирования ИИ

THIS is why large language models can understand the world

THIS is why large language models can understand the world

LLM в беде

This Algorithm Could Make a GPT-4 Toaster Possible

This Algorithm Could Make a GPT-4 Toaster Possible

2 года моих исследований, изложенные за 13 минут

2 года моих исследований, изложенные за 13 минут

RAG vs. CAG: Solving Knowledge Gaps in AI Models

RAG vs. CAG: Solving Knowledge Gaps in AI Models

Точка зрения: что вы увидите во время захвата искусственным интеллектом

Точка зрения: что вы увидите во время захвата искусственным интеллектом

Что такое встраивание слов?

Что такое встраивание слов?

Управление поведением LLM без тонкой настройки

Управление поведением LLM без тонкой настройки

Как 27M Model вообще смогла обойти ChatGPT?

Как 27M Model вообще смогла обойти ChatGPT?

Краткое объяснение больших языковых моделей

Краткое объяснение больших языковых моделей

How DeepSeek Rewrote the Transformer [MLA]

How DeepSeek Rewrote the Transformer [MLA]

Самая сложная модель из тех, что мы реально понимаем

Самая сложная модель из тех, что мы реально понимаем

Большинство разработчиков не понимают, как работают контекстные окна.

Большинство разработчиков не понимают, как работают контекстные окна.

Richard Sutton – Father of RL thinks LLMs are a dead end

Richard Sutton – Father of RL thinks LLMs are a dead end

ИИ - ЭТО ИЛЛЮЗИЯ ИНТЕЛЛЕКТА. Но что он такое и почему совершил революцию?

ИИ - ЭТО ИЛЛЮЗИЯ ИНТЕЛЛЕКТА. Но что он такое и почему совершил революцию?

Доработайте свою степень магистра права за 13 минут. Вот как

Доработайте свою степень магистра права за 13 минут. Вот как

Я 1535 дней веду заметки в Obsidian — вот что реально работает!

Я 1535 дней веду заметки в Obsidian — вот что реально работает!

Ян Лекун: Мы не достигнем AGI, масштабируя LLMS

Ян Лекун: Мы не достигнем AGI, масштабируя LLMS

Большинство разработчиков не понимают, как работают токены LLM.

Большинство разработчиков не понимают, как работают токены LLM.