Как на самом деле ИИ запоминает и почему агенты постоянно забывают

Большинство людей считают, что ИИ «помнит всё» — каждый чат, каждую команду, каждый разговор. Но на самом деле современные системы работают не так. В этом выпуске программы «Сегодня в технологиях» Кит Шоу беседует с генеральным директором Manifest AI Джейкобом Бакманом о том, как на самом деле работает память ИИ, почему чат-боты так сильно отличаются от людей и что должно измениться, чтобы по-настоящему долго работающие цифровые агенты стали реальностью.

Джейкоб простым языком объясняет такие понятия, как краткосрочная и долгосрочная память ИИ, контекстные окна, кэширование ключ-значение и «черновики». Он использует аналогии из медицины и фильма «Помни», чтобы показать, почему современные инструменты ИИ могут отлично справиться с одним разговором, но с трудом остаются сосредоточенными на задаче в течение нескольких часов, дней или проектов. Они также обсуждают галлюцинации, почему простого «увеличения размеров моделей» недостаточно, и как новые архитектуры, такие как сохранение мощности, призваны дать ИИ более человекоподобную способность запоминать то, что действительно важно, с течением времени.

Вы узнаете:
Почему ИИ помнит всё внутри окна чата, но почти ничего между сессиями
Почему современные методы запоминания (резюме, блокноты, огромные контекстные окна) всё ещё неэффективны
Как ограничения памяти препятствуют созданию надёжных агентов ИИ для программирования, исследований и творческой работы
Почему улучшенная долговременная память может уменьшить галлюцинации и повысить доверие к бизнес-сценариям
Что такое «способность к запоминанию» — и как она может изменить следующее поколение систем ИИ

Главы:
00:00 – Действительно ли ИИ помнят всё? (вступление)
00:24 – Добро пожаловать в рубрику «Сегодня в технологиях» + вступительное слово гостя
00:46 – Что люди неправильно понимают о памяти ИИ
01:39 – Как чат-боты «запоминают» в рамках одного разговора
02:19 – Человеческая память против памяти ИИ: что сохраняется между чатами
03:18 – Кэш ключ-значение, контекст и как работает «фотографическая память» ИИ
04:11 – Почему ИИ хранят только короткие заметки на естественном языке между сеансами
05:18 – Аналогия с врачом: ИИ как профессионал, читающий свои заметки
06:15 – Кратковременная память человека против долговременной памяти против двухканальной системы ИИ
07:47 – Почему современные ИИ испытывают трудности с длительными разговорами и задачами
09:18 – Аналогия с «Memento»: ИИ как главный герой, пишущий заметки
10:11 – Почему люди относятся к ИИ как к поиску — и где это дает сбой
11:19 – Ограничения агентов: сосредоточенность на задаче, а не на сложных Многоэтапная работа
11:59 – Программирование агентов, отладка и почему они все еще не справляются
13:21 – Длительные задачи, потеря концентрации и где память становится узким местом
13:44 – Галлюцинации – это отдельная проблема или просто еще один вид ошибки?

15:26 – Масштабирование, исследования и как уменьшить количество ошибок в ИИ
16:00 – Простые поиски против сложных исследовательских задач
16:39 – Почему длительные многоэтапные исследования по-прежнему создают проблемы для современных агентов
17:39 – Является ли долговременная память самым большим узким местом сейчас?

18:44 – Формирование доверия к ИИ, как к новому сотруднику
20:09 – Почему люди чрезмерно доверяют ИИ как нейтральному «суперсудье»
21:27 – Как предприятиям следует безопасно и постепенно внедрять ИИ
22:06 – Что крупные лаборатории делают сегодня с памятью ИИ
22:57 – Контекстные окна и стремление к массивной кратковременной памяти
24:25 – Блокноты, резюме и современные способы улучшения долговременной памяти
25:12 – Почему Джейкоб считает, что нам нужны новые архитектуры
25:38 – Введение «сохранения мощности» против традиционного внимания
26:33 – Почему идеальная фотографическая память на самом деле не идеальна
27:22 – Человеческое забывание как сжатие — и чему ИИ может у него научиться
27:50 – Как сохранение мощности запоминает только то, что имеет значение
28:38 – Масштабирование мощной памяти на протяжении всего опыта ИИ
29:27 – Что открывает улучшенная память для агентов и сложных систем задачи
30:16 – Интеллект за доллар и почему стоимость имеет значение для памяти
31:32 – Точность против креативности: нужна ли креативному ИИ долговременная память?

32:23 – Креативные рабочие процессы, итерация и почему ИИ постоянно «переделывает» проекты
34:01 – От помощника к владельцу долгосрочного видения в креативных проектах
34:57 – Может ли ИИ полностью управлять крупными творческими или продуктовыми проектами?

36:08 – Будет ли «война форматов ИИ» за архитектуры?

37:28 – Инфраструктура, платформы вывода и проблемы внедрения
38:20 – Внимание против удержания: кто станет основой будущих моделей?

39:01 – Переписывание «Memento», если бы у главного героя был искусственный интеллект будущего
40:30 – Смена ролей: ИИ как долгосрочный планировщик, человек как исполнитель краткосрочных задач
41:25 – Завершение цикла: воспоминания о «Memento» и память ИИ
41:41 – Заключительные мысли + что да...