Как же на самом деле работает ChatGPT? За экраном!

Воспользуйтесь СПЕЦИАЛЬНЫМ ПРЕДЛОЖЕНИЕМ для MagellanTV здесь: https://try.magellantv.com/arvinash Начните бесплатный пробный период СЕГОДНЯ, чтобы посмотреть передачу «Tech Talk» о новых технологиях, преобразующих нашу планету: https://www.magellantv.com/series/tec...

ВИДЕО С ДОПОЛНИТЕЛЬНОЙ ИНФОРМАЦИЕЙ:
   • How the MIND of an AI Actually works! Insi...  

Чтобы оставить отзыв о видео и получить ранний доступ, присоединяйтесь ко мне здесь:
  / arvinash  

ССЫЛКИ
Тема видео: https://chat.openai.com/chat
Подробный обзор работы ChatGPT: https://tinyurl.com/2o9v93ou
Факты о ChatGPT: https://tinyurl.com/2ar9bhdr

ГЛАВЫ:
0:00 Что такое ChatGPT?
1:33 Предложение Magellan
2:31 Чем ChatGPT отличается от Google
4:26 Обзор работы ChatGPT
7:07 Простой пример того, что происходит за кулисами
9:45 Что выходит за рамки автодополнения предложений
10:21 Три этапа процесса предобучения
13:24 Огромный используемый набор данных

КРАТКОЕ ОПИСАНИЕ
ChatGPT — это интеллектуальный чат-бот, использующий обработку естественного языка. GPT расшифровывается как Generative Pre-trained Transformer (Генеративный предобученный преобразователь), что означает, что он генерирует ответы, предварительно обучается людьми и преобразует входные данные в выходные данные. Эта модель была создана исследовательской компанией OpenAI, занимающейся исследованиями в области искусственного интеллекта.

Преимущество ChatGPT заключается в способности интерпретировать контекст и смысл запроса и выдавать релевантный ответ на грамматически правильном и естественном языке, основываясь на информации, на которой он был обучен.

Он использует нейронные сети с контролируемым обучением и обучением с подкреплением — двумя ключевыми компонентами современного машинного обучения. Его основная задача — предсказать, какие слова, фразы и предложения, скорее всего, будут связаны с введенными данными. Затем он выбирает слова и предложения, которые, по его мнению, наиболее вероятно связаны с этими данными. Таким образом, он пытается понять вашу подсказку и выводит слова и предложения, которые, по его мнению, наилучшим образом отвечают на ваш вопрос, основываясь на данных, на которых он был обучен.

Он также рандомизирует некоторые выходные данные, так что ответы, которые вы получаете на одни и те же входные данные, часто будут отличаться. Принцип работы ChatGPT заключается в том, что он пытается определить, какие слова, скорее всего, ожидаются, изучив, как ваши входные данные соотносятся со словами, написанными на миллиардах веб-страниц, книг и других данных, на которых он был обучен.

Но это не похоже на функцию предиктивного ввода текста на вашем телефоне, которая просто угадывает слово, основываясь на буквах. ChatGPT пытается создавать полностью связные предложения в ответ на любые входные данные. И он не останавливается на уровне предложений. Он генерирует предложения и даже абзацы, которые могут следовать за вашими данными. Если попросить его закончить предложение: «Квантовая механика — это…», то процесс, который происходит за кулисами, выглядит примерно так: он вычисляет на основе всех вхождений этого текста, какое слово будет следующим и в какой процент времени. Он не смотрит на текст буквально, а ищет совпадения по контексту и значению.

В результате он создаёт ранжированный список слов, которые могут следовать за ним, вместе с их «вероятностями». Таким образом, его расчёты могут дать что-то вроде этого для следующего слова, которое будет следовать за словом «is»:

a 4,5%
based 3,8%
foundally 3,5%
descriptioned 3,2%
many 0,7%
Он выбирает следующее слово, основываясь на этом.

Но модели завершения предложений недостаточно, потому что вы можете попросить его сделать что-то, для чего эта стратегия может быть неподходящей.

На первом этапе процесса обучения люди-подрядчики играют роль как пользователя, так и идеального чат-бота. Каждое обучение представляет собой беседу, цель которой – научить модель вести диалоги, подобные человеческим.

Благодаря этому контролируемому процессу обучения человеком, модель учится выдавать результат, который представляет собой нечто большее, чем просто завершение предложений. Она изучает закономерности, связанные с контекстом и значением различных входных данных, чтобы иметь возможность реагировать соответствующим образом.

Однако обучение человеком имеет ограничения масштаба. Люди-тренеры не могут предвидеть все вопросы, которые могут быть заданы. Для этого используется третий этап, называемый обучением с подкреплением. Это разновидность обучения без учителя. В этом процессе модель обучается, когда ни с одним заданным входным данным не связан какой-либо конкретный выходной сигнал.

Вместо этого модель обучается изучать базовый контекст и закономерности во входных данных на основе ранее полученного обучения человеком.

#chatgpt
Таким образом, модель может обрабатывать огромное количество данных из различных источников и изучать закономерности в текстах и ​​предложениях практически неограниченного числа людей. Набор данных, используемый для ...