Intro to Sentence Embeddings with Transformers

Автор: James Briggs

Загружено: 2021-10-20

Просмотров: 29233

Описание:

Transformers have wholly rebuilt the landscape of natural language processing (NLP). Before transformers, we had okay translation and language classification thanks to recurrent neural nets (RNNs) - their language comprehension was limited and led to many minor mistakes, and coherence over larger chunks of text was practically impossible.

Since the introduction of the first transformer model in the 2017 paper 'Attention is all you need', NLP has moved from RNNs to models like BERT and GPT. These new models can answer questions, write articles (maybe GPT-3 wrote this), enable incredibly intuitive semantic search - and much more.

In this video, we will explore how these embeddings have been adapted and applied to a range of semantic similarity applications by using a new breed of transformers called 'sentence transformers'.

🌲 Pinecone article:
https://www.pinecone.io/learn/sentenc...

Vectors in ML:
   • NLP for Semantic Search Course

🤖 70% Discount on the NLP With Transformers in Python course:
https://bit.ly/3DFvvY5

🎉 Subscribe for Article and Video Updates!
  / subscribe
  / membership

👾 Discord:
  / discord

Intro to Sentence Embeddings with Transformers

Доступные форматы для скачивания:

Скачать видео mp4

Информация по загрузке:

Скачать аудио mp3

Похожие видео

Fine-tune Sentence Transformers the OG Way (with NLI Softmax loss)

Fine-tune Sentence Transformers the OG Way (with NLI Softmax loss)

Визуализация внимания, сердце трансформера | Глава 6, Глубокое обучение

Визуализация внимания, сердце трансформера | Глава 6, Глубокое обучение

Intro to Dense Vectors for NLP and Vision

Intro to Dense Vectors for NLP and Vision

Трансформаторы предложений — ОБЪЯСНЕНИЕ!

Трансформаторы предложений — ОБЪЯСНЕНИЕ!

Объяснение Transformers: понимание модели, лежащей в основе GPT, BERT и T5

Объяснение Transformers: понимание модели, лежащей в основе GPT, BERT и T5

Positional Encoding in Transformer Neural Networks Explained

Positional Encoding in Transformer Neural Networks Explained

Почему «Трансформеры» заменяют CNN?

Почему «Трансформеры» заменяют CNN?

What are Word Embeddings?

What are Word Embeddings?

Объяснение BERT: обучение, вывод, BERT против GPT/LLamA, тонкая настройка, токен [CLS]

Объяснение BERT: обучение, вывод, BERT против GPT/LLamA, тонкая настройка, токен [CLS]

Vectoring Words (Word Embeddings) - Computerphile

Vectoring Words (Word Embeddings) - Computerphile

Какой будет ИНТЕРНЕТ в 2026? (Спойлер: VPN уже не поможет)

Какой будет ИНТЕРНЕТ в 2026? (Спойлер: VPN уже не поможет)

Внимание — это всё, что вам нужно (Transformer) — объяснение модели (включая математику), вывод и...

Внимание — это всё, что вам нужно (Transformer) — объяснение модели (включая математику), вывод и...

SBERT (Sentence Transformers) is not BERT Sentence Embedding: Intro & Tutorial (#sbert Ep 37)

SBERT (Sentence Transformers) is not BERT Sentence Embedding: Intro & Tutorial (#sbert Ep 37)

Трансформаторы предложений: встраивание предложений, сходство предложений, семантический поиск и ...

Трансформаторы предложений: встраивание предложений, сходство предложений, семантический поиск и ...

CDS2021 - word embeddings

CDS2021 - word embeddings

Трансформерные нейронные сети — ОБЪЯСНЕНИЕ! (Внимание — это всё, что вам нужно)

Трансформерные нейронные сети — ОБЪЯСНЕНИЕ! (Внимание — это всё, что вам нужно)

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

Sentence Embeddings - EXPLAINED!

Sentence Embeddings - EXPLAINED!

Низкоранговая адаптация больших языковых моделей: объяснение ключевых концепций LoRA

Низкоранговая адаптация больших языковых моделей: объяснение ключевых концепций LoRA

Что такое модели-трансформеры и как они работают?

Что такое модели-трансформеры и как они работают?