Nella tana del bianconiglio: come fa ChatGPT a ‘capire’ il testo?

I modelli di AI attuali possono sembrare oscuri. In questo video indaghiamo il loro funzionamento e in particolare come rappresentano testo e concetti al loro interno.

00:00 - Intro
01:08 - Tutto come numeri
02:58 - Il problema delle reti neurali
08:42 - Dimmi con chi vai e ti dirò chi sei
12:48 - Word2vec
17:42 - La potenza degli embeddings
22:31 - Vettori Contestuali
28:10 - I transformers
32:09 - Embeddings lookup
33:30 - Attention
36:22 - MLP
40:19 - Unembedding e Softmax

Riferimenti:

Codice per generare la visualizzazione degli embeddings: https://github.com/mensae/gensim-embe...
Paper word2vec: https://arxiv.org/abs/1301.3781
Word2vec in dettaglio: enkk.me/cbow
Visualizzatore di Word2Vec: https://projector.tensorflow.org/
Paper Attention is all You Need: https://arxiv.org/abs/1706.03762
Mechanistic: https://transformer-circuits.pub/


---------------------------------------------------------

Iscriviti al canale per restare aggiornato su tutte le novità del mondo dell'AI (senza hype).

Le mie playlist:
   • Fondamenti di AI  
   • Aggiornamenti AI  
   • Società ed AI  
   • Focus AI  
   • Le performance dell'AI  


Twitch -   / enkk  
Instagram -   / enkkgram  
TikTok -   / enkkclips  
Tutti i miei link - https://linktr.ee/enkk

Edit by    / @coste9   | https://linktr.ee/coste9
Sigla by Pietro Cascavilla |   / pietrocascavilla  

#IntelligenzaArtificiale #OpenAI #Gemini #GPT #FuturoIA #AIGenerativa #News #AggiornamentoTech #transfomers #embeddings