Faire tourner des modèles d'IA en JavaScript : expérimentation ou réalité ?

Dans cet épisode enregistré aux API Days Paris, Sébastien reçoit Yassine Benabbas, docteur en informatique et developer relations chez Worldline. Yacine présente l'état actuel de l'IA générative côté client, une approche qui permet de faire tourner des modèles directement dans le navigateur plutôt que sur des serveurs distants.
L'épisode explore trois approches principales : OpenCV pour la vision par ordinateur, Transformers.js développé par Hugging Face, and les API Web AI natives en cours de standardisation par le W3C. Yassine détaille les cas d'usage pratiques comme la détection automatique de langue, la traduction en temps réel, ou la reconnaissance d'objets, tout en expliquant les contraintes techniques actuelles.
La conversation aborde les aspects pratiques du développement : téléchargement de modèles pouvant atteindre 1 Go, gestion de la performance avec les Web Workers, support limité aux navigateurs Chrome pour les API natives, et stratégies de fallback vers les serveurs. Yassine démontre ces concepts avec une application de traduction peer-to-peer utilisant Gemini Nano.
L'épisode examine aussi les implications en termes de confidentialité des données, les défis de performance sur différents types d'appareils, et l'évolution attendue de ces technologies encore largement expérimentales vers des solutions de production.

Avec Yassine Benabbas (  / benabbasyassine  ) , DevRel Engineer, Worldline



＜#＞
Ollama (https://ollama.com/)
LLM Studio (https://lmstudio.ai/)
OpenCV (https://opencv.org/)
OpenCV with Python (https://docs.opencv.org/4.x/d6/d00/tu...)
OpenCV en JavaScript (https://docs.opencv.org/4.12.0/d0/d84...)
Transformer JS (https://huggingface.co/docs/transform...)
WebAI (https://developers.webai.com/)