Jak serwować LLM Bielik-11B 🦅 - Tutorial #17
Автор: ML-Workout
Загружено: 2024-12-03
Просмотров: 8818
W tym odcinku pokazujemy krok po kroku - jak zaserwować model Bielik-11B na swojej maszynie wirtualnej
» Zapisz do naszej listy mailowej, aby otrzymać video Tutorial konfiguracji maszyny do serwowania Bielika: https://ml-workout.pl/gpu-vm
Bielik (https://bielik.ai/) jest polskim modelem językowym zbudowanym na bazie modelu Mistral-7B. Jest oparty na architekturze transformer, będąc modelem typu decoder-only. Jest jednym z najpotężniejszych modeli językowych stworzonych w Polsce (źródło: https://bielik.ai/)
Wojtek Mikołajczyk
LinkedIn: / wojciech-mikolajczyk
Blog: https://womiko.me
Marcin Zabłocki
LinkedIn: / marrrcin
Blog: https://zablo.net/
Timestamps:
0:00 - Intro
0:30 - Plan odcinka
1:20 - LitServe
2:08 - vLLM
3:00 - Implementacja
5:40 - Bielik
12:25 - Docker
16:00 - Odpalamy serving!
18:05 - Testujemy model
19:39 - Format OpenAI API
25:20 - Zabezpieczenie API Key
27:00 - Zakończenie
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке:
![20 porad n8n o których nie miałeś pojęcia [2025]](https://ricktube.ru/thumbnail/RcA681P22EU/mqdefault.jpg)
