GenAI 13 : Modeli Canlıya Alma (Deployment ve Inference) Production ve Development Ortamları

Generative AI (Üretken Yapay Zeka) video serimizin 13. bölümüne hoş geldiniz!

Modeli eğittik, peki ya şimdi? Bu videoda, yapay zeka modellerinin test ortamından çıkıp gerçek dünyaya adım attığı en kritik aşamayı, yani "Deployment" (Canlıya Alma) sürecini inceliyoruz.

Bir yapay zeka modelini canlıya almanın ne anlama geldiğini ve bu süreçteki en önemli kavram olan "Inference" (Çıkarım) işleminin nasıl çalıştığını keşfedin. Modelin bir kere eğitilmesinin (Training) yüksek maliyetine karşın, asıl kullanım olan "Inference" maliyetlerini nasıl optimize edebiliriz?

Ders notları ve kitabı için : https://onkupon.com/product/uretken-y...
Eğitim Serisinin tamamına erişmek için :    • GenAI : Üretken Yapay Zeka  
Eğitim serisinin sertifika sınavına erişim için : https://onkupon.com/egitim/uretken-ya...

Bu derste, iki temel canlıya alma yöntemini karşılaştırıyoruz:
Batch (Toplu) Inference: Gece çalışan raporlar veya toplu veri işleme gibi anlık olmayan görevler.
Real-time (Gerçek Zamanlı) Inference: Bir chatbot'un size anında cevap vermesi gibi anlık görevler.

Ayrıca CPU, GPU ve TPU gibi donanım ihtiyaçlarının bu süreçleri nasıl etkilediğini ve verinin neden LLM'ler için bir "yakıt" olduğunu tartışıyoruz.

Serimiz toplam 20 videodan oluşacak. Eğitimlerimizi tamamlayıp sertifika sınavlarımıza da katılabilirsiniz!

#YapayZeka #GenerativeAI #Deployment #Inference #MachineLearning #MLOps


0:11 Ana Konu: Modelleri Canlıya (Üretime) Geçirmek
0:17 Test Ortamı vs. Canlı Dünya Farklılıkları
0:27 Canlı Ortamın Maliyet Farklılıkları
0:54 "Deployment" (Canlıya Alma) Nedir?
1:00 "Inference" (Çıkarım) Kavramı Nedir?
1:21 Generative AI'da Deployment Zorlukları (Büyük Modeller, GPU Maliyeti)
2:40 Modelin Eğitimi (Training) vs. Çıkarım (Inference) Süreci
3:09 Maliyet Karşılaştırması: Training (Çok Maliyetli) vs. Inference (Az Maliyetli)
3:55 Deployment'ın İki Yöntemi: Batch ve Real-time
6:05 Yöntem 1: Gerçek Zamanlı (Real-time) Inference (Örn: Chatbotlar)
7:33 Yöntem 2: Toplu (Batch) Inference (Örn: Gece Raporları)
8:55 İki Yöntemin Karşılaştırılması: Avantajlar ve Dezavantajlar
13:30 Teknik Detay: Modelden Gelen Talepler (Requests) ve API Yanıtları
15:37 Donanım Gereksinimleri: CPU, GPU ve TPU Farklılıkları
18:14 Büyük Dil Modellerinin (LLM) Yakıtı: Veri
19:10 Serinin Geleceği: 20 Videoluk Plan
19:23 Sertifika Sınavları Hakkında Bilgi