Tensor Atölyesi

Okuyarak değil, kurup bozarak öğrenme. Bir açık modeli kendi donanımında verimli çalıştırıp şirkete API olarak sunmayı öğrenen bir atölye. Python ile kavramlar, Rust ile inference motoru. Türkçe.

1. Transformer'ın içi: dil modelini sıfırdan yazmak
2. Mac'te inference: llama.cpp ve MLX
3. vLLM kavramları: KV cache, batching, quantization
4. Rust ile inference: candle
5. Kiralık GPU'da vLLM ve tensor parallel
6. GPU altyapısı: CUDA, Docker, Kubernetes
7. Fine-tuning ve eval
8. Platform katmanı: gateway, metrikler, maliyet