Inference ve fine-tuning’i planlayın — donanım, VRAM ve maliyet.
Açık kaynak LLM'leri yüzlerce modellik katalogla karşılaştırın; canlı bulut fiyatları, TCO ve token maliyeti analizi. Giriş gerekmez, ücretsizdir.
Hemen Hesapla →Senaryolar ve rakamlar
Bu kartlar sunucuda aynı hesap motoruyla hesaplanır; her biri uygulamada düzenlenebilir.
Çıkarım (Inference)
TTFT, TPOT, token/s ve VRAM — 8B’den 671B MoE’ye kadar.
Fine-Tuning
QLoRA, LoRA ve tam ince ayar için GPU süresi, VRAM ve platform maliyeti.
Canlı Bulut Fiyatları
RunPod, Lambda ve Modal’dan anlık GPU fiyatları; on-prem TCO kıyası.
Hesaplama nasıl yapılıyor?
VRAM gereksinimi
Ağırlıklar = parametre sayısı × parametre başına bayt (niceleme), artı KV cache, aktivasyonlar ve çalışma zamanı ek yükü.
Hız
İlk token süresi (TTFT) hesaplamaya bağlıdır; sonraki her token (TPOT) bellek bant genişliğine bağlıdır. Kullanıcı başına token/s ve sistem toplam çıktısı hesaplanır.
Maliyet
GPU sayısı × saatlik fiyat × süre; 1 milyon token başına maliyet ve bulut sağlayıcılar arası fiyat karşılaştırması.
On-prem TCO ve fine-tuning
Donanım (yatırım) + elektrik/soğutma/bakım (işletme) ve buluta kıyasla başa baş noktası. Fine-tuning: yöntem/çatı + veri seti + GPU saati + platform maliyeti.
Veri kaynakları ve şeffaflık
Canlı GPU fiyatları
GPU fiyatları RunPod, Lambda ve Modal’dan periyodik olarak çekilir ve uygulamada güncel bulut tarifesi olarak gösterilir. Bu sağlayıcılarla sponsorluk, ortaklık ya da bağlantı yoktur — araç bağımsız ve ücretsizdir.
Modeller
Modeller Hugging Face Hub’dan çekilir (açık kaynak, indirme sayısına göre ilk sıralar + Türkçe beyaz liste) ve elle derlenmiş kataloğun üzerine eklenir; mimari veriler mümkün olduğunca HF ile doğrulanır.
Donanım kapsamı
Apple Silicon (yerel cihazlar) ile özel GPU ve model desteği içerir; yerel donanımın bulut fiyatı yoktur.
Hesaplamalar yaklaşık değerlerdir; satın alma kararından önce doğrulayın.
Model listesi Hugging Face Hub’dan canlı çekilir; GPU’lar NVIDIA/AMD/Apple’ı kapsar.