Türkiye (Türkçe)
Almanya (German)
Worldwide (English)
Ollama
hafif ve hızlı başlangıçOllama için resmî kurulum, lisans, yedek ve yükseltme belgelerini pilot sürümde doğrulayın.
Halkalı merkez mahallesi fatih cd ozgur apt no 46 , Küçükçekmece , İstanbul , 34303 , TR
Ollama, vLLM ve LocalAI seçeneklerini özellik listesiyle değil; veri sahipliği, kaynak tüketimi, güvenlik, yedekleme, güncelleme ve işletme maliyetiyle karşılaştıran kapsamlı rehber.
Tek bir araç her kuruluş için doğru değildir. Model ağırlıkları, api anahtarları, istek günlükleri, prompt verileri ve önbellekler kritik olduğundan seçim, ekran görüntüsüne veya popülerliğe göre değil; kurtarma hedefi, yetki modeli ve ekip kapasitesine göre yapılmalıdır.
| Seçeneklerin teknik profili | Kapasite planı | Güvenlik kontrolü | Yedekleme ve geri dönüş |
|---|---|---|---|
| Ollama | hafif ve hızlı başlangıç | MFA · TLS · least privilege | DB · files · secrets · restore test |
| vLLM | kurumsal süreç ve yetki | MFA · TLS · least privilege | DB · files · secrets · restore test |
| LocalAI | entegrasyon ağırlıklı ekip | MFA · TLS · least privilege | DB · files · secrets · restore test |
Ollama için resmî kurulum, lisans, yedek ve yükseltme belgelerini pilot sürümde doğrulayın.
vLLM için resmî kurulum, lisans, yedek ve yükseltme belgelerini pilot sürümde doğrulayın.
LocalAI için resmî kurulum, lisans, yedek ve yükseltme belgelerini pilot sürümde doğrulayın.
Ters proxy yalnızca 80/443 portlarını yayımlamalı; uygulama, veritabanı ve kuyruk servisleri özel Docker ağı veya ayrı VLAN üzerinde kalmalıdır. TLS sonlandırma, güvenlik başlıkları, hız sınırlama ve gerçek istemci IP aktarımı test edilmelidir. Ollama, vLLM ve LocalAI aynı iş yükünü çözse bile bileşen sayısı ve hata yüzeyi farklıdır.
Başlangıç boyutu kullanıcı sayısından fazlasına bağlıdır: eş zamanlı oturum, model ağırlıkları, API anahtarları, istek günlükleri, prompt verileri ve önbellekler, arka plan işi, indeksleme ve saklama süresi CPU, RAM ve NVMe ihtiyacını değiştirir. Pilot sırasında p95 yanıt süresi, RAM tepe değeri, disk IOPS ve günlük veri artışı ölçülmeli; en az yüzde 30 büyüme payı bırakılmalıdır.
Yönetici hesabında MFA, ayrı acil durum hesabı ve mümkünse SSO uygulanmalıdır. Varsayılan parolalar, örnek anahtarlar ve geniş yetkili API tokenları kaldırılmalı; sırlar depo dışında tutulmalıdır. Yönetim arayüzü IP/VPN kısıtıyla korunmalı, denetim günlükleri farklı bir hedefe gönderilmelidir.
Yalnızca veritabanı dökümü yeterli değildir. Model ağırlıkları, api anahtarları, istek günlükleri, prompt verileri ve önbellekler, uygulama yapılandırması, şifreleme anahtarları, yüklenen dosyalar ve sürüm bilgisi aynı geri dönüş planında bulunmalıdır. 3-2-1 yaklaşımı, şifreli uzak kopya ve düzenli izole geri yükleme testi kullanılmalıdır.
Önce temsilî kullanıcılarla pilot kurun; SSO, e-posta, webhook, mobil istemci ve dışa aktarma yollarını doğrulayın. Geçiş öncesi değişiklik dondurma saati, son senkronizasyon, DNS TTL düşürme, kabul testi ve geri dönüş eşiği yazılı olmalıdır. Lisans ve eklenti kapsamını üretime geçmeden resmî belgede tekrar kontrol edin.
nvidia-smicurl -fsS http://127.0.0.1:11434/api/tagscurl -fsS http://127.0.0.1:8000/v1/modelsdocker stats --no-streamKüçük bir pilotta Ollama, vLLM ve LocalAI seçeneklerini kendi kimlik, entegrasyon, yedek ve raporlama gereksinimlerinizle puanlayın.
Sabit bir sayı güvenilir değildir; üretici alt sınırı yalnızca başlangıçtır. Pilot ölçümlerine ve büyüme payına göre boyutlandırın.
Sürüm sabitleme, kalıcı volume, sağlık kontrolü, günlük toplama, yedek ve kontrollü güncelleme varsa uygundur.
Sürüm notunu okuyun, yedeği doğrulayın, staging ortamında deneyin ve önceki imaja dönüş yolunu koruyun.
Ayrı bir hedefe geri yükleyip oturum açın, kayıt sayısını ve örnek dosyaların bütünlüğünü kontrol edin.
Orta ölçekli başlangıçlarda NVMe VPS pratiktir; yüksek IOPS, büyük depolama veya GPU gereksinimi fiziksel/GPU sunucuyu öne çıkarabilir.
Kullanıcı, veri büyümesi, yedek hedefi ve beklenen eş zamanlı yükü iletin; uygun kaynak ve mimariyi netleştirelim.