Arama Yap Mesaj Gönder
Biz Sizi Arayalım
+90
X

Lütfen Ülke (Bölge) Seçiniz

Türkiye (Türkçe)Türkiye (Türkçe) Almanya (German)Almanya (German) Worldwide (English)Worldwide (English)
X

Lütfen Para Birimi Seçiniz

Türk Lirası $ US Dollar Euro
X

Lütfen Ülke (Bölge) Seçiniz

Türkiye (Türkçe)Türkiye (Türkçe) Almanya (German)Almanya (German) Worldwide (English)Worldwide (English)
X

Lütfen Para Birimi Seçiniz

Türk Lirası $ US Dollar Euro

Bize Ulaşın

Konum Halkalı merkez mahallesi fatih cd ozgur apt no 46 , Küçükçekmece , İstanbul , 34303 , TR
LOCAL AI · 2026 DONANIM REHBERİ

RTX 4090 24 GB için En İyi Local LLM ve AI Modelleri

RTX 4090 24 GB VRAM ile Qwen3.5, Gemma 4, gpt-oss, FLUX.2 ve Wan2.2 kullanımı; model boyutu, context ve gerçekçi performans rehberi.

GeForce RTX 4090 · 24 GB GDDR6X24 GB VRAMSon teknik kontrol: 13 Ağustos 2026
VRAM / RAM24 GB VRAM
  • LLM / Coding
  • Vision
  • Image
  • Video
Kısa karar

24 GB RTX 4090, 20-27B quantized modeller için güçlü tek-GPU noktasıdır. Qwen3.5 27B Q4 17 GB ve 35B-A3B INT4 20 GB gibi seçenekler sığar; 24 GB Q4 varyantı ise KV cache için boşluk bırakmadığından sınırdadır.

VRAM ≠ sistem RAM

Önemli: model dosyası boyutu tek başına yeterli değildir. KV cache, context, vision encoder, runtime çalışma alanı ve eşzamanlı istekler ek bellek tüketir.

01
Donanım ve bellek gerçeği

GeForce RTX 4090 · 24 GB GDDR6X

GeForce RTX 4090 · 24 GB GDDR6X için 'çalışır' ifadesini üçe ayırıyoruz: modelin ağırlıkları tamamen hızlandırıcı belleğinde kalabiliyorsa rahat; bir miktar offload veya düşük context gerekiyorsa sınırda; model donanımın belleğinin belirgin biçimde üzerindeyse doğal hedef değil.

Benchmark sonuçları farklı backend, sürücü, quantization, prompt uzunluğu, batch ve güç limitiyle değişir. Bu sayfada resmî model kartı/Ollama dosya boyutu ile YouTube veya topluluk cihaz testleri birbirinden ayrı etiketlenmiştir; topluluk ölçümü garanti edilen ürün performansı olarak sunulmaz.

02

Model uyumluluk matrisi

10 model / varyant
ModelBoyut / bellekİş yüküDurumTeknik değerlendirme
Qwen3.5 27B Q4_K_M17 GBLLM · Vision · KodRahat24 GB sınıfında güçlü genel/kodlama seçeneği; uzun bağlam ayrıca bellek tüketir.
Qwen3.5 35B-A3B INT420 GBMoE LLM · VisionRahat24 GB kartta uygulanabilir; aktif parametre az olsa da toplam ağırlıkların bellekte tutulması gerekir.
Gemma 4 26B-A4B18 GB Ollama sınıfıMoE LLM · Vision · KodRahat24 GB kartlarda güçlü kalite/kapasite dengesi sunan adaylardan.
gpt-oss-20b16 GB bellek hedefiReasoning · Agent · KodRahatOpenAI resmi olarak 16 GB bellekte çalışabildiğini belirtiyor; bağlam ve backend ek yükü ayrıca değerlendirilir.
FLUX.2 Klein 4B~13 GB VRAMGörsel üretim · DüzenlemeRahatResmi model kartı yaklaşık 13 GB VRAM ve RTX 3090/4070 ve üzerini hedefliyor.
Wan2.2 TI2V-5B5B video modeliT2V · I2V · 720pRahatResmi kart 720p/24 fps ve tek RTX 4090 sınıfında çalışma hedefini açıklıyor.
Qwen3.5 35B-A3B Q424 GBMoE LLM · VisionSınırda / ayar gerekir24 GB kart için ağırlık düzeyinde tavana dayanır; 32 GB sınıfı daha güvenli.
Gemma 4 31B31B sınıfıDense LLM · Vision · KodSınırda / ayar gerekir24-32 GB üstü quantization planı gerektirir; bağlam büyüdükçe ek VRAM tüketir.
Qwen-Image 20B20B sınıfıGörsel üretim · MetinSınırda / ayar gerekirKarmaşık metin yerleşimi, özellikle Çince/İngilizce yazı ve düzenleme işlerinde güçlü; quantized/offload planı gerekir.
gpt-oss-120b80 GB bellek hedefiReasoning · AgentBu donanım için doğal hedef değilOpenAI MXFP4 ile 80 GB bellek hedefi veriyor; tipik oyuncu GPU'ları için sistem RAM/offload gerekir.
03 · Kodlama ve agent modelleri

Kodlama ve agent modelleri

24 GB VRAM, kodlama ajanları için 27B sınıfının gerçekçi kullanım alanıdır. Modelin tamamını GPU'da tutmak, araç çağrıları ve uzun repository bağlamında CPU offload gecikmesini azaltır.

Qwen3.54B · 9B · 27B · 35B-A3B
gpt-oss20b · 120b
Gemma 412B · 26B-A4B · 31B
04 · Vision ve multimodal

Vision ve multimodal

GeForce RTX 4090 · 24 GB GDDR6X üzerinde vision/multimodal modellerde yalnız ağırlık boyutuna değil görsel encoder belleğine ve context uzunluğuna da bakılmalıdır. Qwen3.5 ve Gemma 4 gibi güncel ailelerde görüntü girişi desteklenebilir; yüksek çözünürlüklü çoklu görsel istekleri aynı metin modelinden daha fazla bellek tüketebilir.

Qwen3.5Text + Image · 256K etiketli context
Gemma 4Multimodal · reasoning · coding
05 · Görsel üretim modelleri

Görsel üretim modelleri

FLUX.2 Klein 4B resmi olarak RTX 3090/4070 ve üzeri hedeflediğinden 4090 güçlü bir yerel görsel istasyonudur. Daha büyük Qwen-Image akışlarında quantization/CPU RAM yine önemlidir.

  • FLUX.2 Klein 4B: ~13 GB VRAM resmi hedef
  • Z-Image-Turbo 6B: hızlı yerel üretim, tüketici GPU odağı
  • Qwen-Image 20B: güçlü metin renderı ve düzenleme
06 · Video üretim modelleri

Video üretim modelleri

Wan2.2 TI2V-5B resmi model kartında tek RTX 4090 örneği verilir; 720p 24 fps üretim kapasitesi modelin doğal hedeflerinden biridir.

  • Wan2.2 TI2V-5B: T2V + I2V · 720p · 24 fps
  • LTX-2.3: 22B sınıfı video/ses iş akışları
  • Quantized workflow: topluluk sonuçları resmî minimumdan ayrıdır
07
Quantization, context ve offload

Q4, INT4, Q8, context ve CPU offload nasıl okunmalı?

24 GB VRAM için Q4/INT4 quantization çoğu zaman kapasiteyi belirleyen ana araçtır. Model ağırlıkları belleğe sığsa bile KV cache ve runtime için güvenli pay bırakılmalıdır. CPU/system RAM offload modeli çalıştırabilir, ancak PCIe veya sistem belleği bant genişliği nedeniyle tam GPU-resident inference kadar hızlı olmayabilir.

Model weightsCheckpoint / quantization
+
KV cacheContext × layers × precision
+
RuntimeVision / VAE / workspace
=
Gerçek bellekVRAM + kontrollü offload
08

2026 model radarı: kalite skoru ile donanım uyumluluğunu karıştırmayın

local.ai · canlı benchmark verisi

Aşağıdaki Intelligence skoru local.ai tarafından τ²-bench, GAIA ve GDPval bileşimiyle hesaplanıyor. Bu sıralama model kalitesine yönelik bir referanstır; modelin sizin VRAM/RAM kapasitenize sığdığını göstermez. Bu yüzden bu tabloda kaliteyi, yukarıdaki uyumluluk tablosunda ise gerçek bellek sınırını ayrı ele alıyoruz.

ModelGeliştiriciIntelligenceRolDonanım notu
Step 3.7 FlashStepFun78,8Genel zekâ / reasoninglocal.ai Intelligence lideri; skor donanım uyumluluğu anlamına gelmez.
DeepSeek V4 Flash 0731DeepSeek77,5Genel / reasoning / kodÇok büyük model sınıfı; tüketici GPU'suna sırf 'Flash' adına bakarak uygun kabul edilmemeli.
Qwen3.6 27BQwen / Alibaba76,5Genel / coding / multimodal27B sınıfı güncel kalite referansı; checkpoint ve quantization boyutu ayrıca doğrulanmalı.
Qwen3.6 35B-A3BQwen / Alibaba74,9MoE / agent / multimodalAktif parametre düşük olsa da model ağırlıklarının bellek yerleşimi ayrıca hesaplanır.
Gemma 4 31B ITGoogle66,2Multimodal / coding / reasoningYerel kullanımda quantization ve context VRAM ihtiyacını belirler.
Nemotron 3.5 LightningNVIDIA65,5Agent / reasoning30B-A3B sınıfı güncel NVIDIA yerel/agent modeli.
Qwen3.5 9B BaseQwen / Alibaba59,3Küçük-orta local LLMOllama Q4 6,6 GB sınıfı nedeniyle 8 GB donanımlarda pratik önemi yüksek.
gpt-oss-20bOpenAI43,3Reasoning / agent / codingOpenAI resmi minimumu 16 GB bellek; benchmark skoru tek başına model seçimi değildir.

local.ai metodolojisi: Intelligence = %10 τ²-bench + %35 GAIA + %55 GDPval. Decode/prefill ölçümleri 32K soğuk context ve tek stream üzerinde raporlanır. Skorlar ve model sürümleri zamanla değişebilir.

09

Görsel ve video modeli seçimi: hangisi ne için daha tutarlı?

ComfyUI · Diffusers · local inference
TürModelBellek referansıÖne çıktığı alanModel kartı
GörselFLUX.2 Klein 4B~13 GB VRAMHızlı yerel üretim, düzenleme, multi-referenceHugging Face ↗
GörselZ-Image-Turbo 6B16 GB tüketici sınıfıFotogerçekçilik, EN/Çince metin, 8 NFEHugging Face ↗
GörselQwen-Image-251220B model ailesiMetin doğruluğu, layout, multimodal entegrasyonHugging Face ↗
VideoWan2.2 TI2V-5B4090 resmi tüketici örneğiT2V + I2V, 720p, 24 fpsHugging Face ↗
VideoMotif-Video-2B2B sınıfıÜretici değerlendirmesinde VBench toplam 83,76Hugging Face ↗
Video + SesLTX-2.5Checkpoint/precision'a göreAçık ağırlık, yerel çalıştırma, senkron video + sesHugging Face ↗
Video + SesMiniMax H333B sınıfı2K'ya kadar, 15 sn'ye kadar, native stereo audio; lisansı ticari kullanım öncesi okunmalıHugging Face ↗
Metin / logo / tabela

Qwen-Image-2512 ve Z-Image-Turbo özellikle yazı üretimi için incelenmeli. Qwen ailesi karmaşık text rendering ve düzenlemede, Z-Image ise 16 GB tüketici sınıfında fotogerçekçilik ve EN/Çince metinde öne çıkıyor.

Yerel hızlı görsel

FLUX.2 Klein 4B için resmî yaklaşık 13 GB VRAM hedefi var. 16 GB kartlar burada 8 GB kartlara göre doğrudan farklı bir sınıfa geçiyor.

Yerel video

Wan2.2 5B olgun 720p/24 fps referansı; Motif-Video-2B daha küçük araştırma seçeneği; LTX-2.5 senkron ses-video; MiniMax H3 ise çok daha ağır 33B omni-modal sınıf. “En yeni” ile “donanımınıza en uygun” aynı şey değildir.

08

Benchmark ve doğrulama notları

Resmî + gerçek cihaz
ModelÖlçüm / veriKaynak türüNe gösteriyor?
Wan2.2 TI2V-5B720p · 24 fpsResmi model kartıTek 4090 örneği
Qwen3.5 27B Q417 GBOllama24 GB'da rahat pay
24 GB model testi15B-35B aralığıYouTube 2026Tek GPU gerçek kullanım karşılaştırması
Benchmark okuma kuralı

Benchmark sonuçları farklı backend, sürücü, quantization, prompt uzunluğu, batch ve güç limitiyle değişir. Bu sayfada resmî model kartı/Ollama dosya boyutu ile YouTube veya topluluk cihaz testleri birbirinden ayrı etiketlenmiştir; topluluk ölçümü garanti edilen ürün performansı olarak sunulmaz.

09

Resmî kaynaklar ve gerçek kullanıcı testleri

15 kaynak
10

Sık sorulan sorular

GeForce RTX 4090 · 24 GB GDDR6X ile Ollama çalışır mı?

Evet; ancak doğru model 24 GB VRAM sınırına göre seçilmelidir. Tablodaki 'rahat' modeller başlangıç için en güvenli gruptur.

Model dosyası VRAM'e sığıyorsa kesin hızlı çalışır mı?

Hayır. KV cache, context, runtime alanı, GPU mimarisi, bellek bant genişliği ve laptoplarda TGP/soğutma hızı değiştirir.

Q4 mü Q8 mi seçmeliyim?

VRAM sınırlıysa Q4 çoğu zaman daha fazla context ve tamamen GPU'da çalışma avantajı sağlar. Q8 kalite kazanımı göreve göre değişir ve iki kata yakın ağırlık belleği isteyebilir.

RAM eklemek VRAM'i artırır mı?

Hayır. Sistem RAM'i offload alanı sağlar; ayrık GPU'nun VRAM kapasitesini büyütmez. Unified-memory cihazlar ayrı mimaridir.

Görsel üretmek için Ollama yeterli mi?

Ollama esas olarak LLM/vision inference içindir. FLUX, Z-Image veya Qwen-Image için ComfyUI/Diffusers gibi üretim araçları kullanılır.

Video modeli çalıştırmak için neye bakmalıyım?

Sadece parametre sayısına değil model kartındaki çözünürlük, frame, precision ve donanım gereksinimine bakın. Wan2.2 TI2V-5B resmi olarak 4090 sınıfını örnek verir.

Daha büyük modeli CPU offload ile açmalı mıyım?

Model ara sıra kullanılacaksa evet; sürekli interaktif kullanımda ciddi yavaşlama varsa daha büyük VRAM'li GPU daha doğru olur.

Kaç GB context açmalıyım?

Modelin ilan edilen maksimum context'i hedef değildir. Gerçek ihtiyacınız kadar context kullanın; uzun context KV cache'i büyütür ve belleği tüketir.

11

İlgili local AI rehberleri

EKA SUNUCU · GPU ALTYAPISI

Daha büyük model için GPU sunucu mu gerekiyor?

Modelinizin gerçek checkpoint boyutunu, context hedefini ve eşzamanlı kullanıcı sayısını iletin; VRAM/RAM hesabını birlikte çıkaralım.

Top