Qwen-Image-2512 ve Z-Image-Turbo özellikle yazı üretimi için incelenmeli. Qwen ailesi karmaşık text rendering ve düzenlemede, Z-Image ise 16 GB tüketici sınıfında fotogerçekçilik ve EN/Çince metinde öne çıkıyor.
RTX 3090 24 GB'nin 2026 local AI değeri: 20-35B LLM, kodlama, FLUX.2, vision, video ve 4090 karşılaştırmalı kapasite rehberi.
RTX 3090 eski nesil olsa da 24 GB VRAM nedeniyle yerel AI'da hâlâ özel konumdadır. Model kapasitesi 4090 ile aynı 24 GB sınıfında; fark daha çok inference hızı, güç tüketimi ve yeni mimari optimizasyonlarındadır.
Önemli: model dosyası boyutu tek başına yeterli değildir. KV cache, context, vision encoder, runtime çalışma alanı ve eşzamanlı istekler ek bellek tüketir.
GeForce RTX 3090 · 24 GB GDDR6X için 'çalışır' ifadesini üçe ayırıyoruz: modelin ağırlıkları tamamen hızlandırıcı belleğinde kalabiliyorsa rahat; bir miktar offload veya düşük context gerekiyorsa sınırda; model donanımın belleğinin belirgin biçimde üzerindeyse doğal hedef değil.
Benchmark sonuçları farklı backend, sürücü, quantization, prompt uzunluğu, batch ve güç limitiyle değişir. Bu sayfada resmî model kartı/Ollama dosya boyutu ile YouTube veya topluluk cihaz testleri birbirinden ayrı etiketlenmiştir; topluluk ölçümü garanti edilen ürün performansı olarak sunulmaz.
| Model | Boyut / bellek | İş yükü | Durum | Teknik değerlendirme |
|---|---|---|---|---|
| Qwen3.5 27B Q4_K_M | 17 GB | LLM · Vision · Kod | Rahat | 24 GB sınıfında güçlü genel/kodlama seçeneği; uzun bağlam ayrıca bellek tüketir. |
| Qwen3.5 35B-A3B INT4 | 20 GB | MoE LLM · Vision | Rahat | 24 GB kartta uygulanabilir; aktif parametre az olsa da toplam ağırlıkların bellekte tutulması gerekir. |
| Gemma 4 26B-A4B | 18 GB Ollama sınıfı | MoE LLM · Vision · Kod | Rahat | 24 GB kartlarda güçlü kalite/kapasite dengesi sunan adaylardan. |
| gpt-oss-20b | 16 GB bellek hedefi | Reasoning · Agent · Kod | Rahat | OpenAI resmi olarak 16 GB bellekte çalışabildiğini belirtiyor; bağlam ve backend ek yükü ayrıca değerlendirilir. |
| FLUX.2 Klein 4B | ~13 GB VRAM | Görsel üretim · Düzenleme | Rahat | Resmi model kartı yaklaşık 13 GB VRAM ve RTX 3090/4070 ve üzerini hedefliyor. |
| Qwen3.5 35B-A3B Q4 | 24 GB | MoE LLM · Vision | Sınırda / ayar gerekir | 24 GB kart için ağırlık düzeyinde tavana dayanır; 32 GB sınıfı daha güvenli. |
| Wan2.2 TI2V-5B | 5B video modeli | T2V · I2V · 720p | Sınırda / ayar gerekir | Resmi kart 720p/24 fps ve tek RTX 4090 sınıfında çalışma hedefini açıklıyor. |
| Qwen-Image 20B | 20B sınıfı | Görsel üretim · Metin | Sınırda / ayar gerekir | Karmaşık metin yerleşimi, özellikle Çince/İngilizce yazı ve düzenleme işlerinde güçlü; quantized/offload planı gerekir. |
| gpt-oss-120b | 80 GB bellek hedefi | Reasoning · Agent | Bu donanım için doğal hedef değil | OpenAI MXFP4 ile 80 GB bellek hedefi veriyor; tipik oyuncu GPU'ları için sistem RAM/offload gerekir. |
24 GB kapasite 27B coding modelini CPU'ya taşımadan çalıştırma açısından değerlidir. İkinci el maliyet/VRAM oranı nedeniyle yerel AI sunucularında hâlâ sık değerlendirilir.
GeForce RTX 3090 · 24 GB GDDR6X üzerinde vision/multimodal modellerde yalnız ağırlık boyutuna değil görsel encoder belleğine ve context uzunluğuna da bakılmalıdır. Qwen3.5 ve Gemma 4 gibi güncel ailelerde görüntü girişi desteklenebilir; yüksek çözünürlüklü çoklu görsel istekleri aynı metin modelinden daha fazla bellek tüketebilir.
BFL, FLUX.2 Klein 4B için RTX 3090'ı doğrudan erişilebilir GPU örneği olarak veriyor. Bu nedenle 3090 yalnız LLM değil görsel üretim için de net bir referanstır.
Video modelleri çalışabilir; fakat 4090'a göre süre uzayabilir. Modelin VRAM'e sığması ile üretim hızının aynı şey olmadığı özellikle vurgulanmalıdır.
24 GB VRAM için Q4/INT4 quantization çoğu zaman kapasiteyi belirleyen ana araçtır. Model ağırlıkları belleğe sığsa bile KV cache ve runtime için güvenli pay bırakılmalıdır. CPU/system RAM offload modeli çalıştırabilir, ancak PCIe veya sistem belleği bant genişliği nedeniyle tam GPU-resident inference kadar hızlı olmayabilir.
Aşağıdaki Intelligence skoru local.ai tarafından τ²-bench, GAIA ve GDPval bileşimiyle hesaplanıyor. Bu sıralama model kalitesine yönelik bir referanstır; modelin sizin VRAM/RAM kapasitenize sığdığını göstermez. Bu yüzden bu tabloda kaliteyi, yukarıdaki uyumluluk tablosunda ise gerçek bellek sınırını ayrı ele alıyoruz.
| Model | Geliştirici | Intelligence | Rol | Donanım notu |
|---|---|---|---|---|
| Step 3.7 Flash | StepFun | 78,8 | Genel zekâ / reasoning | local.ai Intelligence lideri; skor donanım uyumluluğu anlamına gelmez. |
| DeepSeek V4 Flash 0731 | DeepSeek | 77,5 | Genel / reasoning / kod | Çok büyük model sınıfı; tüketici GPU'suna sırf 'Flash' adına bakarak uygun kabul edilmemeli. |
| Qwen3.6 27B | Qwen / Alibaba | 76,5 | Genel / coding / multimodal | 27B sınıfı güncel kalite referansı; checkpoint ve quantization boyutu ayrıca doğrulanmalı. |
| Qwen3.6 35B-A3B | Qwen / Alibaba | 74,9 | MoE / agent / multimodal | Aktif parametre düşük olsa da model ağırlıklarının bellek yerleşimi ayrıca hesaplanır. |
| Gemma 4 31B IT | 66,2 | Multimodal / coding / reasoning | Yerel kullanımda quantization ve context VRAM ihtiyacını belirler. | |
| Nemotron 3.5 Lightning | NVIDIA | 65,5 | Agent / reasoning | 30B-A3B sınıfı güncel NVIDIA yerel/agent modeli. |
| Qwen3.5 9B Base | Qwen / Alibaba | 59,3 | Küçük-orta local LLM | Ollama Q4 6,6 GB sınıfı nedeniyle 8 GB donanımlarda pratik önemi yüksek. |
| gpt-oss-20b | OpenAI | 43,3 | Reasoning / agent / coding | OpenAI resmi minimumu 16 GB bellek; benchmark skoru tek başına model seçimi değildir. |
local.ai metodolojisi: Intelligence = %10 τ²-bench + %35 GAIA + %55 GDPval. Decode/prefill ölçümleri 32K soğuk context ve tek stream üzerinde raporlanır. Skorlar ve model sürümleri zamanla değişebilir.
| Tür | Model | Bellek referansı | Öne çıktığı alan | Model kartı |
|---|---|---|---|---|
| Görsel | FLUX.2 Klein 4B | ~13 GB VRAM | Hızlı yerel üretim, düzenleme, multi-reference | Hugging Face ↗ |
| Görsel | Z-Image-Turbo 6B | 16 GB tüketici sınıfı | Fotogerçekçilik, EN/Çince metin, 8 NFE | Hugging Face ↗ |
| Görsel | Qwen-Image-2512 | 20B model ailesi | Metin doğruluğu, layout, multimodal entegrasyon | Hugging Face ↗ |
| Video | Wan2.2 TI2V-5B | 4090 resmi tüketici örneği | T2V + I2V, 720p, 24 fps | Hugging Face ↗ |
| Video | Motif-Video-2B | 2B sınıfı | Üretici değerlendirmesinde VBench toplam 83,76 | Hugging Face ↗ |
| Video + Ses | LTX-2.5 | Checkpoint/precision'a göre | Açık ağırlık, yerel çalıştırma, senkron video + ses | Hugging Face ↗ |
| Video + Ses | MiniMax H3 | 33B sınıfı | 2K'ya kadar, 15 sn'ye kadar, native stereo audio; lisansı ticari kullanım öncesi okunmalı | Hugging Face ↗ |
Qwen-Image-2512 ve Z-Image-Turbo özellikle yazı üretimi için incelenmeli. Qwen ailesi karmaşık text rendering ve düzenlemede, Z-Image ise 16 GB tüketici sınıfında fotogerçekçilik ve EN/Çince metinde öne çıkıyor.
FLUX.2 Klein 4B için resmî yaklaşık 13 GB VRAM hedefi var. 16 GB kartlar burada 8 GB kartlara göre doğrudan farklı bir sınıfa geçiyor.
Wan2.2 5B olgun 720p/24 fps referansı; Motif-Video-2B daha küçük araştırma seçeneği; LTX-2.5 senkron ses-video; MiniMax H3 ise çok daha ağır 33B omni-modal sınıf. “En yeni” ile “donanımınıza en uygun” aynı şey değildir.
| Model | Ölçüm / veri | Kaynak türü | Ne gösteriyor? |
|---|---|---|---|
| FLUX.2 Klein 4B | ~13 GB | Resmi model kartı | RTX 3090 doğrudan destek örneği |
| 3090 vs çift 3060 | 24 GB sınıfı | YouTube benchmark | Maliyet/performans karşılaştırması |
| 3090 AI değerlendirmesi | 2026 | YouTube | Güncel kullanım testi |
Benchmark sonuçları farklı backend, sürücü, quantization, prompt uzunluğu, batch ve güç limitiyle değişir. Bu sayfada resmî model kartı/Ollama dosya boyutu ile YouTube veya topluluk cihaz testleri birbirinden ayrı etiketlenmiştir; topluluk ölçümü garanti edilen ürün performansı olarak sunulmaz.
Evet; ancak doğru model 24 GB VRAM sınırına göre seçilmelidir. Tablodaki 'rahat' modeller başlangıç için en güvenli gruptur.
Hayır. KV cache, context, runtime alanı, GPU mimarisi, bellek bant genişliği ve laptoplarda TGP/soğutma hızı değiştirir.
VRAM sınırlıysa Q4 çoğu zaman daha fazla context ve tamamen GPU'da çalışma avantajı sağlar. Q8 kalite kazanımı göreve göre değişir ve iki kata yakın ağırlık belleği isteyebilir.
Hayır. Sistem RAM'i offload alanı sağlar; ayrık GPU'nun VRAM kapasitesini büyütmez. Unified-memory cihazlar ayrı mimaridir.
Ollama esas olarak LLM/vision inference içindir. FLUX, Z-Image veya Qwen-Image için ComfyUI/Diffusers gibi üretim araçları kullanılır.
Sadece parametre sayısına değil model kartındaki çözünürlük, frame, precision ve donanım gereksinimine bakın. Wan2.2 TI2V-5B resmi olarak 4090 sınıfını örnek verir.
Model ara sıra kullanılacaksa evet; sürekli interaktif kullanımda ciddi yavaşlama varsa daha büyük VRAM'li GPU daha doğru olur.
Modelin ilan edilen maksimum context'i hedef değildir. Gerçek ihtiyacınız kadar context kullanın; uzun context KV cache'i büyütür ve belleği tüketir.
Modelinizin gerçek checkpoint boyutunu, context hedefini ve eşzamanlı kullanıcı sayısını iletin; VRAM/RAM hesabını birlikte çıkaralım.