Türkiye (Türkçe)
Almanya (German)
Worldwide (English)
Güncel bitsandbytes NVIDIA CUDA 11.8-13.0 aralığını destekler; ayrıca Intel XPU, Gaudi ve CPU backend desteği de vardır.
Halkalı merkez mahallesi fatih cd ozgur apt no 46 , Küçükçekmece , İstanbul , 34303 , TR
CUDA detection failed, libcudart.so bulunamadı, libbitsandbytes_cudaXXX.so yok ve CUDA/PyTorch sürüm uyuşmazlığı hatalarını Windows, WSL ve Linux'ta çözün.
Güncel bitsandbytes NVIDIA CUDA 11.8-13.0 aralığını destekler; ayrıca Intel XPU, Gaudi ve CPU backend desteği de vardır.
PyTorch'un gördüğü CUDA runtime sürümü ile sistemde kurulu CUDA toolkit aynı olmak zorunda değildir; teşhiste `torch.version.cuda` ve bitsandbytes tanılama çıktısı birlikte okunmalıdır.
Eski GitHub hata mesajlarında Linux'a özgü `libcudart.so` veya compile talimatları görülebilir; güncel Windows wheel desteği olduğu için eski çözümleri körlemesine uygulamayın.
Driver, GPU, PyTorch CUDA ve bitsandbytes sürümünü aynı anda kaydedin. Çoğu sorun tek bir 'CUDA version' değildir; Python env içinde bir paket CUDA 12.1 runtime ile, PATH başka toolkit ile, driver ise daha yeni API destekliyor olabilir.
nvidia-smipython - <<'PY'
import torch, bitsandbytes as bnb
print('torch', torch.__version__)
print('torch cuda', torch.version.cuda)
print('bnb', bnb.__version__)
print('gpu', torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'NO CUDA')
PYpython -m bitsandbytesBu mesaj driver yok, CUDA runtime bulunamıyor, uyumsuz binary, birden fazla CUDA path veya wheel'in GPU compute capability'sini desteklememesi gibi farklı nedenlerin üst başlığıdır. Tek satıra bakıp toolkit'i yeniden kurmak yerine tanılama çıktısındaki runtime path ve binary adını okuyun.
Linux'ta `.so` adındaki XXX genellikle bitsandbytes'ın yüklemeye çalıştığı CUDA varyantını gösterir. Paketiniz o binary'yi içermiyorsa bitsandbytes sürümü, CUDA override veya yanlış eski wheel incelenmelidir. Güncel destek matrisine göre uygun wheel kullanmak source compile'dan önce gelmelidir.
`libcudart.so` Linux runtime library'dir. Windows'ta aynı dosyayı aramak veya `LD_LIBRARY_PATH` eklemek doğru çözüm değildir. Güncel bitsandbytes Windows desteğinde doğru Python wheel, NVIDIA driver ve PyTorch CUDA build'i üzerinden ilerlenmelidir.
Bu override, PyTorch'un CUDA runtime'ından farklı bitsandbytes CUDA binary'si yüklemek isteyen ileri kullanıcılar içindir. Yanlış değer seçilirse çalışan ortamı bozabilir. Önce default autodetection ile temiz environment test edilmelidir.
WSL2 içinde Linux user-space kullanılır ama NVIDIA driver Windows host'tadır. NVIDIA'nın CUDA on WSL yaklaşımında Linux içine tam Windows driver'ı tekrar kurmak doğru değildir. PyTorch ve bitsandbytes Linux paketleri WSL environment içine kurulurken driver host tarafından sağlanır.
bitsandbytes her özellik için aynı minimum GPU mimarisini istemez. Resmî kurulum tablosu 8-bit optimizer/NF4 gibi özelliklerde compute capability gereksinimlerini ayrı verir. Çok eski GPU'da paket import olsa bile istediğiniz quantization özelliği çalışmayabilir.
Conda/pip karışımı ve yıllardır biriken CUDA path'leri tanıyı zorlaştırır. Yeni venv oluşturup yalnız PyTorch, Transformers, Accelerate ve bitsandbytes kurarak minimal import testi yapın. Temiz env çalışıyorsa problem sistem driver'ından çok eski environment dependency/path çatışmasıdır.
Resmî wheel sizin CUDA/architecture kombinasyonunuzu desteklemiyorsa source build anlamlıdır. Desteklenen CUDA 11.8-13.0 ve modern GPU kullanırken doğrudan source build'e atlamak gereksiz karmaşıklık yaratabilir.
| Mesaj | İlk kontrol | Yanlış refleks |
|---|---|---|
| CUDA detection failed | torch.version.cuda + python -m bitsandbytes | CUDA'yı rastgele kaldır/kur |
| libbitsandbytes_cudaXXX.so yok | Wheel/bnb sürümü | Eski GitHub make komutunu kopyala |
| libcudart.so yok | Linux runtime path | Windows'ta LD_LIBRARY_PATH |
| No kernel image | GPU compute capability | Sadece toolkit değiştir |
Çalışan eğitim ortamında paketleri rastgele güncellemeyin. GPU modeli, driver, CUDA/PyTorch runtime, transformers, accelerate, peft, trl, bitsandbytes/diffusers sürümleri ile model revision ve dataset fingerprint bilgisini her run için kaydedin. Önce minimal reproducible test oluşturun, sonra production eğitime müdahale edin.
Evet, güncel bitsandbytes Windows desteği sunar. Eski forumlardaki 'yalnız Linux' bilgisi güncel değildir.
PyTorch wheel kendi CUDA runtime'ıyla gelebilir. Sistem toolkit'i ve PyTorch runtime aynı kavram değildir.
Model boyutu, precision, context, batch, LoRA/QLoRA veya full fine-tuning yöntemi ve multi-GPU ihtiyacınızı birlikte değerlendirin; yalnız GPU model adına bakarak kapasite seçmeyin.