Türkei (Türkisch)
Germany (German)
Worldwide (English)
Aktuelles bitsandbytes unterstützt NVIDIA CUDA 11.8-13.0 sowie Intel XPU, Gaudi und CPU.
Halkali Merkez Viertel Fatih Str. Ozgur Apt. No. 46, Kucukcekmece, Istanbul, 34303, TR
CUDA detection failed, fehlendes libcudart.so, libbitsandbytes_cudaXXX.so und CUDA/PyTorch-Mismatch unter Windows, WSL und Linux beheben.
Aktuelles bitsandbytes unterstützt NVIDIA CUDA 11.8-13.0 sowie Intel XPU, Gaudi und CPU.
Die von PyTorch gemeldete CUDA-Runtime muss nicht der separat installierten Toolkit-Version entsprechen; beide Werte zusammen diagnostizieren.
Alte GitHub-Fehler nennen Linux-spezifisches `libcudart.so` oder Source-Builds. Moderne Windows-Wheels existieren; alte Fixes nicht blind übernehmen.
Treiber, GPU, PyTorch-CUDA und bitsandbytes-Version gemeinsam erfassen. Oft existieren unterschiedliche Runtime-, Toolkit- und Treiberversionen.
nvidia-smipython - <<'PY'
import torch, bitsandbytes as bnb
print('torch', torch.__version__)
print('torch cuda', torch.version.cuda)
print('bnb', bnb.__version__)
print('gpu', torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'NO CUDA')
PYpython -m bitsandbytesDie Meldung ist ein Sammelbegriff für fehlende Treiber/Runtime, inkompatible Binaries, konkurrierende CUDA-Pfade oder nicht unterstützte GPU-Architektur.
Unter Linux zeigt XXX meist die CUDA-Variante, die geladen werden soll. Fehlt die Binary, zuerst Paketversion, Overrides und Wheel-Kompatibilität prüfen.
`libcudart.so` ist eine Linux-Library. Unter nativen Windows sind `LD_LIBRARY_PATH`-Fixes falsch; kompatibles Wheel, NVIDIA-Treiber und PyTorch-CUDA-Build verwenden.
Dieser Override ist für fortgeschrittene Fälle gedacht. Ein falscher Wert kann eine funktionierende Umgebung zerstören; zuerst Autodetection testen.
WSL2 nutzt Linux-Userspace, der NVIDIA-Treiber liegt auf dem Windows-Host. Kein zweiter vollständiger Treiber in WSL; Linux-Pakete in der WSL-Umgebung installieren.
bitsandbytes-Features haben unterschiedliche Mindest-Compute-Capabilities. Ein erfolgreicher Import bedeutet auf alten GPUs nicht, dass jede Quantisierung funktioniert.
Gemischte conda/pip-Installationen und alte CUDA-Pfade erschweren die Diagnose. Frisches venv mit minimalen Paketen erstellen; funktioniert es dort, liegt der Fehler wahrscheinlich im alten Environment.
Source-Build ist sinnvoll, wenn offizielle Wheels Ihre CUDA/Architektur nicht abdecken. Bei unterstützten CUDA-Versionen und moderner GPU ist es meist unnötig kompliziert.
| Meldung | Erste Prüfung | Falscher Reflex |
|---|---|---|
| CUDA detection failed | torch.version.cuda + Diagnose | CUDA blind neu installieren |
| libbitsandbytes_cudaXXX.so fehlt | Wheel/bnb-Version | Alten Build-Befehl kopieren |
| libcudart.so fehlt | Linux Runtime Path | LD_LIBRARY_PATH unter Windows |
| No kernel image | GPU Compute Capability | Nur Toolkit ändern |
In einer funktionierenden Trainingsumgebung Pakete nicht blind aktualisieren. GPU, Treiber, CUDA/PyTorch-Runtime, Transformers, Accelerate, PEFT, TRL, bitsandbytes/Diffusers, Modellrevision und Dataset-Fingerprint pro Run protokollieren.
Ja. Aktuelle Versionen unterstützen Windows; alte 'nur Linux'-Hinweise sind veraltet.
PyTorch-Wheels können eigene CUDA-Runtime mitbringen; System-Toolkit und PyTorch-Runtime sind unterschiedliche Ebenen.
Modellgröße, Precision, Context, Batch, LoRA/QLoRA oder Full Fine-Tuning und Multi-GPU gemeinsam bewerten.