RTX 5090 vs RTX 5080: Welche GPU für lokale KI?
Vergleich mit Fokus auf Lokales LLM : Wir betrachten, worauf es beim Betrieb von Modellen wirklich ankommt – vor allem auf den VRAM, dann auf die Generation und den Preis. Am Ende folgt eine Kaufempfehlung.
Aktualisiert am 05.10.2026
Vergleich auf einen Blick
| Kriterium | RTX 5090 | RTX 5080 |
|---|---|---|
| Speicher | 32 GB VRAM | 16 GB VRAM |
| Marke | NVIDIA | NVIDIA |
| Kompatible Modelle (Q4) | 180 Modelle aus dem Katalog | 141 Modelle im Katalog |
| Größtes Modell (Q4) | Jamba 1.5 Mini (52B) | Qwen 3.8 27B Obliterated (28B) |
Welche Grafikkarte wählen, um ein LLM auszuführen?
Goldene Regel: bei gleichem Budget: Wählen Sie immer die GPU mit dem meisten VRAM. Wenn ein Modell nicht vollständig in den VRAM passt, sinkt seine Geschwindigkeit drastisch (CPU-Offload). Der VRAM bestimmt die Größe des Modells; die Rechenleistung bestimmt vor allem die Geschwindigkeit.
Wo kaufen (aktuelle Preise und Verfügbarkeit)
Kaufalternative: GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395). Ein Mini-PC ist ein vollständiges System, keine Ersatzkarte; prüfen Sie Speicher und Softwarekompatibilität.
Affiliate-Links — QuelLLM kann bei Käufen eine Provision erhalten, ohne dass dies für Sie zusätzliche Kosten verursacht. Dies beeinflusst diesen Vergleich (der unabhängig erstellt wurde) nicht. Als Amazon-Partner erzielt QuelLLM Einnahmen aus qualifizierten Käufen.
Häufige Fragen
RTX 5090 oder RTX 5080, um ein LLM lokal zu betreiben?
Für den lokalen Einsatz ist die VRAM hat Vorrang. Die RTX 5090 (32 GB) kann größere Modelle ausführen als die RTX 5080 (16 GB).
Was ist das größte Modell, das die RTX 5090 ausführen kann?
Bis zu Jamba 1.5 Mini (52B) in Q4-Quantisierung, mit ihren 32 GB.
Sollte man gebraucht kaufen?
Bei LLMs schlägt eine gebrauchte GPU mit mehr VRAM oft eine fabrikneue Karte einer neueren Generation mit weniger VRAM. Prüfen Sie den Zustand und die Garantie.