01Was es kann
- Sehr großes natives Kontextfenster mit bis zu ~1 Mio. Tokens
- Effizientes MoE: ~13B aktive Parameter von insgesamt 284B, ordentlicher Durchsatz für seine Größe
- Spezialisiert für Code und Code-Agenten
- Permissive MIT-Lizenz
- —~165 GB VRAM bei Q4: benötigt mehrere GPUs oder viel RAM
- —Community-Repack, kein offizieller Build von DeepSeek
- —Kein Ollama-Tag – Installation über HuggingFace
04Installieren
Installieren Sie Ollama für Ihr Betriebssystem. Prüfen Sie das Modell und seine Quantisierung vor dem Download. Beginnen Sie mit einem Kontext von 4096 Tokens und prüfen Sie anschließend mit ollama ps, wo das Modell ausgeführt wird. Ein unten aufgeführter Befehl ist kein Beweis dafür, dass ein Test auf Ihrem Computer ausgeführt wurde.
02Benötigter Speicher
Ungefähr benötigter GPU-VRAM zum Ausführen dieses Modells, einschließlich des Speicherbedarfs für einen Kontext von 4k Tokens. Für einen längeren Kontext rechnen Sie mit zusätzlich ca. 1 GB je 8k Tokens.
Welche Hardware eignet sich für DeepSeek V4 Flash Coder 284B-A13B (MoEspresso V2)?
Um DeepSeek V4 Flash Coder 284B-A13B (MoEspresso V2) lokal mit Q4-Quantisierung auszuführen, benötigen Sie etwa 165 GB VRAM. Eine Option zum Vergleich: GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) — dieses Modell überschreitet die GPU-Kapazität dieses Mini-PCs: Wählen Sie ein kleineres Modell oder eine geeignete Infrastruktur.
Warum diese Wahl? Unsere vollständige Übersicht zu GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) →
Affiliate-Links – mögliche Provision ohne Mehrkosten für Sie, unabhängige Empfehlung. Als Amazon-Partner verdient QuelLLM an qualifizierten Käufen.
03Erwartete Geschwindigkeit
Generierte Tokens pro Sekunde in Q4_K_M, Kontext 4k. Jenseits von 20 t/s, lässt es sich angenehm lesen. Bei weniger als 10 t/s, eignet es sich nur zum Testen.