DeepSeek V4 Flash gegen Qwen 3 32B: MoE gegen Dense

Bei der Wahl DeepSeek V4 Flash vs Qwen 3 32B, stehen viele technische Teams vor der Aufgabe, zwei grundlegend unterschiedliche Architekturansätze zu vergleichen: ein Mixture-of-Experts-Modell (MoE) mit 284 Milliarden Parametern und ein kompaktes dichtes Modell mit 32 Milliarden Parametern. Dabei unterscheidet sich nicht nur die Größe – es handelt sich um einen Paradigmenunterschied, der Ihre Infrastruktur, Ihre Latenz und Ihre Bereitstellungsmöglichkeiten bestimmt. Dieser Artikel vergleicht beide anhand von fünf Aspekten: Architektur, Hardwarespezifikationen, Lizenzen, Benchmarks und Anwendungsfälle, damit Sie anhand Ihrer tatsächlichen Rahmenbedingungen entscheiden können.

Architektur: Was der Vergleich zwischen MoE mit 284B und einem dichten Modell mit 32B wirklich bedeutet

DeepSeek V4 Flash 284B ist ein Modell Mixture-of-Experts entwickelt von DeepSeek. Seine MoE-Architektur basiert auf einem Routing-Mechanismus: Bei jedem Token wird nur eine Teilmenge der Experten aktiviert. Die direkte Folge: Der Rechenaufwand pro Token ist deutlich geringer, als die Gesamtzahl von 284 Milliarden Parametern vermuten ließe. Dadurch lässt sich ein Modell mit sehr hoher Kapazität betreiben, ohne so viele FLOPs wie ein dichtes Modell derselben Größe zu benötigen.

Qwen 3 32B, 2025 von Alibaba veröffentlicht, ist ein Modell dense : Jedes Token aktiviert sämtliche 32 Milliarden Parameter. Dieser Aufbau vereinfacht die Inferenzkette, macht die Latenz besser vorhersehbar und reduziert vor allem den VRAM-Bedarf erheblich. Allerdings profitiert das Modell nicht von der "kostenlosen" Skalierung eines MoE.

Dieser Gegensatz findet sich auch bei anderen Modellen im Katalog: der Mixtral 8x22B Instruct (141B MoE, Mistral AI, Apache 2.0) oder das Qwen 3 235B-A22B (235B MoE, 22B aktive Parameter, Apache 2.0) veranschaulichen, dass MoE zur dominierenden Architektur für große Open-Weights-Modelle geworden ist. Was DeepSeek V4 Flash unterscheidet, ist sein Kontextfenster von einer Million Tokens, selbst unter den MoE-Modellen dieser Größenklasse selten.

Technische Spezifikationen und Hardwareanforderungen

DeepSeek V4 Flash 284B

• Gesamtparameter : 284 Milliarden (MoE, aktive Parameter pro Token: ein Bruchteil der Gesamtzahl)
• Kontext : 1 000 000 Tokens
• Lizenz : MIT
• VRAM Q4 : ~170 GB (Quelle: Katalog quelllm.fr)
• VRAM Q5 : geschätzt ~212 GB
• VRAM Q8 : geschätzt ~290 GB
• VRAM FP16 : geschätzt ~580 GB

In der Praxis ist der minimale Schwellenwert für einen lokalen Betrieb 4 × GPU 48 GB in Q4, oder 8 × H100 80 GB für FP16. Es gibt ebenfalls eine aktualisierte Version, DeepSeek V4 Flash 0731 304B, veröffentlicht am 31. Juli 2025 (304B, VRAM Q4 ~176 GB, Kontext 1.048.576 Tokens, Lizenz MIT).

Qwen 3 32B

• Gesamtparameter : 32 Milliarden (denses Modell, alle aktiv)
• Kontext : 32.768 Tokens (Basisvariante); bis zu 131.072 Tokens mit Erweiterungen (je nach eingesetzter Variante zu bestätigen)
• Lizenz : Apache 2.0
• VRAM Q4 : geschätzt ~20 GB
• VRAM Q5 : geschätzt ~25 GB
• VRAM Q8 : geschätzt ~34 GB
• VRAM FP16 : geschätzt ~64 GB

Qwen 3 32B kann auf einer einzigen GPU mit 24 GB (RTX 4090, RTX 6000 Ada) mit Q4_K_M-Quantisierung oder auf einem Mac Studio M3 Max / M4 Max mit 48 GB gemeinsamem Speicher. Das ist der wichtigste praktische Unterschied zum V4 Flash.

Lizenzen und Nutzungsberechtigungen

La MIT-Lizenz von DeepSeek V4 Flash gehört zu den permissivsten verfügbaren Lizenzen: freie kommerzielle Nutzung, uneingeschränkte Änderungen, keine Copyleft-Klauseln. Es ist dieselbe Lizenz wie bei DeepSeek V3 671B et DeepSeek R1 671B, was es zu einer soliden Wahl für die Integration in ein SaaS-Produkt oder eine interne API macht.

Qwen 3 32B steht unter Apache 2.0, die eine kommerzielle Nutzung ebenso freizügig erlaubt. Die einzige Pflicht besteht darin, die Lizenzhinweise bei der Weiterverbreitung beizubehalten. Apache 2.0 ist der Standard für Alibaba/Qwen-Modelle, ebenso wie bei Qwen 3 235B-A22B.

In beiden Fällen, keine Benutzeranzahlbeschränkung wird nicht auferlegt – anders als bei Lizenzen wie Llama Community, die den Einsatz bei mehr als 700 Millionen monatlichen Nutzern einschränken. Allerdings garantieren weder MIT noch Apache 2.0 die Einhaltung der DSGVO oder des AI Act: Dafür bleibt der Betreiber verantwortlich.

Benchmarks und Leistung

Die folgenden Angaben stammen aus den offiziellen technischen Dokumentationen auf HuggingFace für DeepSeek V4 Flash und für Qwen3-32B, sowie aus dem technischer Blog von Qwen.

DeepSeek V4 Flash 284B

• MMLU : geschätzt ~87 % (alle Kategorien)
• HumanEval : geschätzt ~85 % (pass@1)
• AIME 2024 : noch zu bestätigen – die DeepSeek-MoE-Modelle dieser Reihe liegen in der Regel zwischen 50 und 70 %
• GSM8K : geschätzt >92 %

Qwen 3 32B

• MMLU : ~85 %
• HumanEval : ~88 % (Thinking-Modus aktiviert)
• AIME 2025 : ~72 % (Thinking-Modus)
• LiveCodeBench : konkurrenzfähige Ergebnisse für ein dichtes 32B-Modell, je nach Version noch zu bestätigen

Qwen 3 32B integriert einen hybrider Thinking-Modus bei Bedarf aktivierbar, der seine Ergebnisse beim mathematischen Schlussfolgern und bei Code-Aufgaben deutlich verbessert. DeepSeek V4 Flash bietet diese Funktion nicht nativ, gleicht dies aber durch sein Kontextfenster und seine insgesamt höheren Fähigkeiten aus.

Schätzung der Inferenzgeschwindigkeit (Tokens pro Sekunde)

• DeepSeek V4 Flash 284B : geschätzt 20–50 Tokens/s auf 4 × A100 80 GB in Q4, abhängig von der Batch-Größe
• Qwen 3 32B : geschätzt 60–150 Tokens/sec auf einem einzigen H100 80 GB in Q4; ~30–60 Tokens/sec auf RTX 4090 in Q4

Die MoE-Architektur reduziert die FLOPs pro Token, wird jedoch durch die Bandbreite zwischen den GPUs begrenzt. Ein dichtes Modell ist auf einer einzelnen GPU schneller, da kein zusätzlicher Routing-Aufwand entsteht.

Praktische Anwendungsfälle: welchen wählen?

Bevorzugen Sie DeepSeek V4 Flash 284B, wenn:

• Sie verfügen über eine Infrastruktur multi-GPU (mindestens 4 × 48 GB in Q4)
• Sie verarbeiten sehr lange Dokumente (vollständige Codebasen, Forschungsberichte, lange Transkripte) — ein Kontextfenster von 1 Million Tokens ist ein seltener Vorteil
• Sie wünschen eine Leistung nahe dem Frontier-Niveau in einem Rahmen vollständig selbstbetrieben
• Die Lizenz MIT ist ein Kriterium für Ihre Rechtsabteilung

Bevorzugen Sie Qwen 3 32B, wenn:

• Sie betreiben auf Einzelne GPU mit 24 GB oder Apple Silicon
• Sie benötigen niedrige Latenz für eine interaktive Nutzung oder eine API mit vielen gleichzeitigen Anfragen
• Sie möchten den Thinking-Modus integriert für mathematisches Denken und Code
• Sie haben keinen Zugang zu einer Multi-GPU-Infrastruktur und suchen das beste Verhältnis zwischen Qualität und Zugänglichkeit

Um weitere Modelle passend zu Ihrem GPU-Budget zu erkunden, konsultieren Sie den VRAM-Guide von quelllm.fr oder den komplettes Katalog mit Filtern für die 249 indexierten Modelle.

FAQ

F: Kann DeepSeek V4 Flash auf einer einzigen GPU laufen?

In der Praxis nein. Da bei Q4 etwa 170 GB VRAM benötigt werden, sind mindestens 4 GPUs mit jeweils 48 GB erforderlich (zum Beispiel 4 × RTX 6000 Ada). Eine einzelne GPU, selbst eine H100 SXM mit 80 GB, reicht nicht aus. Mit Offloading in den System-RAM sind hingegen bestimmte hybride CPU+GPU-Konfigurationen möglich, allerdings wird die Inferenzgeschwindigkeit sehr gering – oft liegt sie unter 5 Tokens pro Sekunde.

F: Unterstützt Qwen 3 32B Französisch?

Ja. Qwen 3 32B wurde auf einem mehrsprachigen Korpus trainiert, das auch Französisch enthält. Die Leistung auf Französisch ist für das Verfassen von Texten, Programmieraufgaben und allgemeines logisches Denken brauchbar, bleibt in standardisierten Benchmarks jedoch hinter der Leistung auf Englisch zurück. Die genauen mehrsprachigen Fähigkeiten müssen je nach Aufgabe und Fachgebiet noch bestätigt werden.

F: Ersetzt DeepSeek V4 Flash DeepSeek V3 671B?

Nicht ganz. DeepSeek V3 671B bleibt relevant für Szenarien, in denen die Infrastruktur ein 671B-MoE-Modell verfügbar macht. DeepSeek V4 Flash (284B) zielt eher auf einen Kompromiss zwischen Geschwindigkeit, Kosten und Kontext ab, mit einem Kontextfenster von 1 Million Tokens, das V3 nicht bietet. Beide Modelle stehen unter der MIT-Lizenz, daher hängt die Wahl vor allem von Ihren VRAM- und Kontextanforderungen ab.

F: Ist die MIT-Lizenz von DeepSeek für die Modellgewichte gültig?

Ja. Die MIT-Lizenz gilt für die vortrainierten Gewichte und die Konfigurationsdateien, nicht nur für den Code. Das bedeutet, dass Sie die Gewichte weiterverbreiten, fine-tunen und einen kommerziellen Dienst aufbauen können, ohne DeepSeek um Erlaubnis zu bitten. Prüfen Sie dennoch mögliche Exportkontrollbeschränkungen, die mit der Herkunft des Modells zusammenhängen.

F: Qwen 3 32B oder Qwen 3 235B-A22B – welches wählen?

Wenn Sie sich etwa 142 GB VRAM für Q4 leisten können, Qwen 3 235B-A22B (235B MoE, 22B aktive Parameter, Apache 2.0) bietet eine höhere Leistung. Für den Betrieb auf einer einzelnen GPU mit 24 GB bleibt das dichte Modell Qwen 3 32B jedoch die zugänglichste Wahl. Die Seite Vergleich MoE vs. dichte Modelle von quelllm.fr erläutert die Leistungsunterschiede je nach Aufgabe im Detail.

F: Ist eine quantisierte Version von DeepSeek V4 Flash verfügbar?

Ja, die Community stellt auf HuggingFace GGUF-Versionen in Q4_K_M und Q5_K_M bereit. GGUF ist das empfohlene Format für llama.cpp oder LM Studio auf Multi-GPU-Systemen. Prüfen Sie die Herkunft der GGUF-Dateien – bevorzugen Sie überprüfte Repositories oder offizielle Konvertierungen von DeepSeek.

Fazit

Der Vergleich DeepSeek V4 Flash vs Qwen 3 32B zeigt zwei sich ergänzende Ansätze auf: V4 Flash (284B MoE, MIT, ~170 GB VRAM in Q4, 1 Mio. Tokens Kontext) richtet sich an Server-Deployments mit mehreren GPUs und Bedarf an langem Kontext; Qwen 3 32B (dense, Apache 2.0, geschätzt ~20 GB VRAM in Q4) erfüllt die Anforderungen für den Einsatz auf einer einzelnen GPU oder auf Apple Silicon bei kontrollierter Latenz. Um die Auswahl auf Ihre genaue Konfiguration abzustimmen, verwenden Sie den Konfigurator quelllm.fr oder durchsuchen Sie den Katalog der 249 indexierten Modelle.