Mistral Small 4vsQwen 3 32B
Vollständiger Vergleich zwischen Mistral Small 4 (119B Parameter, Mistral AI) und Qwen 3 32B (32B, Alibaba). Erforderlicher VRAM je nach Quantisierung, auf 4 Referenz-GPUs gemessene Tokens pro Sekunde, Bewertung nach Anwendungsfall, Lizenz, Installationsbefehle. Alle Zahlen werden aus den Katalogdaten berechnet – kein Kopieren und Einfügen zwischen Seiten.
Kurz gesagt
| Eigenschaft | Mistral Small 4 | Qwen 3 32B |
|---|---|---|
| Parameter | 119B | 32B |
| Familie | Mistral | Qwen |
| Autor | Mistral AI | Alibaba |
| Herkunft | FR | CN |
| Lizenz | Apache 2.0 | Apache 2.0 |
| Kontext | 256 000 Tokens | 131 072 Tokens |
| Erscheinungsdatum | März 2026 | April 2025 |
Speicherbedarf
Ungefähre VRAM, die für die Inferenz mit einem mittleren Kontextfenster erforderlich ist. Der Gewinner (in Grün) ist das Modell, das verbraucht moins — Vorteil für kleine Modelle.
| Quantisierung | Mistral Small 4 | Qwen 3 32B |
|---|---|---|
| Q4_K_M (leicht) | 72 GB | 19 GB |
| Q5_K_M (ausgewogen) | 86 GB | 23 GB |
| Q8 (nahezu verlustfrei) | 128 GB | 35 GB |
| FP16 (maximale Qualität) | 238 GB | 64 GB |
| RAM bei reinem CPU-Betrieb | 96 GB | 32 GB |
Geschätzte Geschwindigkeit (Tokens/Sekunde)
Schätzungen basierend auf der besten Quantisierung, die auf jeder GPU möglich ist. Die tatsächlichen Zahlen hängen vom Prompt, vom Kontext und der Engine (llama.cpp, vLLM, MLX) ab. Methodik.
| Referenz-GPU | Mistral Small 4 | Qwen 3 32B |
|---|---|---|
| RTX 4090 (24 GB) | ✗ zu groß | 30 tok/s · Q5_K_M |
| RTX 4080 (16 GB) | ✗ zu groß | ✗ zu groß |
| RTX 3060 12GB (12 GB) | ✗ zu groß | ✗ zu groß |
| Apple M4 Pro (48 GB) (36 GB) | ✗ zu groß | 12 Tok/s · Q8 |
Fazit nach Anwendungsfall
Für jede gängige Anwendung geben wir an, welches der beiden Modelle aufgrund seiner Tags, Größe und Spezialisierung am besten geeignet ist.
Ihr privates, kostenloses ChatGPT auf Ihrem Rechner in einer Stunde – mit LM Studio, Ollama, Open WebUI und Ihren Dokumenten, ganz ohne Cloud.
- Lebenslanger Online-Zugang
- PDF + Dateien
- Erstattung binnen 30 Tagen
Stärken und Schwächen
Mistral Small 4
MoE mit 119 Mrd. Parametern, davon 6,5 Mrd. aktiv, vereint Chat, Reasoning, Vision und Code. Das französische Flaggschiff von 2026.
- Französisches MoE-Flaggschiff
- Führt 4 Mistral-Produkte zusammen
- 256k ctx
- Apache 2.0
- 72+ GB in Q4 — Prosumer-Workstation
- Bricht mit der Kontinuität von Small 3.x
Installation
Qwen 3 32B
Dichtes 32B-Modell mit Thinking-Modus. MMLU-Pro 65,5, SuperGPQA 39,8.
- Solides Reasoning im Thinking-Modus
- 131k ctx
- Apache 2.0
- Weniger gut als das spezialisierte QwQ-32B für reine Reasoning-Aufgaben
Installation
Häufige Fragen
Welches Modell läuft auf einer RTX 4090 (24 GB) besser: Mistral Small 4 oder Qwen 3 32B?
Auf einer RTX 4090 passt Mistral Small 4 nicht in die 24 GB VRAM — ein Teil muss auf die CPU ausgelagert werden, Qwen 3 32B läuft in Q5_K_M (~30 tok/s). Nutzen Sie den Konfigurator um Ihre konkrete GPU zu testen.
Mistral Small 4 oder Qwen 3 32B: Welches Modell ist auf Französisch besser?
Für gehobenes Französisch (Texterstellung, Zusammenfassung, Übersetzung) Mistral Small 4 hat die Nase vorn – mit einem reichhaltigen französischsprachigen Korpus trainiert. Das andere Modell bleibt nutzbar, allerdings für weniger anspruchsvolle Anwendungen.
Welches verbraucht am wenigsten VRAM?
Bei Q4_K_M, Qwen 3 32B passt in 19 GB contre 72 GB für seinen Konkurrenten — ein Unterschied von 53 GB, der erheblich ist, wenn Sie eine RTX 3060 oder eine 4060 Ti 8 GB ins Auge fassen.
Mistral Small 4 oder Qwen 3 32B zum Programmieren?
Mistral Small 4 ist am besten geeignet (auf Code spezialisiert, bessere HumanEval-Scores). Für einen IDE-Copiloten kombinieren Sie es mit Continue oder Aider.
Dürfen diese Modelle kommerziell im Produktivbetrieb eingesetzt werden?
Mistral Small 4 ist unter Apache 2.0 lizenziert – frei für kommerzielle Nutzung. Qwen 3 32B ist unter Apache 2.0 lizenziert — ebenfalls frei nutzbar. Für SaaS bevorzugen Sie Apache 2.0 oder MIT.
Welches soll man 2026 wählen?
Das hängt von Ihrer wichtigsten Einschränkung ab. Kleiner / schneller : Qwen 3 32B (32B). Leistungsfähiger : Mistral Small 4 (119B). Wenn Sie unsicher sind, starten Sie den Konfigurator mit Ihrer GPU und Ihrem Anwendungsfall – er wird auf Basis beider Faktoren entscheiden.
Erwägenswerte Alternativen
Falls keines der beiden Modelle zu Ihnen passt, finden Sie hier ähnliche Modelle, die Sie sich ansehen könnten.