Startseite › Vergleichstool › Mistral Small 3.1 24B vs Magistral Small 24B

Mistral Small 3.1 24BvsMagistral Small 24B

Vollständiger Vergleich zwischen Mistral Small 3.1 24B (24 Milliarden Parameter, Mistral AI) und Magistral Small 24B (24B, Mistral AI). VRAM-Bedarf je nach Quantisierung, auf 4 Referenz-GPUs gemessene Tokens pro Sekunde, Bewertung je nach Anwendungsfall, Lizenz, Installationsbefehle. Alle Zahlen werden aus den Katalogdaten berechnet — kein Kopieren und Einfügen zwischen Seiten.

Kurz gesagt

Eigenschaft Mistral Small 3.1 24B Magistral Small 24B
Parameter 24B 24B
Familie Mistral Mistral
Autor Mistral AI Mistral AI
Herkunft FR FR
Lizenz Apache 2.0 Apache 2.0
Kontext 128 000 Tokens 128 000 Tokens
Erscheinungsdatum März 2025 Juni 2025

Speicherbedarf

Ungefähre VRAM, die für die Inferenz mit einem mittleren Kontextfenster erforderlich ist. Der Gewinner (in Grün) ist das Modell, das verbraucht moins — Vorteil für kleine Modelle.

Quantisierung Mistral Small 3.1 24B Magistral Small 24B
Q4_K_M (leicht) 14 GB 14 GB
Q5_K_M (ausgewogen) 17 GB 17 GB
Q8 (nahezu verlustfrei) 26 GB 26 GB
FP16 (maximale Qualität) 48 GB 48 GB
RAM bei reinem CPU-Betrieb 24 GB 24 GB

Geschätzte Geschwindigkeit (Tokens/Sekunde)

Schätzungen basierend auf der besten Quantisierung, die auf jeder GPU möglich ist. Die tatsächlichen Zahlen hängen vom Prompt, vom Kontext und der Engine (llama.cpp, vLLM, MLX) ab. Methodik.

Referenz-GPU Mistral Small 3.1 24B Magistral Small 24B
RTX 4090 (24 GB) 40 tok/s · Q5_K_M 40 tok/s · Q5_K_M
RTX 4080 (16 GB) 15 Tok/s · Q4_K_M 15 Tok/s · Q4_K_M
RTX 3060 12GB (12 GB) ✗ zu groß ✗ zu groß
Apple M4 Pro (48 GB) (36 GB) 15 Tok/s · Q8 15 Tok/s · Q8

Fazit nach Anwendungsfall

Für jede gängige Anwendung geben wir an, welches der beiden Modelle aufgrund seiner Tags, Größe und Spezialisierung am besten geeignet ist.

Allgemeiner Chat
Mistral Small 3.1 24B setzt sich durch. Bestes Verhältnis von Leistungsfähigkeit zu Einschränkungen für diesen Anwendungsfall.
Gehobenes Französisch
Knappes Rennen – hängt vom konkreten Fall ab. Bei diesem Kriterium sind beide gleichwertig, entscheiden Sie anhand Ihrer VRAM- oder Lizenzbeschränkungen.
Schlussfolgern / Mathematik
Magistral Small 24B gewinnt. Modell mit explizitem Reasoning (Chain-of-Thought), besser bei mathematischen/logischen Problemen.
Vision / Bild
Mistral Small 3.1 24B setzt sich durch. Unterstützt nativ Bild-Eingaben.
RAG / lange Dokumente
Mistral Small 3.1 24B setzt sich durch. Größeres Kontextfenster (128 000 Tokens), geeignet für lange Dokumente.
Agenten & Tool-Use
Knappes Rennen – hängt vom konkreten Fall ab. Bei diesem Kriterium sind beide gleichwertig, entscheiden Sie anhand Ihrer VRAM- oder Lizenzbeschränkungen.
Das Lokale-KI-Paket

Ihr privates, kostenloses ChatGPT auf Ihrem Rechner in einer Stunde – mit LM Studio, Ollama, Open WebUI und Ihren Dokumenten, ganz ohne Cloud.

  • Lebenslanger Online-Zugang
  • PDF + Dateien
  • Erstattung binnen 30 Tagen

Stärken und Schwächen

Mistral AI · 24B

Mistral Small 3.1 24B

Small 3, um Vision erweitert. 128k ctx, Apache 2.0. Seit Juni 2025 durch Small 3.2 ersetzt.

  • Vision + Text in einem 24B-Modell
  • 128k ctx
  • Apache 2.0
  • ~150 Tok/s bei der Inferenz
  • Erfordert Ollama ≥ 0.6.5
  • Small 3.2 (Juni 2025) verbessert es leicht

Installation

ollama run mistral-small3.1:24b
Mistral AI · 24B

Magistral Small 24B

Erster offener Reasoner von Mistral. AIME24 70.7%. Basis Small 3.1 + CoT-Training.

  • Erster offener Mistral-Reasoner
  • Apache 2.0
  • AIME24 70,7%
  • Wortreich im Thinking-Modus
  • Empfohlene Kontextlänge: max. 40k

Installation

ollama run magistral:24b

Häufige Fragen

Welches Modell läuft auf einer RTX 4090 (24 GB) besser: Mistral Small 3.1 24B oder Magistral Small 24B?

Auf einer RTX 4090 läuft Mistral Small 3.1 24B in Q5_K_M (~40 Tok/s), Magistral Small 24B in Q5_K_M (~40 tok/s). Beim reinen Durchsatz Magistral Small 24B gewinnt. Nutzen Sie den Konfigurator um Ihre konkrete GPU zu testen.

Mistral Small 3.1 24B oder Magistral Small 24B: Welches Modell ist auf Französisch besser?

Für einfache Chats auf Französisch sind beide gleichwertig. Für literarische oder juristische Texte bevorzugen Sie ein Modell europäischen Ursprungs (siehe unsere FR-Guides).

Welches verbraucht am wenigsten VRAM?

Beide benötigen in Q4 gleich viel VRAM (14 GB). Die Entscheidung hängt dann von der Lizenz oder der wahrgenommenen Qualität ab.

Dürfen diese Modelle kommerziell im Produktivbetrieb eingesetzt werden?

Mistral Small 3.1 24B ist unter Apache 2.0 lizenziert – frei für kommerzielle Nutzung. Magistral Small 24B ist unter Apache 2.0 lizenziert — ebenfalls frei nutzbar. Für SaaS bevorzugen Sie Apache 2.0 oder MIT.

Welches soll man 2026 wählen?

Das hängt von Ihrer wichtigsten Einschränkung ab. Kleiner / schneller : Mistral Small 3.1 24B (24B). Leistungsfähiger : Mistral Small 3.1 24B (24B). Wenn Sie unsicher sind, starten Sie den Konfigurator mit Ihrer GPU und Ihrem Anwendungsfall – er wird auf Basis beider Faktoren entscheiden.

Erwägenswerte Alternativen

Falls keines der beiden Modelle zu Ihnen passt, finden Sie hier ähnliche Modelle, die Sie sich ansehen könnten.

Weiterführende Informationen