EuroLLM 22B vs Mistral Small 24B: souveräne europäische Modelle

Vergleichen EuroLLM vs Mistral Small, bedeutet, zwei sehr unterschiedliche Vorstellungen von europäischer digitaler Souveränität genauer zu untersuchen: Das eine Modell stammt aus einem akademisch-industriellen Konsortium und wurde dafür konzipiert, die 24 Amtssprachen der EU abzudecken; das andere wird von einem Pariser Startup entwickelt, dessen Modelle weltweit zu Referenzen im Open-Weights-Bereich geworden sind. Diese beiden Modelle mit 22 bis 24 Milliarden Parametern zielen auf denselben Einsatzbereich ab — die lokale Bereitstellung auf einem PC oder einem kompakten Inferenzserver —, allerdings mit grundlegend unterschiedlichen Trainingsprioritäten. Dieser Artikel vergleicht ihre VRAM-Anforderungen je nach Quantisierung, ihre Ergebnisse auf öffentlichen Benchmarks, ihre Lizenzen und ihre konkreten Anwendungsfälle, um Ihnen bei der richtigen Wahl zu helfen.

Herkunft und Ziele: zwei europäische Entwicklungspfade

EuroLLM 22B ist das Ergebnis des EuroLLM-Projekts, das von einem Konzern getragen wird, dessen Kern von Unbabel und dem Instituto de Telecomunicações besteht, mit institutioneller europäischer Unterstützung. Das explizite Ziel des Projekts ist in die arXiv-Publikation des EuroLLM-Konsortiums : mehrsprachige Modelle zu trainieren, die europäische Sprachen mit wenigen verfügbaren Sprachressourcen wie Polnisch, Ungarisch oder Rumänisch gleichberechtigt verarbeiten können, ohne dabei Abstriche bei Französisch, Deutsch oder Spanisch zu machen. Die 22B-Version stellt eine Steigerung gegenüber den ursprünglichen Versionen mit 1,7 und 9 Milliarden Parametern dar.

Mistral Small 24B (auch als Mistral Small 3.1 bezeichnet) ist eine Entwicklung von Mistral AI, einem 2023 in Paris gegründeten Start-up. Der Ansatz ist ein anderer: die Effizienz pro Parameter durch eine sorgfältig optimierte dichte Architektur, ein erweitertes Kontextfenster und vielseitige allgemeine Einsatzmöglichkeiten zu maximieren, statt sich institutionell auf Mehrsprachigkeit auszurichten. Die offizielle Dokumentation von Mistral AI bestätigt einen Kontext von 128.000 Tokens und eine vollständige Apache 2.0-Lizenz.

Diese beiden Entwicklungswege bestehen im auf quelllm.fr erfassten französischsprachigen Ökosystem nebeneinander, neben Modellen wie Mistral Large 3 675B oder Mixtral 8x22B Instruct für Anforderungen in größerem Maßstab.

Technische Spezifikationen: VRAM, Kontext und Quantisierungen

Die Hardwarefrage ist oft die erste, die geklärt werden muss. Hier sind die Schätzungen für jedes der beiden Modelle nach Quantisierungsstufe.

EuroLLM 22B — VRAM-Schätzungen

• Parameter : 22 Milliarden (dichte Architektur)
• Q4_K_M : ~13 GB geschätzt — kompatibel mit RTX 4080 16 GB, RX 7900 XTX
• Q5_K_M : ~16 GB geschätzt – RTX 4090 empfohlen
• Q8_0 : geschätzt ~23 GB – übersteigt die Speicherkapazität der meisten Consumer-GPUs; zwei GPUs oder ein Server
• FP16 : ~44 GB — nur Serverinfrastruktur
• Kontextfenster : je nach veröffentlichter Version zu bestätigen; frühere Versionen variierten zwischen 4.096 und 32.768 Tokens
• Unterstützte Sprachen : 24 offizielle EU-Sprachen + Englisch, mit besonderem Augenmerk auf ressourcenarme Sprachen

Mistral Small 24B — Schätzwerte für VRAM

• Parameter : 24 Milliarden (dichte Architektur, Grouped Query Attention)
• Q4_K_M : ~14 GB geschätzt — RTX 4080 16 GB mit komfortablem Spielraum, RTX 4080 12 GB an der Grenze
• Q5_K_M : ~17 GB geschätzt — RTX 4090 empfohlen
• Q8_0 : geschätzt ~25 GB — zu viel für eine einzelne Consumer-GPU
• FP16 : ~48 GB — Server mit mehreren GPUs
• Kontextfenster : 128 000 Tokens (bestätigt auf HuggingFace mistralai)
• Tokenizer : erweitertes SentencePiece, gute mehrsprachige Unterstützung

Der Unterschied von 2 Milliarden Parametern ist praktisch marginal. Der echte Unterschied entsteht durch den Tokenizer, die Trainingsdaten und die Optimierungsziele jedes Projekts.

Um den konkreten Einfluss jedes Quantisierungsstufen auf die Inferenzqualität zu verstehen, ist Leitfaden zur Quantisierung auf quelllm.fr erläutert die messbaren Zielkonflikte im Detail.

Benchmarks: Leistung im Vergleich

Die verfügbaren öffentlichen Benchmarks ermöglichen einen teilweisen Vergleich. Mehrere Scores von EuroLLM 22B wurden zum Zeitpunkt der Erstellung noch von der Community konsolidiert – die folgenden Zahlen sind Schätzungen, die anhand der offiziellen Repositories bestätigt werden müssen.

MMLU (Massive Multitask Language Understanding)

• Mistral Small 24B : geschätzt ~79–82 %, im Einklang mit den zuvor veröffentlichten Mistral-24B-Modellen
• EuroLLM 22B : noch zu bestätigen — die 9B-Versionen des Projekts erreichten in den Zielsprachen konkurrenzfähige MMLU-Werte, lagen bei Englisch jedoch unter denen rein englischzentrierter Modelle

HumanEval (Codegenerierung)

• Mistral Small 24B : geschätzte ~70–74 % pass@1, da Programmierung eine Stärke von Mistral AI ist
• EuroLLM 22B : im Projekt nicht vorrangig; geschätzte Leistung niedriger (~45–55 %), noch anhand von Community-Benchmarks zu bestätigen

Mehrsprachige Benchmarks (struktureller Vorteil von EuroLLM)

Bei mehrsprachigen Evaluierungen zeigt sich am deutlichsten, warum EuroLLM 22B sinnvoll ist. EuroLLM wurde darauf trainiert, auf FLORES+ (maschinelle Übersetzung), den Sprachvarianten von MMLU oder speziellen Benchmarks für ressourcenarme EU-Sprachen (Polnisch, Rumänisch, Ungarisch, Griechisch) bessere Ergebnisse zu erzielen als gleich große Allzweckmodelle — einschließlich Mistral Small 24B.

AIME und mathematisches Schlussfolgern

Keines der beiden Modelle zielt auf anspruchsvolles Schlussfolgern ab. Beim AIME bleiben die Leistungen von 22–24B-Modellen ohne mathematische Spezialisierung bescheiden im Vergleich zu MoE-Architekturen wie Qwen 3 235B-A22B das aus einem Pool von 235B Parametern 22B aktiviert.

Lizenzen: Was sich für einen professionellen Einsatz ändert

Die Lizenz ist oft schon vor der Leistung ein entscheidendes Kriterium.

EuroLLM 22B : Die früheren Versionen des Projekts verwendeten Apache 2.0 oder CC-BY 4.0. Die Angaben zur 22B-Version müssen noch im offiziellen Repository bestätigt werden. Eine kommerzielle Nutzung ohne Lizenzgebühren war in der Regel vorgesehen, unter der Voraussetzung der Namensnennung.

Mistral Small 24B : veröffentlicht unter Apache 2.0, die liberalste der großen open-weight-Lizenzen. Änderung, Weiterverbreitung, kommerzielle Integration: Alles ist erlaubt, ohne Einschränkungen oder Gebühren. Es gilt das gleiche Regelwerk wie Mistral Medium 3.5 128B, was Entscheidungen über den Einsatz im Unternehmen vereinfacht.

Für Teams, die europäischen rechtlichen Vorgaben (DSGVO, Datensouveränität) unterliegen, ermöglichen beide Modelle einen ausschließlich lokalen On-Premises-Betrieb ohne Übertragung von Daten an Dienste Dritter.

Konkrete Anwendungsfälle

Wann EuroLLM 22B wählen?

1. Mehrsprachige institutionelle Anwendungen : Kundensupport in mehr als 10 EU-Sprachen, Übersetzung offizieller Dokumente, parlamentarische oder administrative Assistenten
2. Priorität für ressourcenarme Sprachen : Polnisch, Tschechisch, Rumänisch, Ungarisch — EuroLLM wurde speziell für diese Sprachen trainiert, mit denen Allzweckmodelle Schwierigkeiten haben
3. Forschungsprojekte oder EU-Finanzierungen : Die Ausrichtung an europäischen Initiativen zur digitalen Souveränität erleichtert die Begründung der Technologiewahl in Förderanträgen
4. Anforderungen beim Umgang mit sensiblen Daten : On-Premise-Bereitstellung ohne Abhängigkeit von Anbietern außerhalb der EU

Wann sollten Sie Mistral Small 24B wählen?

1. Allgemeine Aufgaben auf Französisch : Schreiben, Zusammenfassen, Extrahieren, Klassifizieren — Mistral ist bei französischen Texten ohne spezielle Konfiguration besonders leistungsfähig
2. Code und technische Aufgaben : klarer Vorteil bei HumanEval und Programmieraufgaben
3. Langer Kontext mit bis zu 128k Tokens : Dokumentanalyse, Wissensdatenbanken, RAG-Pipelines
4. Selbst gehostete Bereitstellung auf einer einzelnen GPU : Die Effizienz pro Parameter und das erweiterte Kontextfenster machen es zu einem geeigneten Modell für lokale Inferenzserver mit einer RTX 4090
5. Ökosystem und Integrationen : die Kompatibilität mit llama.cpp, natives Function Calling und die Mistral-Dokumentation erleichtern die Integration in bestehende Pipelines

Le Konfigurator quelllm.fr ermöglicht es Ihnen, Modelle nach Ihrer GPU und Ihren Zielsprachen zu filtern, um diese Auswahl zu verfeinern.

Positionierung im Open-Weights-Ökosystem

Mit 22–24 Milliarden Parametern besetzen EuroLLM 22B und Mistral Small 24B eine klar umrissene Nische: oberhalb der Modelle mit 7–13 Milliarden Parametern, die in 8 GB VRAM passen, aber deutlich unterhalb von MoE-Architekturen oder sehr großen dichten Modellen, die mehrere High-End-GPUs benötigen.

Modelle wie DeepSeek R1 671B oder Llama 4 Maverick 400B übertreffen beide bei komplexen Aufgaben, erfordern jedoch eine Infrastruktur mit 200–400 GB VRAM bei Q4-Quantisierung. Auf einer RTX 4090 mit 24 GB sind EuroLLM 22B und Mistral Small 24B realistische Kandidaten für eine flüssige Inferenz mit Q4_K_M.

Für Teams, die bereits über eine Multi-GPU-Infrastruktur verfügen und ein leistungsstärkeres Mistral-Modell suchen, Mistral Small 4 (119B) mit 72 GB VRAM bei Q4 stellt die nächste Stufe in der Modellreihe dar.

FAQ

F: Ist EuroLLM 22B besser als Mistral Small 24B auf Französisch?

Nicht unbedingt. Französisch wird von Mistral Small 24B dank seiner breit angelegten Trainingsdaten sehr gut abgedeckt. EuroLLM 22B bietet seinen Mehrwert eher bei weniger stark vertretenen europäischen Sprachen – Polnisch, Ungarisch, Rumänisch – als bei Französisch oder Spanisch, wo Mistral bereits ohne besonderen Aufwand konkurrenzfähig ist.

F: Wie viel VRAM ist mindestens erforderlich, um diese beiden Modelle auszuführen?

Bei Q4_K_M-Quantisierung sollten Sie für EuroLLM 22B mit geschätzten 13–14 GB und für Mistral Small 24B mit geschätzten 14–15 GB rechnen. Eine RTX 4080 mit 16 GB bietet für beide ausreichend Spielraum. Eine RTX 4090 mit 24 GB lässt Reserven für Q5_K_M. Unter 12 GB kommt Q3-Quantisierung infrage, verschlechtert die Qualität aber spürbar.

F: Erlaubt die Lizenz von EuroLLM 22B einen kommerziellen Einsatz?

Frühere Versionen des EuroLLM-Projekts verwendeten Apache 2.0 oder CC-BY 4.0, permissive Lizenzen, die eine kommerzielle Nutzung erlauben. Die Lizenz der Version 22B muss vor jeder kommerziellen Bereitstellung im offiziellen Repository überprüft werden. Mistral Small 24B ist hingegen eindeutig unter Apache 2.0 lizenziert, ohne jegliche kommerzielle Einschränkungen.

F: Unterstützt Mistral Small 24B Function Calling?

Ja. Mistral Small 24B (3.1) unterstützt Function Calling nativ im Mistral-Format, das in den offiziellen SDKs gut dokumentiert ist. EuroLLM 22B mit seinem Schwerpunkt auf akademischer Mehrsprachigkeit stellt Function Calling nicht als Priorität heraus – die Fähigkeiten zur Tool-Nutzung müssen für die Version 22B noch bestätigt werden.

F: Wo findet man die GGUF-Dateien für das Selbsthosting?

Die GGUF-Dateien von Mistral Small 24B sind erhältlich auf HuggingFace über gut gepflegte Community-Repositories. Prüfen Sie für das neuere EuroLLM 22B die offiziellen Repositories des Konsortiums und die Beiträge der Community — je nach verfügbarer Version kann eine manuelle Konvertierung erforderlich sein.

F: Wie schneidet EuroLLM 22B im Vergleich zu Mistral Small 4 ab?

Mistral Small 4 (119B) gehört in eine andere Kategorie: 119 Milliarden Parameter gegenüber 22–24 Milliarden, mit einem VRAM-Bedarf von 72 GB bei Q4. Es übertrifft die beiden verglichenen Modelle bei fast allen Aufgaben, benötigt jedoch eine deutlich aufwendigere GPU-Infrastruktur. EuroLLM 22B und Mistral Small 24B bleiben die realistischen Optionen für Self-Hosting auf einer einzelnen Consumer-GPU.

Fazit

Der Vergleich EuroLLM vs Mistral Small zeigt zwei Werkzeuge, die sich eher ergänzen als miteinander konkurrieren: Mistral Small 24B ist die erste Wahl für allgemeine Aufgaben, Code und lange Kontexte beim Self-Hosting auf einer einzelnen GPU, während EuroLLM 22B einen konkreten institutionellen Bedarf an europäischer Mehrsprachigkeit für ressourcenarme Sprachen deckt. Die Wahl hängt vor allem von Ihren Zielsprachen und Ihren Hardwarebeschränkungen ab. Durchstöbern Sie die 249 Modelle im Katalog quelllm.fr oder verwenden Sie den Konfigurator um das passende Modell für Ihre GPU und Ihre Anwendungsfälle zu finden.