CroissantLLM und Lucie : die 100 % französischen Modelle in lokal

#Warum ein zu 100 % französisches Modell?

Die meisten leistungsstarken Open-Weights-LLMs im Jahr 2026 stammen aus China (Qwen, DeepSeek, GLM) oder den Vereinigten Staaten (Llama, Gemma, Phi). Sie sprechen oft sehr gut Französisch – Qwen 3.8 und Gemma 4 sind darin übrigens hervorragend –, wurden aber überwiegend mit englischen und chinesischen Inhalten trainiert. Dabei treten kulturelle Verzerrungen zutage: implizite Bezüge, schlecht übertragene amerikanische Wendungen, politische Sichtweisen und ein ungenauer Umgang mit formeller und informeller Sprache.

Ein in Frankreich trainiertes Modell erfüllt drei unterschiedliche Bedürfnisse: Qualität auf muttersprachlichem Niveau in gehobenem Französisch, kulturell vertraute Inhalte (Recht, Verwaltung, Literatur, Medien) und rechtliche Souveränität in dem Sinne, dass die Gewichte, Datensätze und Entwickler dem europäischen Recht unterliegen. Für eine Anwaltskanzlei, eine Behörde oder ein öffentliches Forschungsprojekt ist das oft entscheidend.

#Übersicht der französischen LLM im Jahr 2026

Fünf Modellfamilien dominieren heute die französische Landschaft selbst hostbarer Modelle. Sie gehören hinsichtlich Größe, Qualität und Lizenz nicht derselben Kategorie an.

Mistral (Mistral AI, Paris)

Der Sieger. Mistral Small 24B, Magistral, Devstral. Apache 2.0 für die offenen Modelle, 128k Kontext, Qualität auf Französisch auf dem Niveau der besten Cloud-Modelle.

CroissantLLM (Centrale Supélec / Illuin)

Zweisprachiges FR-EN-Modell mit 1,3 Milliarden Parametern, wirklich Open Source: Gewichte, Datensätze, Code. Für Forschung und eingebettete Systeme konzipiert.

Lucie (LINAGORA / OpenLLM-France)

7B, Apache 2.0, vereinsgetragenes Projekt, auf öffentlichen französischen Supercomputern (Jean Zay) trainiert. Das erste echte französische Modell dieser Größe.

Pleias (Paris)

Modellfamilie mit 1B bis 3B Parametern, ausschließlich auf offenen Daten (Common Corpus) trainiert. Konsequenter Fokus auf Compliance, ideal für den öffentlichen Sektor.

Croco / CroissantCool / Derivate

Community-Fine-Tunes mit französischsprachigen Instruktionen. Häufig auf Basis von Mistral oder CroissantLLM, auf Hugging Face gehostet.

Daneben zeichnen sich einige Modelle, die nicht aus Frankreich stammen, im Französischen aus: Qwen 3.8 (Alibaba), Gemma 4 (Google), gpt-oss (OpenAI). Weiter unten ordnen wir sie anhand der Benchmarks ein.

#CroissantLLM: zweisprachig, 1,3 Milliarden Parameter, vollständig offen

CroissantLLM entstand aus einer Zusammenarbeit zwischen CentraleSupélec, Illuin Technology, Inria und INRIA Paris. Es ist ein Modell mit 1,3 Milliarden Parametern, das auf etwa 3 Trillionen Tokens trainiert wurde, wobei französisch und englisch in gleicher Menge verwendet wurden. Klein zwar, aber seine Besonderheit liegt in der vollständigen Transparenz: Gewicht, Datensätze, Trainingsverfahren, Bewertungsskripte – alles ist veröffentlicht.

Größe

1,3 Milliarden Parameter, ca. 800 MB in Q4. Läuft auf einer CPU, einem aktuellen Smartphone oder einem Raspberry Pi 5.

Sprachen

Ausgewogen zweisprachig: FR–EN (1:1 im Training).

Lizenz

MIT, kommerzielle Nutzung erlaubt ohne Einschränkung.

Varianten

CroissantLLMBase (vortrainiert), CroissantLLMChat (per Instruction-Tuning angepasst), CroissantCool (RLHF durch die Community).

Nutzung

Eingebettete Systeme, Edge, Forschung, lokales Fine-Tuning. Kein Allzweckassistent, den man mit GPT-5 vergleichen sollte.

ollama run croissantllm/CroissantLLMChat-v0.1-GGUF:Q4_K_M

>>> Explique-moi la différence entre une SARL et une SAS en 4 lignes.

#Lucie: Frankreichs Open-Source-Wagnis

Lucie ist das Hauptprojekt von LINAGORA in Zusammenarbeit mit OpenLLM-France und mehreren öffentlichen Labors. Anfang 2025 vorgestellt, handelt es sich um ein Modell mit 7 Milliarden Parametern, das auf dem Superrechner Jean Zay des CNRS-IDRIS trainiert wurde, auf einem Korpus, der Französisch, Englisch, Deutsch, Spanisch, Italienisch und Code enthält, wobei das französische Material stark gewichtet ist.

Größe

7B Parameter, ~4,5 GB bei Q4_K_M, ~5,5 GB bei Q5_K_M

VRAM

Mindestens 5 GB in Q4. Läuft problemlos auf einer RTX 3060 mit 12 GB oder einem Mac der M-Serie mit 16 GB gemeinsamem Speicher.

Lizenz

Apache 2.0, also kommerziell nutzbar und weiterverteilbar.

Kontext

32k Tokens in der Chat-Version (Lucie-7B-Instruct).

Souveränität

Die Modellgewichte werden auf HuggingFace gehostet, Code und Daten sind jedoch zugänglich. Behörden können einen selbst gehosteten Mirror einrichten.

Was bei der Nutzung auffällt: Lucie liefert sehr sauberes Französisch, ohne die „englischen Lehnübersetzungen“, die bei Llama 4 in literarischen Formulierungen noch durchscheinen. Bei Code und mathematischem Schlussfolgern liegt sie hingegen etwas hinter den besten Modellen ihrer Größenklasse wie Qwen 3.5 9B.

ollama pull OpenLLM-France/Lucie-7B-Instruct-gguf:Q4_K_M
ollama run OpenLLM-France/Lucie-7B-Instruct-gguf:Q4_K_M

#Pleias: radikale Compliance durch Daten

Pleias wählt eine seltene Richtung: Es trainiert seine Modelle ausschließlich auf dem Common Corpus — einem öffentlichen, nachvollziehbaren Datensatz ohne urheberrechtlichen Inhalt. Dadurch entstehen Modelle mit 1 Milliarden und 3 Milliarden Parametern, die eine Verwaltung ohne Bedenken bei Fragen des geistigen Eigentums einsetzen kann, bleiben jedoch im Vergleich zu Modellen, die auf dem gesamten Web trainiert wurden, beschränkt in ihren Fähigkeiten.

Größen

Pleias-1B und Pleias-3B (Versionen Pico, Nano). RAG-freundlich.

Spezialisierung

Gut bei RAG-Aufgaben, Klassifikation und strukturierter Extraktion. Schwach im freien Chat.

Argument

Kein Training mit urheberrechtlich geschützten Daten. Ein Audit der Lieferkette ist möglich.

Typischer Anwendungsfall

Zusammenfassung öffentlicher Dokumente, Bearbeitung von Verwaltungsanfragen, Klassifizierung von Korrespondenz.

Pleias ist kein Chat-Assistent, sondern ein Werkzeug zur Extraktion und Strukturierung. Für einen Akteur des öffentlichen Sektors, der dem AI Act und einer strengen Rechenschaftskette unterliegt, ist es wahrscheinlich das einzige französische Modell, das alle Anforderungen ohne Kompromisse erfüllt.

#Mistral : die französische Referenz

Mehr muss man dazu nicht sagen: Mistral bleibt der führende französische Anbieter im Open-Weights-Bereich. Mistral Small 24B (Apache 2.0, ollama run mistral-small, 14 GB in Q4) ist 2026 wahrscheinlich das beste französischsprachige Modell, das sich auf Enthusiasten-Hardware selbst hosten lässt. Für Code ist Devstral 24B (Apache 2.0) der hauseigene Spezialist für Coding-Agenten. Mistral Magistral bringt Reasoning (Chain-of-Thought) auf Französisch mit; dazu gibt es einen eigenen Leitfaden auf dieser Website.

Mistral Small 24B

~14 GB in Q4 (ollama run mistral-small). RTX 4090 oder MacBook Pro M3/M4 mit 32+ GB. Wohl der beste Kompromiss zwischen Französisch-Unterstützung und Qualität.

Devstral 24B

~14 GB bei Q4, Apache 2.0 (ollama run devstral:24b). Der spezialisierte Code-Agent von Mistral AI.

Mistral Magistral 24B

Schlussfolgern mit einer Gedankenkette (Chain of Thought) auf Französisch.

Codestral 22B

Spezialisiertes Code-Modell, aber keine Produktionslizenz: nicht für den Arbeitsalltag erlaubt. Wählen Sie Devstral 24B stattdessen.

#Qualitätstests auf Französisch im Vergleich zu Qwen 3.8 und Gemma 4

Hier eine qualitative Einordnung für typische Anwendungsfälle eines französischsprachigen Nutzers (Schreiben in gehobenem Stil, Zusammenfassung von PDFs, allgemeine Rechtsfragen, Code). Die Beobachtungen erfolgten bei einer Temperatur von 0,3, einem Kontext von 8k, Q4_K_M und identischen Prompts.

Mistral Small 24B (FR)

Hervorragend beim Schreiben, beherrscht einen gehobenen Sprachstil, seltene Kongruenzfehler. Sehr guter Code. Referenz für Französisch.

gpt-oss 20B (US)

Ausgezeichnet in mehreren Sprachen, auf Französisch besser als erwartet. Einige englische Lehnübersetzungen in literarischen Texten. Sehr schnell (MXFP4).

Qwen 3.8 27B (CN)

Sehr gut in formellem Französisch, bei Umgangssprache manchmal unbeholfen. Beim Programmieren auf dem Niveau von Mistral, beim logischen Denken überlegen — denken Sie daran, den Reasoning-Modus auf low zu stellen, sonst denkt das Modell zu lange nach.

Lucie 7B (FR)

Sauberes Französisch, flüssig im Verwaltungsstil und in gehobener Sprache. Mittelmäßige Leistung beim Programmieren. Gut für das Verfassen und Zusammenfassen von Texten.

Qwen 3.5 9B (CN)

Für seine Größe (8 GB) solide auf Französisch, 256k Kontext, Bildverarbeitung. Guter Kompromiss für Texterstellung und Programmierung auf schwächerer Hardware.

Gemma 4 12B (US)

Ordentliches Französisch, manchmal zu schulbuchhaft. Multimodal, gut für RAG, Apache 2.0.

CroissantLLM 1.3B (FR)

Auf dem Niveau eines leichtgewichtigen Assistenten; spielt nicht in derselben Liga. Für seine Größe ausgezeichnet.

#Souveränität und AI Act

Der europäische AI Act, der im Zeitraum 2024–2026 anwendbar wurde, legt Anbietern und Betreibern von KI-Modellen mit allgemeinem Verwendungszweck mehrere Pflichten auf: technische Dokumentation, eine Zusammenfassung der Trainingsdaten, die Kennzeichnung generierter Inhalte und die Bewertung systemischer Risiken bei sehr großen Modellen. Modelle, die in der EU trainiert und veröffentlicht wurden, vereinfachen das Audit. Der AI Act schreibt jedoch kein französisches Modell vor – er verlangt, dass das System dokumentiert und erklärt werden kann.

Argument für lokales Hosting

Unabhängig vom Modell löst der lokale Betrieb 90 % der DSGVO-Fragen. Dieser Punkt zählt mehr als die nationale Herkunft des Modells.

Transparenzargument

Bei einem Audit nach dem AI Act lässt sich ein Modell mit öffentlichen Datensätzen (Pleias, CroissantLLM, Lucie) leichter rechtfertigen als ein Modell, dessen Training nicht transparent ist.

Das Ökosystem als Argument

Wer Mistral, LINAGORA und Pleias unterstützt, stärkt eine europäische Wertschöpfungskette. Ein politisches Argument, das bei der öffentlichen Auftragsvergabe aber tatsächlich eine Rolle spielt.

Juristisches Argument

Die von einer europäischen Organisation unter Apache 2.0 veröffentlichten Modellgewichte verringern die Unsicherheit hinsichtlich der Datenübertragungen in die USA.

#Welches Modell passt zu Ihrem Anwendungsfall?

1. 01
   Sie sind Einsteiger und möchten ein französisches Modell testen

   Installieren Sie Lucie 7B (ollama pull OpenLLM-France/Lucie-7B-Instruct-gguf:Q4_K_M), ~5 GB, ein echtes, 100 % französisches Modell, das überall läuft. Für ein leistungsfähigeres französisches Allzweckmodell führen Sie ollama run mistral-small aus (Mistral Small 24B, 14 GB).
2. 02
   Sie verfügen über 12 GB VRAM (RTX 3060/4070)

   Lucie-7B-Instruct in Q5_K_M für ausschließlich französischsprachige Aufgaben oder Qwen 3.5 9B in Q8 (11 GB) als leistungsfähigeres Allround-Modell. Sie können auch Mistral Small 24B in Q3 ausprobieren.
3. 03
   Sie haben 24 GB (RTX 4090/3090, Mac 32+ GB)

   Mistral Small 24B in Q4_K_M ist wahrscheinlich das beste selbst hostbare LLM für Französisch. Punkt. Ergänzen Sie Lucie 7B für schnelle Anwendungen auf „rein Französisch“.
4. 04
   Sie sind eine Behörde oder ein öffentlicher Akteur

   Pleias 1B/3B für dokumentenbasierte RAG (kein Urheberrechtsrisiko), Lucie 7B für allgemeine Unterstützung, Mistral Small 24B, wenn Sie Qualität benötigen. Vermeiden Sie Modelle mit unklaren Lizenzbedingungen.
5. 05
   Sie nutzen ein Embedded-System, ein Edge-System oder einen Raspberry Pi

   CroissantLLM 1.3B Q4. Dies ist das kleinste französische Modell, das weiterhin nutzbar ist. Für Details den Leitfaden zu LLMs auf dem Raspberry Pi konsultieren.

#Weiterführende Informationen

Drei verwandte Ansätze, je nach Ihrem nächsten Schritt: Um das Schlussfolgern auf Französisch weiter zu vertiefen, erläutert der Leitfaden zu Mistral Magistral die französische Gedankenkette im Detail; um mit einem dieser Modelle ein RAG-System auf Ihren PDFs aufzubauen, deckt der Leitfaden zu lokalem RAG mit Ollama ohne Programmieren den gesamten Stack ab; um die Compliance im Unternehmen zu klären, geht der Leitfaden zu lokalen LLMs und der DSGVO die Pflichten des AI Act Punkt für Punkt durch.