Offene Gewichte oder open-source? Der Unterschied, der compte
Der Ausdruck „Open-Source-LLM“ wird häufig und unzutreffend verwendet. In nahezu allen Fällen sind diese Modelle Open-Weights, nicht Open-Source: Sie erhalten die Gewichte des Netzwerks, aber weder den Trainingscode noch die Daten. Dieser Unterschied ist mehr als eine Debatte unter Puristen — er bestimmt, was Sie mit dem Modell tun dürfen. Dieser Leitfaden erläutert die Definitionen und bietet ein Bewertungsraster, um die tatsächliche Offenheit eines Modells zu prüfen, bevor Sie darauf aufbauen.
#Das anfängliche Missverständnis
Wenn man Llama, Mistral oder Qwen über Ollama herunterlädt, hört man überall den Begriff „open-source“. Das ist fast immer eine ungenaue Verwendung des Begriffs. Die genaue Bezeichnung lautet open-weights: Was das Labor veröffentlicht, sind die Modellgewichte — die Milliarden numerischer Parameter, die während des Trainings gelernt wurden. Der Rest (der für das Training verwendete Code, der Datenkorpus, das genaue Verfahren) bleibt meist unter Verschluss.
Die Verwirrung entsteht durch eine verlockende, aber falsche Analogie: Die Gewichte werden mit dem „Quellcode“ des Modells gleichgesetzt. Gewichte sind jedoch kein lesbarer und veränderbarer Code wie der Quellcode einer Software. Sie sind das kompilierte Ergebnis eines Trainings. Die Gewichte zu erhalten, ist ein bisschen so, als bekäme man eine sehr leistungsfähige, rekonfigurierbare ausführbare Binärdatei — nicht die vollständige Prozesskette, mit der sich das Modell von Grund auf neu erstellen lässt.
#Modellgewichte, Code, Daten: die drei Ebenen der Offenheit
Ihr privates, kostenloses ChatGPT auf Ihrem Rechner in einer Stunde – mit LM Studio, Ollama, Open WebUI und Ihren Dokumenten, ganz ohne Cloud.
- Lebenslanger Online-Zugang
- PDF + Dateien
- Lebenslange Updates
Um den Offenheitsgrad eines Modells zu bewerten, muss man drei unabhängige Bausteine unterscheiden. Ein Modell kann einen, zwei oder alle drei offenlegen. Ihre Kombination bestimmt den tatsächlichen Offenheitsgrad des Modells.
- Die Gewichte (weights)
- Die numerischen Parameter des Netzwerks, die als Dateien bereitgestellt werden (häufig im GGUF- oder safetensors-Format). Mit ihnen können Sie das Modell ausführen, quantisieren und fine-tunen. Diese Ebene wird am häufigsten offengelegt.
- Der Trainingscode
- Die Skripte, die detaillierte Architektur, die Hyperparameter und das Rezept für Vortraining und Alignment. Ohne den Trainingscode können Sie das Modell nicht reproduzieren – nur unverändert verwenden.
- Trainingsdaten
- Das Korpus, mit dem das Modell trainiert wurde. Es wird fast nie veröffentlicht, aus rechtlichen Gründen (Urheberrecht), aus Wettbewerbsgründen und aus praktischen Gründen (Terabytes an Text).
Echte Open-Source-Software bietet das Äquivalent aller drei: Sie können den Code lesen, ändern und neu kompilieren. Ein Open-Weights-LLM legt in der Regel nur den ersten Baustein offen. Das ist nützlich und reicht für das Selbsthosting oft aus — ist aber kein Open Source im strengen Sinne.
#Was open-weight wirklich bedeutet und was damit möglich ist
Ein Open-Weights-Modell gibt Ihnen Zugriff auf die Gewichte, in der Regel unter einer Lizenz, die die lokale Nutzung, Änderungen und häufig auch die kommerzielle Nutzung erlaubt. Beim Selbsthosting ist das genau das, was Sie im Alltag benötigen.
- Lokale Ausführung
- Das Modell in Ollama, LM Studio oder llama.cpp laden und auf Ihrem Rechner offline ausführen, ohne Ihre Daten anderswohin zu senden.
- Quantizer
- Den Speicherbedarf reduzieren (Q4_K_M, Q5_K_M, Q8_0…), damit ein großes Modell auf Ihre GPU passt. Ein 14B-Modell in Q4 passt in etwa 9 GB VRAM.
- Fine-tuner
- Das Modell mit eigenen Beispielen an Ihr Fachgebiet anpassen (LoRA, QLoRA). Als Ausgangsbasis dienen die veröffentlichten Gewichte.
- Weiterverteilen
- Je nach Lizenz eine modifizierte Version erneut veröffentlichen – darauf beruhen die Tausenden von Community-Varianten auf Hugging Face.
Konkret nutzen Sie offen verfügbare Modellgewichte, wenn Sie ein Modell mit Ollama starten. Der Daemon lauscht auf http://localhost:11434 und stellt ein Modell bereit, dessen Trainingscode und Trainingsdaten Sie nicht kennen — für die lokale Nutzung spielt das keine Rolle.
#Warum Llama im strengen Sinne nicht Open Source ist
Llama von Meta ist das typische Beispiel für ein Modell, das als „Open Source“ bezeichnet wird, obwohl es das nicht ist. Meta veröffentlicht die Gewichte unter einer eigenen Lizenz, der Llama Community License, die weder die Apache-2.0-Lizenz noch die MIT-Lizenz ist. Zwei Punkte schließen diese Lizenz nach der klassischen Open-Source-Definition aus.
- Eine Klausel mit einem Schwellenwert für die kommerzielle Nutzung
- Die Lizenz schreibt besondere Bedingungen vor, sobald eine sehr hohe Zahl monatlich aktiver Nutzer überschritten wird. Eine echte Open-Source-Lizenz diskriminiert niemanden aufgrund der Größe oder der Nutzung (Kriterium der Nichtdiskriminierung).
- Verwendungseinschränkungen
- Die Richtlinie zur zulässigen Nutzung verbietet bestimmte Anwendungsfälle. Klassisches Open Source erlaubt keine Einschränkung der Anwendungsbereiche („keine Diskriminierung nach Verwendungszweck“).
- Kein Code, keine Daten
- Meta veröffentlicht weder den vollständigen Trainingscode noch das Korpus. Es ist nicht möglich, Llama aus dem verfügbaren Material zu reproduzieren.
Die Open Source Initiative, die die maßgebliche Definition von Open Source pflegt, ist der Ansicht, dass diese Art von Lizenz die Kriterien nicht erfüllt. Llama ist daher streng genommen ein Open-Weights-Modell mit einer permissiven, aber eingeschränkten Lizenz — kein Open-Source-Modell. Dieselbe Argumentation gilt für viele Modelle mit einer eigenen „Community“-Lizenz.
#Die wirklich quelloffenen Modelle
Die gute Nachricht: Es gibt Modelle, die diese Bezeichnung verdienen. Je nach Grad der Offenheit lassen sich zwei Modellfamilien unterscheiden.
#Modellgewichte unter einer von der OSI anerkannten Lizenz
Viele Modelle veröffentlichen ihre Gewichte unter Apache 2.0 oder MIT – anerkannten Open-Source-Lizenzen ohne Einschränkungen hinsichtlich Nutzung oder Verwendungszweck. Das gilt für mehrere Mistral-Modelle (wie Mistral Small 24B), für die unter Apache 2.0 veröffentlichten Versionen der Qwen-Familie (Qwen 3.5, Qwen 3.8) und für Gemma, das Google mit Gemma 4 (April 2026) auf Apache 2.0 umgestellt hat. Sie können diese Modelle kommerziell nutzen, verändern und frei weiterverbreiten. Beachten Sie jedoch: Eine Apache-Lizenz für die Gewichte bedeutet nicht, dass die Trainingsdaten oder der Trainingscode veröffentlicht sind.
#Vollständige Offenheit: Modellgewichte + Code + Daten
Eine Stufe weiter gehen einige Projekte, die alles veröffentlichen: Modellgewichte, Trainingscode und Daten. Initiativen wie OLMo (Allen Institute for AI) oder die Pythia-Familie (EleutherAI) streben ausdrücklich vollständige Reproduzierbarkeit an. Nur sie sind im vollen Sinne wirklich Open Source — aber sie sind selten und erreichen bei der reinen Qualität nicht immer das Niveau der besten Open-Weights-Modelle.
#Ein Bewertungsrahmen zur Beurteilung der Offenheit
Wenn Sie ein neues Modell beurteilen, stellen Sie sich diese Fragen der Reihe nach. Sie führen vom Marketingslogan zu einer konkreten Einschätzung dessen, was Sie mit dem Modell tun können.
- 01Sind die Gewichte öffentlich?Lassen sich die Gewichte ohne kommerzielle Vereinbarung und ohne Warteschlange herunterladen? Wenn ja, handelt es sich mindestens um ein Open-Weights-Modell. Wenn nein (nur API-Zugriff), ist das Modell geschlossen, unabhängig davon, wie es dargestellt wird.
- 02Unter welcher Lizenz?Apache 2.0 oder MIT = permissiv und Open Source hinsichtlich der Modellgewichte. Eigene „community/research“-Lizenz = die Einschränkungen sorgfältig lesen (Nutzerschwelle, kommerzielle Nutzung, Training von Konkurrenzmodellen).
- 03Ist kommerzieller Einsatz erlaubt?Ein entscheidender Punkt, wenn Sie ein Produkt entwickeln. Manche Lizenzen verbieten dies vollständig, andere schränken es oberhalb eines Schwellenwerts ein.
- 04Ist der Trainingscode veröffentlicht?Wenn ja, können Sie die Rezeptur verstehen und nachbilden. Selten außerhalb akademischer Projekte.
- 05Sind die Daten dokumentiert?Ist das Korpus veröffentlicht oder zumindest beschrieben? Das ist die letzte Stufe auf dem Weg zu einem vollständig quelloffenen Modell und diejenige, die am seltensten erreicht wird.
Ein Modell, das auf die ersten beiden Fragen mit „ja“ antwortet, deckt bereits die überwiegende Mehrheit der Anforderungen für selbstbetriebene Umgebungen ab. Die letzten drei Fragen sind vor allem für Forschung, Audit und strengste Konformitätsanforderungen relevant.
- Geschlossen
- Modellgewichte nicht zugänglich, ausschließlich per API nutzbar. Typische Beispiele: proprietäre Cloud-Modelle.
- Eingeschränkte Open-Weights
- Öffentlich zugängliche Modellgewichte, eigene Lizenz mit Einschränkungen. Beispiel: Llama unter der Community License.
- Open-Weights mit permissiver Lizenz
- Öffentlich verfügbare Modellgewichte unter Apache 2.0 / MIT. Beispiele: Mistral Small 24B, Qwen 3.5 / 3.8, Gemma 4.
- Vollständig open-source
- Gewichte + Code + Daten veröffentlicht und reproduzierbar. Beispiele: OLMo, Pythia.
#Was sich konkret für Sie ändert
Die Unterscheidung ist nicht theoretisch. Je nach Ihrer Situation hat sie direkte praktische Folgen.
- Sie hosten selbst für Ihren persönlichen Gebrauch
- Diese Unterscheidung betrifft Sie kaum. Open Weights reichen völlig aus: Sie führen das Modell aus, quantisieren es, und Ihre Daten bleiben bei Ihnen. Wählen Sie anhand der Leistung und einer zu Ihrer GPU passenden Modellgröße.
- Sie entwickeln ein kommerzielles Produkt
- Die Lizenz wird entscheidend. Prüfen Sie, ob die kommerzielle Nutzung erlaubt ist und ob Ihnen keine Schwellenwerte zum Verhängnis werden. Bevorzugen Sie Apache 2.0 / MIT, um ruhig schlafen zu können.
- Sie müssen auditieren oder die Konformität nachweisen
- Sie benötigen den Quellcode und idealerweise die Daten. Nur vollständig quelloffene Modelle (OLMo, Pythia) ermöglichen eine echte durchgängige Nachvollziehbarkeit.
- Sie möchten fine-tunen und weiterverbreiten
- Prüfen Sie, ob die Lizenz abgeleitete Werke und deren Weiterverbreitung erlaubt. Die meisten permissiven Lizenzen erlauben dies; einige anbietereigene Lizenzen knüpfen es an Bedingungen.
#Weiterführende Informationen
Sobald die Frage der Offenheit geklärt ist, helfen Ihnen diese Leitfäden beim Einstieg in die Praxis des Selbsthostings:
- Was ist Ollama und wie funktioniert es
- Der Ausgangspunkt zum Herunterladen und lokalen Ausführen von open-weight-Modellen mit den grundlegenden Befehlen (run, pull, list).
- Quantisierung wählen (Q4, Q5, Q8, FP16)
- Sobald Sie die Modellgewichte heruntergeladen haben, bestimmt die Quantisierung, wie viel Speicher sie auf Ihrer Grafikkarte belegen.
- Ein LLM lokal ohne GPU ausführen (nur CPU)
- Wie Sie auch ohne dedizierte Grafikkarte Open-Weights-Modelle auf der CPU nutzen können.
Haben Sie Feedback, einen Fehler entdeckt oder möchten Sie etwas präzisieren? Geben Sie uns Bescheid – so wird der Guide für alle besser.