Ollama list, pull, run: die Befehle essentielles

Ollama lässt sich größtenteils über das Terminal steuern: ollama pull, um ein Modell herunterzuladen, ollama run, um mit ihm zu chatten, ollama list, um zu sehen, was installiert ist. Diese Anleitung fasst die Befehle für den Alltag zusammen (pull, run, list, ps, show, stop, rm, create, cp), mit einem Beispiel pro Befehl und einer Erklärung, wie Sie deren Ausgabe lesen. Halten Sie sie in den ersten Wochen neben dem Terminal geöffnet.
#Warum Sie die Ollama-Befehle lernen sollten
Ollama läuft im Hintergrund (der „Server“, der auf http://localhost:11434 lauscht) und stellt ein kleines Kommandozeilenprogramm, ollama, bereit, das ihm Befehle sendet. Grafische Oberflächen wie Open WebUI nutzen denselben Server: Sie können mit einem Modell chatten, aber nicht immer prüfen, was den GPU-Speicher belegt, die Parameter eines Modells untersuchen oder auf der Festplatte aufräumen.
Neun Befehle decken das Wesentliche ab. Sie lassen sich in drei Gruppen einteilen: ein Modell beziehen und verwenden (pull, run), die auf der Festplatte gespeicherten Modelle verwalten (list, show, rm, cp, create) und die in den Speicher geladenen verwalten (ps, stop). Wer sich diese Unterscheidung zwischen Festplatte und Speicher merkt, vermeidet die meisten Verwechslungen: Ein Modell kann heruntergeladen sein, ohne geladen zu sein, und geladen sein, ohne dass Sie gerade mit ihm chatten.
#Voraussetzungen
Profitiere von unserer Erfahrung und einem geführten Lernpfad, um deinen lokalen Assistenten zu erstellen und deine KI im Alltag zu nutzen.
- Lebenslanger Online-Zugang
- PDF + Dateien
- Erstattung binnen 30 Tagen
- Ollama installiert
- Unter Windows, macOS oder Linux. Falls noch nicht geschehen, folgen Sie zuerst der Installationsanleitung (Link am Ende der Seite).
- Ein Terminal
- PowerShell oder Windows-Terminal, Terminal unter macOS, jede beliebige Shell unter Linux. Die Befehle sind auf allen drei Systemen identisch.
- Der gestartete Server
- Die Anwendung Ollama unter Windows und macOS oder der systemd-Dienst unter Linux. Ohne ihn geben die meisten Befehle einen Verbindungsfehler zurück.
- Speicherplatz auf der Festplatte
- Ein kleines 3B-Modell in Q4_K_M ist etwa 2 GB groß, ein 7B etwa 5 GB, ein 14B etwa 9 GB.
Der erste Befehl zeigt die Version des Clients und, sofern der Server antwortet, auch dessen Version an. Der zweite listet alle auf Ihrer Installation verfügbaren Befehle auf: Das ist die Referenz, die Sie heranziehen sollten, wenn ein Beispiel aus dieser Anleitung bei Ihnen nicht funktioniert.
#Schritt 1 — ollama pull et ollama run: ein Modell beziehen und starten
#ollama pull: télécharger
ollama pull lädt ein Modell aus der offiziellen Bibliothek (ollama.com/library) herunter, ohne es zu starten. Der Name folgt dem Schema Modell:Tag. Ohne Tag verwendet Ollama latest; dieser Tag verweist in der Regel auf die standardmäßig angebotene Größe und Quantisierung, oft Q4_K_M.
Die verfügbaren Tags (Größen, Quantisierungen wie q8_0 oder fp16) sind auf der Seite des jeweiligen Modells in der Bibliothek aufgeführt. Wird der Download unterbrochen, setzt ein erneutes Ausführen desselben Befehls an der Stelle fort, an der er abgebrochen wurde.
#ollama run: mit einem Modell chatten
ollama run lädt das Modell in den Speicher und öffnet im Terminal eine Chat-Sitzung. Befindet sich das Modell noch nicht auf dem Datenträger, lädt run es zuerst herunter: pull ist also nicht zwingend erforderlich, ermöglicht es aber, Modelle im Voraus bereitzustellen.
In der interaktiven Sitzung beginnen Befehle mit einem Schrägstrich. Geben Sie /? ein, um die vollständige Liste für Ihre Version zu erhalten; die nützlichsten sind die folgenden.
- /bye
- Die Sitzung beenden (Strg+D funktioniert ebenfalls). Das Modell bleibt einige Minuten im Speicher geladen.
- /clear
- Den Verlauf der aktuellen Unterhaltung löschen, ohne die Sitzung zu beenden.
- /set parameter num_ctx 8192
- Einen Parameter für die Sitzung ändern, hier die Kontextgröße. Nützlich zum Testen, bevor Sie ihn in ein Modelfile eintragen.
- /show info
- Die Informationen des geladenen Modells anzeigen, wie ollama show.
- """
- Einen mehrzeiligen Textblock öffnen und schließen, praktisch zum Einfügen eines langen Auszugs.
Mit --verbose zeigt Ollama nach jeder Antwort Dauern und Geschwindigkeiten an (darunter eval rate, in Tokens pro Sekunde). Das ist die einfachste Möglichkeit, die Geschwindigkeit eines Modells auf Ihrem eigenen Rechner zu messen, statt sich auf einen anderswo gefundenen Wert zu verlassen.
#Schritt 2 — ollama list und ollama rm: Modelle auf der Festplatte verwalten
#ollama list: voir ce qui est installé
ollama list (oder der Alias ollama ls) zeigt alle Modelle an, die sich auf dem Datenträger befinden. Diesen Befehl sollten Sie ausführen, bevor Sie irgendetwas löschen, und um den genauen Namen eines Modells zu finden, den Sie an die anderen Befehle übergeben.
- NAME
- Vollständiger Name mit Tag. Genau diesen Namen erwarten run, show, rm oder cp.
- ID
- Anfang des Manifest-Hashes. Zwei Namen mit derselben ID bezeichnen dasselbe Modell: Das ist typischerweise nach einem ollama cp der Fall.
- SIZE
- Größe der Modelldateien auf der Festplatte. Sie gibt eine Größenordnung für den benötigten Speicher an, doch der tatsächlich belegte Speicher nach dem Laden ist höher (Kontext, KV-Cache): Diesen zeigt ollama ps an.
- MODIFIED
- Datum des letzten Downloads oder der letzten Erstellung. Ein altes Modell ist nicht unbedingt veraltet: Führen Sie pull erneut aus, um herauszufinden, ob es unter demselben Tag eine neuere Version gibt.
Vorsicht beim Addieren der Größen: Modelle, die sich Layer teilen (ein Modell und seine Kopie oder ein benutzerdefiniertes Modell, das auf einem anderen aufbaut), speichern diese nur einmal. Die Summe der Spalte SIZE kann daher den tatsächlich belegten Speicherplatz im Modellordner übersteigen.
#ollama rm: ein Modell löschen
rm entfernt das Modell aus der Liste und löscht die Dateien, die von keinem anderen Modell mehr verwendet werden. Es gibt weder einen Papierkorb noch eine Bestätigung: Um es wiederzubekommen, müssen Sie es erneut herunterladen. Wie Sie gründlich Speicherplatz freigeben oder Ollama deinstallieren, beschreibt die Wartungsanleitung je nach Betriebssystem im Detail.
#Schritt 3 — ollama ps und ollama stop: den Speicher verwalten
Wenn Sie eine Sitzung mit /bye beenden, wird das Modell nicht sofort entladen: Ollama hält es eine gewisse Zeit im Speicher (standardmäßig 5 Minuten, einstellbar über die Umgebungsvariable OLLAMA_KEEP_ALIVE), damit die nächste Frage ohne Wartezeit startet. ollama ps zeigt, was gerade geladen ist.
- SIZE
- Vom geladenen Modell belegter Speicher, einschließlich Kontext. Er ist größer als die von ollama list angezeigte Größe auf der Festplatte.
- PROCESSOR
- Die nützlichste Spalte. „100% GPU“: Alles passt in den VRAM, das ist der Idealfall. Eine CPU/GPU-Aufteilung bedeutet, dass ein Teil des Modells in den Systemspeicher ausgelagert wird: Die Generierung wird deutlich langsamer. „100% CPU“: Es wird keine GPU genutzt.
- UNTIL
- Zeitpunkt, zu dem das Modell entladen wird, wenn es keine Anfragen mehr erhält.
- CONTEXT
- Je nach Version gibt eine Spalte auch die zugewiesene Kontextgröße an. Falls sie bei Ihnen fehlt, ollama show donne den konfigurierten Wert.
Wenn PROCESSOR eine CPU/GPU-Aufteilung bei einem Modell anzeigt, das in Ihre Grafikkarte passen sollte (zum Beispiel ein 7B in Q4, etwa 5 GB, auf einer RTX 3060 12 GB), prüfen Sie zuerst, ob nicht gleichzeitig ein anderes Modell geladen ist oder die Kontextgröße zu groß ist.
#ollama stop: ein Modell entladen
stop gibt den von diesem Modell belegten Speicher sofort frei, ohne es von der Festplatte zu löschen. Das ist nützlich, bevor Sie ein Spiel, eine Rendering-Software oder ein anderes, größeres Modell starten. Nicht mit rm verwechseln: stop wirkt auf den Speicher, rm auf die Festplatte.
#Schritt 4 — ollama show: ein Modell untersuchen
ollama show zeigt das Datenblatt eines installierten Modells an: Architektur, Anzahl der Parameter, maximale Kontextlänge, Embedding-Größe, Quantisierung, Fähigkeiten (je nach Modell Tools, Vision, Reasoning), Standardparameter und Lizenz. Das sollten Sie sich als Erstes ansehen, bevor Sie die Kontextgröße einstellen oder ein Modelfile schreiben.
- --parameters
- Vom Autor des Modells festgelegte Inferenzparameter. Wird nichts angezeigt, gelten die Standardwerte von Ollama.
- --modelfile
- Idealer Ausgangspunkt, um ein Modell anzupassen: Kopieren Sie die Ausgabe in eine Datei, bearbeiten Sie sie und übergeben Sie sie dann an ollama create.
- --template
- Vom Modell erwartetes Nachrichtenformat. Ändern Sie es nur, wenn Sie wissen, warum: Eine fehlerhafte Vorlage verschlechtert die Antworten erheblich.
- --license
- Lizenztext. Vor jeder kommerziellen Nutzung lesen: Nicht alle Lizenzen von Open-Weight-Modellen sind gleichwertig.
- -v / --verbose
- Zeigt in neueren Versionen zusätzliche Metadaten der Modelldatei an.
#Schritt 5 — ollama create et ollama cp: eigene Varianten erstellen
#ollama create: construire un modèle à partir d'un Modelfile
Ein Modelfile ist eine kleine Textdatei, die von einem bestehenden Modell ausgeht und ihm einen System-Prompt, Parameter oder eine Vorlage hinzufügt. ollama create le macht daraus ein neues Modell, das in ollama list erscheint. Die Layer des Basismodells werden wiederverwendet: Die Variante kostet fast keinen Speicherplatz.
Wenn die Datei genau Modelfile heißt und sich im aktuellen Ordner befindet, kann die Option -f je nach Version weggelassen werden. ollama create sait auch Gewichte im GGUF-Format importieren (FROM ./modele.gguf) oder ein Modell in FP16 mit der Option --quantize (-q) quantisieren, zum Beispiel -q q4_K_M. Alle Anweisungen des Modelfile werden in der zugehörigen Anleitung ausführlich beschrieben.
#ollama cp: kopieren oder umbenennen
Die Kopie nutzt dieselben Dateien wie das Original (gleiche ID in ollama list). Sie dient vor allem dazu, in Ihren Skripten oder Ihrer Oberfläche einen stabilen Namen beizubehalten oder eine Version einzufrieren, bevor ein ollama pull qui sie ersetzen würde.
#Spickzettel: alle Ollama-Befehle auf einen Blick
- ollama pull <Modell>
- Ein Modell aus der Bibliothek herunterladen oder aktualisieren.
- ollama run <Modell> ["question"]
- Interaktiv chatten oder eine einzelne Frage stellen. Lädt das Modell herunter, falls es fehlt. --verbose für Statistiken.
- ollama list / ollama ls
- Die auf der Festplatte vorhandenen Modelle auflisten: Name, ID, Größe, Datum.
- ollama ps
- Die in den Speicher geladenen Modelle, ihren Speicherverbrauch und die CPU/GPU-Aufteilung auflisten.
- ollama show <Modell>
- Steckbrief des Modells; --parameters, --modelfile, --template, --system, --license.
- ollama stop <Modell>
- Ein Modell aus dem Speicher entladen, ohne es zu löschen.
- ollama rm <Modell>
- Ein Modell ohne Rückfrage von der Festplatte löschen.
- ollama create <Name> -f Modelfile
- Ein benutzerdefiniertes Modell erstellen; -q zum Quantisieren.
- ollama cp <source> <destination>
- Ein Modell unter einem anderen Namen kopieren.
- ollama serve
- Den Server im Vordergrund starten (nützlich zur Fehlersuche).
- ollama push <Benutzer>/<Modell>
- Ein Modell auf ollama.com veröffentlichen (Konto erforderlich).
- ollama help [Befehl]
- Allgemeine Hilfe oder Hilfe zu einem bestimmten Befehl; entspricht --help.
Neuere Versionen fügen weitere Befehle hinzu, insbesondere im Zusammenhang mit dem ollama.com-Konto und gehosteten Modellen. Sie gehen über den Rahmen dieses auf die lokale Nutzung ausgerichteten Spickzettels hinaus: ollama help listet sie für Ihre Version auf.
#Behebung häufiger Fehler
- 01„could not connect to ollama app“ oder „connection refused“Der Server läuft nicht. Starten Sie die Anwendung Ollama (Windows, macOS) oder den Dienst (Linux: sudo systemctl start ollama) und versuchen Sie es dann erneut. Als letzte Möglichkeit starten Sie ollama serve in einem separaten Terminal, um die Fehlermeldungen zu lesen.
- 02„model not found“ oder „file does not exist“Der Name entspricht keinem installierten Modell. Führen Sie ollama list aus und übernehmen Sie den exakten Namen einschließlich Tag: qwen2.5 steht für qwen2.5:latest, nicht für qwen2.5:14b.
- 03ollama list est vide alors que des modèles ont été téléchargésDer Client fragt möglicherweise einen anderen Server oder einen anderen Modellordner ab: eine abweichende Variable OLLAMA_HOST, eine geänderte OLLAMA_MODELS oder Ollama ist doppelt installiert (zum Beispiel als Anwendung und als Docker-Container). In einem Container werden die Befehle innerhalb des Containers ausgeführt: docker exec -it ollama ollama list.
- 04Das Modell antwortet sehr langsamFühren Sie ollama ps während einer Generierung aus. Zeigt die Spalte PROCESSOR einen CPU-Anteil, passt das Modell nicht vollständig in den VRAM: Entladen Sie die anderen Modelle mit ollama stop, verringern Sie num_ctx oder wählen Sie eine kleinere Größe oder Quantisierung.
- 05Die Festplatte läuft vollVerschaffen Sie sich mit ollama list einen Überblick und entfernen Sie mit ollama rm les ungenutzte Modelle. Für hartnäckigere Fälle (verwaiste Dateien, verschobener Ordner) lesen Sie die Wartungsanleitung.
#Weiterführende Informationen
Dieser Spickzettel behandelt die Kommandozeile. Für Installation, Wartung und erweiterte Anpassung gibt es jeweils eine eigene Anleitung.
- Ollama installieren
- Schritt-für-Schritt-Installation unter Windows, macOS und Linux: https://quelllm.fr/guide/installer-ollama
- Aktualisieren, löschen, deinstallieren
- Updates je nach System, Freigabe von Speicherplatz, vollständige Deinstallation: https://quelllm.fr/guide/maintenance-ollama-update-supprimer
- Modelfile
- Alle Anweisungen zum Erstellen und Anpassen eines Modells mit ollama create: https://quelllm.fr/guide/ollama-modelfile-personnalisation
- Ollama verstehen
- Was Ollama macht, wie es Modelle lädt und für wen es gedacht ist: https://quelllm.fr/guide/ollama-debutant-c-est-quoi-comment-ca-marche
- Offizielle Quellen
- CLI-Referenz: https://docs.ollama.com/cli; Code und Versionshinweise: https://github.com/ollama/ollama (am 16. November 2026 nicht erneut geprüft, siehe Hinweis am Anfang der Anleitung).
Haben Sie Feedback, einen Fehler entdeckt oder möchten Sie etwas präzisieren? Geben Sie uns Bescheid – so wird der Guide für alle besser.