Wie man LM Studio auf Linux installiert (vollständiger Leitfaden)

Die Installation von LM Studio Linux ermöglicht Nutzern, die Open-Source-LLMs lokal ausführen möchten, den Zugang zu einer benutzerfreundlichen Oberfläche auf ihrem Unix-System. Wenn Sie nach einer Lösung suchen, um Modellgewichte zu testen und mit ihnen zu interagieren, ohne von Cloud-Diensten abhängig zu sein, ist dieser Leitfaden für Sie gedacht. Wir erläutern die erforderlichen Schritte, um LM Studio auf Ihrer bevorzugten Linux-Distribution einzurichten. In diesem Artikel behandeln wir die Installation, die Erstkonfiguration und die Nutzung dieser Oberfläche mit einigen der besten verfügbaren LLMs, wie DeepSeek V4 Pro 1.6T oder MiMo V2.5.

Voraussetzungen vor Beginn der Installation

Bevor Sie mit der Installation von LM Studio unter Linux beginnen, ist es entscheidend, einige Hardware- und Softwarevoraussetzungen zu überprüfen. Die effiziente Ausführung von LLMs hängt stark von der Leistungsfähigkeit Ihres Rechners ab.

Empfohlene Hardware: * CPU/RAM: Für kleinere Modelle wird ein modernes System mit mindestens 16 GB RAM empfohlen (z. B.: Mistral Small 4, das etwa 72 GB in Q4 benötigt, aber auf der CPU ausgeführt werden kann, sofern der RAM ausreicht). Für große Modelle wie DeepSeek V4 Pro 1.6T (VRAM Q4 ~960 GB) ist deutlich mehr Speicher erforderlich. * GPU (empfohlen): GPU-Beschleunigung ist entscheidend, um akzeptable Durchsatzraten (Tokens pro Sekunde) zu erreichen. Stellen Sie sicher, dass Ihre NVIDIA- oder AMD-Treiber korrekt installiert und aktuell sind, und prüfen Sie die Kompatibilität mit den CUDA- oder ROCm-Bibliotheken.

Nötige Software: 1. Linux-Distribution: Ubuntu, Fedora, Arch usw. 2. Paketmanager: apt, dnf, oder ein gleichwertiges Tool, je nach Ihrer Distribution. 3. Stabiler Internetzugang.

Es wird stets empfohlen, die spezifischen Anforderungen der neuesten Versionen in der offiziellen Dokumentation nachzulesen auf der offiziellen Website. Für ein tieferes Verständnis der Leistung lesen Sie unseren LLM-Konfigurationsleitfaden.

Installationsmethoden von LM Studio unter Linux

LM Studio bietet in der Regel Möglichkeiten zur direkten Installation oder zur Installation über Paketmanager von Drittanbietern, obwohl die manuelle Installation für fortgeschrittene Linux-Nutzer oft am zuverlässigsten ist.

Option 1: Verwendung des AppImage-Pakets (empfohlen)

Die Verwendung einer AppImage-Datei ist oft die einfachste und universellste Methode unter Linux, da sie alle notwendigen Abhängigkeiten enthält und so Konflikte mit Systembibliotheken vermeidet. Es handelt sich um eine portable Herangehensweise, die die globale Systemumgebung nicht verändert.

1. Herunterladen: Besuchen Sie die offizielle Website von LM Studio und laden Sie die Linux-Version herunter (Format .AppImage).
2. Berechtigungen: Öffnen Sie Ihr Terminal und wechseln Sie in das Verzeichnis, in das Sie die Datei heruntergeladen haben. Erteilen Sie der Datei Ausführungsrechte: bash chmod +x LM_Studio-*.AppImage
3. Ausführung: Starten Sie die Anwendung durch einen Doppelklick auf die Datei oder mit dem folgenden Befehl: bash ./LM_Studio-*.AppImage

Option 2: Installation über Paketmanager (falls verfügbar)

Einige Distributionen pflegen LM Studio in ihren Paketquellen. Wenn Sie eine weit verbreitete Distribution verwenden, prüfen Sie, ob ein Paket für eine stärker ins System integrierte Installation verfügbar ist. Lesen Sie die Community-Anleitungen oder sehen Sie im offiziellen Repository nach auf GitHub.

Wichtiger Hinweis: Für optimale Leistung bei großen Modellen wie DeepSeek V4 Pro 1.6T, stellen Sie sicher, dass Ihre Hardware die VRAM-Anforderungen erfüllt, da ein Q4-Modell eine bestimmte Menge an Grafikspeicher benötigt, um effizient geladen zu werden. Beispielsweise beträgt die Geschwindigkeit für den GLM 5.2 753B-A40B erfordert die Zuweisung einer beträchtlichen Menge an Grafikspeicher (Q4 ~437 GB).

Konfiguration und Nutzung von LLM in LM Studio

Sobald LM Studio in Ihrer Linux-Umgebung gestartet ist, können Sie das Ökosystem der Open-Weights-Modelle erkunden. Über die Oberfläche können Sie Modelle direkt aus dem integrierten Katalog herunterladen, laden und abfragen oder lokale GGUF-Dateien importieren.

Herunterladen und Auswahl des Modells

LM Studio erleichtert die Suche. Tausende verfügbare Modelle zum Durchstöbern finden Sie auf Hugging Face. Wenn Sie ein Modell auswählen (zum Beispiel Inkling oder MiMo V2.5 Pro), zeigt die Benutzeroberfläche verschiedene quantisierte Versionen (Q4_K_M, Q8_0 usw.) an.

• Quantisierung: Die Quantisierung (wie Q4) verringert die Dateigröße und die Speicherverbrauch, jedoch mit einer geringen Abweichung in der Genauigkeit im Vergleich zur FP16-Version. Zum Beispiel, der MiMo V2.5 Pro ist in Q4 mit einem geschätzten Speicherbedarf von rund 595 GB verfügbar https://quelllm.fr/modele/mimo-v25-pro.
• VRAM vs. RAM: Wenn Sie einen GPU verwenden, wählen Sie die für ihn optimierten Versionen aus GPU-Offload. Für Modelle wie Llama 3.1 405B Instruct, eine gute Verteilung zwischen VRAM und System-RAM ist entscheidend, um Verzögerungen beim ersten Laden zu vermeiden.

Modell lokal ausführen

Nach dem Herunterladen gelangen Sie zum Chat-Tab. Sie wählen das geladene Modell in der Seitenleiste aus und beginnen mit der Interaktion. Die Leistung (Tokens pro Sekunde) hängt direkt von Ihrer Hardware und dem gewählten Quantisierungsgrad ab. Für Aufgaben, die ein großes Kontextfenster erfordern, prüfen Sie die Fähigkeiten von Modellen wie Llama 4 Maverick 400B der einen Kontext von $1\,000\,000$ Tokens unterstützt.

Fortgeschrittene Anwendungsfälle: Code und Schlussfolgern

Für Entwickler oder Forscher ermöglicht die lokale Nutzung eine vollständige Datensicherheit. Wenn Sie an Code arbeiten, testen Kimi K2.7 Code ist ein hervorragender Ausgangspunkt, um mit seinem Kontextfenster von $262\,144$ Tokens die Fähigkeit zum lokalen Schlussfolgern zu bewerten https://quelllm.fr/modele/kimi-k2-7-code. Für Aufgaben, die einen großen Kontextspeicher erfordern, prüfen Sie die Fähigkeiten von Modellen wie DeepSeek V4 Flash 0731 304B das in Q4 ein Kontextfenster von $1\,048\,576$ Tokens bietet.

Um die Leistung verschiedener Architekturen zu vergleichen, werfen Sie einen Blick in unseren Kompletter Katalog der LLM. Sie können unsere Analysen zum besten Modell für eine spezifische Aufgabe ebenfalls über unser Vergleich nach Anwendungsfall.

Leistungsoptimierung unter Linux

Die Effizienz Ihrer Sitzung LM Studio hängt intrinsisch davon ab, wie Sie die GPU-Nutzung unter Linux konfigurieren. Die Optimierung erfolgt häufig durch die richtige Auswahl der Modelle und deren Konfiguration in der Benutzeroberfläche.

1. Prüfung der Treiber: Stellen Sie sicher, dass die CUDA-Bibliotheken (falls Sie NVIDIA verwenden) korrekt verknüpft und vom LLM-Prozess zugänglich sind. Eine Prüfung mit nvidia-smi wird empfohlen auf der GPU-Dokumentation.
2. Layer-Offloading: Legen Sie in den Einstellungen von LM Studio die maximale Anzahl der Schichten fest, die auf Ihre GPU ausgelagert werden sollen. Für ein Modell wie Mixtral 8x22B Instruct, kann dies einen deutlichen Unterschied zwischen der Ausführung ausschließlich auf der CPU und der Ausführung auf der GPU bewirken.
3. Wahl des Quantisierungsformats: Falls Sie Speicherschwierigkeiten (OOM - Out of Memory) haben, wechseln Sie von Q5 zu Q4 oder sogar zu Q3, falls die Genauigkeit für Ihre Aufgabe weniger kritisch ist. Um die Anforderungen zu vergleichen, schauen Sie beispielsweise Qwen 2.5 VL 72B das bei Q4 etwa 42 GB benötigt https://quelllm.fr/modele/qwen25-vl-72b.

Für einen detaillierten Vergleich der Hardware-Anforderungen lesen Sie unseren LLM-Konfigurationsleitfaden. Wenn Sie spezifische Modelle wie Qwen 3.5 122B-A10B, prüfen Sie seine detaillierten Spezifikationen auf der dedizierten Seite ici.

Häufige Fragen zu LM Studio Linux

F: Welches Modell eignet sich am besten für den Einstieg mit LM Studio auf einem Rechner mit mittelmäßiger Ausstattung?

Für den Einstieg ohne High-End-Grafikkarte empfehlen wir quantisierte Modelle wie Mistral Medium 3.5 128B oder Llama 4 Scout 109B. Diese Modelle bieten einen guten Kompromiss zwischen Leistung und Speicheraufwand zum Testen der Schnittstelle LM Studio Linux.

F: Wie kann ich überprüfen, ob meine GPU von LM Studio tatsächlich genutzt wird?

Sie können Systemtools wie nvidia-smi (für NVIDIA) oder radeontop. Wenn Sie eine Anfrage mit einem großen Modell starten, sollten diese Befehle eine deutliche Nutzung des Grafikspeichers (VRAM) anzeigen und damit bestätigen, dass der GPU-Offload ist aktiv.

Q: Werden die Lizenzbedingungen der in LM Studio importierten Modelle immer eingehalten?

Ja. Die Lizenz jedes Modells muss unbedingt vor der Nutzung geprüft werden. Beispielsweise DeepSeek V4 Pro 1.6T verwendet die MIT-Lizenz, während andere Lizenzbedingungen besondere Aufmerksamkeit erfordern, wie beispielsweise die speziellen Lizenzbedingungen von Moonshot AI für Kimi K2.5. Konsultieren Sie unseren Index der Lizenzen.

F: Ist es möglich, ein sehr großes Modell ohne dedizierte GPU auszuführen?

Technisch ist das allein mit der CPU möglich, aber bei Modellen mit mehr als einigen Dutzend Milliarden Parametern wird die Generierung (Tokens/s) extrem langsam sein. Für eine brauchbare Nutzung mit umfangreichen Modellgewichten wie GLM 5.2 753B-A40B, ist eine hohe Mindestmenge an RAM erforderlich.

Q: Wie kann man von einer Version zu einer anderen wechseln, ohne LM Studio neu zu installieren?

Es genügt, die neue Version der GGUF-Datei (oder das vollständige Modell) herunterzuladen und die neue Datei in der Oberfläche zum Laden von Modellen in LM Studio auszuwählen. Die Anwendung verwaltet die lokalen Dateipfade und ermöglicht so eine einfache Aktualisierung ohne vollständige Neuinstallation.

Fazit: Ihre lokale LLM-Umgebung unter Linux

Die erfolgreiche Installation von LM Studio Linux eröffnet Ihnen die Möglichkeit, die Gewichte von Open-Source-Modellen lokal und privat auszuführen, ohne auf externe APIs angewiesen zu sein. Ob Sie mit dem fortgeschrittenen Schlussfolgern von GLM 5.2 753B-A40B oder die Effizienz von Qwen 3 VL 235B-A22B, dieser Leitfaden liefert die notwendigen technischen Schritte. Um die Leistung der verfügbaren Modelle weiter zu erkunden, wenden Sie sich an unsere komplettes Katalog und finden Sie den LLM, der perfekt zu Ihren Anforderungen an lokale Rechenaufgaben passt.