LM Studio in einen OpenAI-API-Server verwandeln (2026)

#Was Sie erhalten

Am Ende dieses Leitfadens verfügen Sie über die Adresse http://localhost:1234/v1, die jedes OpenAI-SDK (Python, JavaScript, C#), LangChain oder ein Code-Tool wie Cline oder Continue anstelle der OpenAI-API nutzen kann. Der Server bietet außerdem eine native API unter /api/v1 (zustandsbehafteter Chat, Laden und Herunterladen von Modellen) sowie Anthropic-kompatible Endpunkte. Alles bleibt auf Ihrem Rechner: Das Modell, die Anfragen und die Antworten verlassen ihn nicht, solange Sie den Server nicht selbst im Netzwerk zugänglich machen.

#1. Server starten

1. 01
   Öffnen Sie den Tab Developer

   In LM Studio bündelt der Developer-Tab den Server, seine Protokolle und seine Einstellungen. Das Modell, das bereitgestellt werden soll, muss zuvor heruntergeladen werden.
2. 02
   Aktivieren Sie Start server

   Aktivieren Sie den Schalter Start server: Der Server startet auf dem unter Server Settings angegebenen Port, in den Beispielen der Dokumentation auf Port 1234.
3. 03
   Oder starten Sie über die Befehlszeile

   In einem Terminal startet der Befehl lms server start denselben Server, ohne die Benutzeroberfläche zu öffnen.
4. 04
   Prüfen Sie die Liste der Modelle

   Fragen Sie /v1/models ab, um zu bestätigen, dass der Server antwortet, und die Modell-IDs anzuzeigen, die Sie in Ihren Anfragen verwenden sollen.

lms server start

#2. Die Servereinstellungen im Einzelnen

Die Einstellungen befinden sich unter Developer, Server Settings. Sie bestimmen, wer den Server aufrufen darf und welche Aktionen die Clients vom Server ausführen lassen können. Die meisten Integrationsprobleme gehen auf einen dieser Schalter zurück, meist auf den für das Netzwerk oder CORS.

#3. Mit curl testen

Ein erster Testaufruf genügt, um die Funktion des Servers zu überprüfen. In den Anfragen muss das Feld model die Modellkennung so enthalten, wie sie in LM Studio angezeigt wird, und keinen generischen Namen wie local-model: Darauf weist die Dokumentation in ihrem curl-Beispiel hin.

curl http://localhost:1234/v1/models

curl http://localhost:1234/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "IDENTIFIANT-DU-MODELE",
    "messages": [
      {"role":"system","content":"Tu es concis."},
      {"role":"user","content":"Capitale du Portugal ?"}
    ],
    "temperature": 0.2
  }'

Die Antwort ist ein JSON im OpenAI-Format: choices[0].message.content enthält den Text. Wenn der Wert im Feld model falsch ist oder das Laden bei Bedarf deaktiviert ist und das Modell nicht geladen ist, schlägt die Anfrage fehl: Überprüfen Sie zuerst die von /v1/models zurückgegebene Kennung.

#4. Aus Python aufrufen

Das SDK openai lässt sich verwenden, indem lediglich die Basisadresse geändert wird: Genau diese Änderung zeigt die Dokumentation von LM Studio. Das SDK verlangt einen Schlüssel; solange die Authentifizierung deaktiviert ist, prüft LM Studio ihn nicht. Wenn Sie die Authentifizierung aktivieren, wird der Schlüssel zu Ihrem API-Token.

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio",  # ignorée sans authentification ; votre jeton sinon
)

resp = client.chat.completions.create(
    model="IDENTIFIANT-DU-MODELE",
    messages=[
        {"role": "system", "content": "Réponds en 1 phrase."},
        {"role": "user",   "content": "Qu'est-ce qu'un LLM ?"},
    ],
    temperature=0.3,
    stream=True,
)

for chunk in resp:
    delta = chunk.choices[0].delta.content or ""
    print(delta, end="", flush=True)

Das Streaming funktioniert wie bei OpenAI: Auf Clientseite sind keine Änderungen erforderlich, um die Tokens in Echtzeit anzuzeigen. Für Agenten und Editoren implementiert LM Studio außerdem den Endpunkt /v1/responses, der weiter unten vorgestellt wird.

#Welche API wählen: OpenAI, Anthropic oder die native API

LM Studio bietet drei Familien von Endpoints an. Endpoints, die OpenAI kompatibel sind, umfassen Modelle, Antworten, Chats, Embeddings und Completions. Endpoints, die Anthropic kompatibel sind, akzeptieren das Anthropic-Format der Nachrichten. Ab Version 0.4.0 bietet die native API /api/v1 Funktionen spezifisch für LM Studio: Chat mit Zustand, Laden, Entfernen und Herunterladen von Modellen sowie die Kontext-Einstellung über die Anfrage.

#6. Mehrere Modelle: Laden bei Bedarf und TTL

Beim Laden nach Bedarf (JIT, für Just in Time) lädt der erste Aufruf eines Modells dieses in den Speicher, und /v1/models listet alle heruntergeladenen Modelle auf, nicht nur die bereits geladenen. Ohne JIT gibt /v1/models nur die bereits geladenen Modelle zurück, und Sie müssen das Modell laden, bevor Sie es aufrufen. Dieser Modus ist ideal, wenn ein Tool wie Zed, Cline oder Continue sein Modell selbst auswählt.

Standard-TTL

Ein bei Bedarf geladenes Modell wird nach 60 Minuten ohne Anfrage aus dem Speicher entladen.

TTL pro Anfrage

Fügen Sie der Anfrage ein Feld ttl (in Sekunden) hinzu; 300 entspricht 5 Minuten.

TTL für lms load

Die mit lms load geladenen Modelle haben standardmäßig keine TTL: Verwenden Sie die Option --ttl.

Auto-Evict

Standardmäßig aktiviert: Es bleibt jeweils nur ein bei Bedarf geladenes Modell im Speicher. Deaktivieren Sie diese Option, um mehrere Modelle im Speicher zu behalten.

#7. Den Server mit Authentifizierung im Netzwerk verfügbar machen

Damit ein anderer Rechner im Netzwerk Ihren Server ansprechen kann, aktivieren Sie „Serve on Local Network“ unter „Server Settings“ oder starten Sie den Server mit der Bind-Adresse 0.0.0.0. Der Server lauscht dann nicht mehr ausschließlich auf localhost: Die Dokumentation warnt, dass jede Bind-Adresse außer 127.0.0.1 den Server auch außerhalb des Rechners erreichbar macht, und empfiehlt, die Authentifizierung zu aktivieren.

lms server start --bind 0.0.0.0

curl http://192.168.1.42:1234/v1/models

Entgegen einer weit verbreiteten Annahme kann LM Studio Anfragen authentifizieren. Standardmäßig verlangt es keine Authentifizierung; wenn Sie den Schalter in Server Settings aktivieren, akzeptiert es nur noch Anfragen mit einem gültigen API-Token, das in Manage Tokens mit den gewählten Berechtigungen erstellt wurde. Das Token wird nur bei der Erstellung angezeigt: Kopieren Sie es sofort. Diese Funktion erfordert LM Studio 0.4.0 oder eine neuere Version.

curl http://192.168.1.42:1234/v1/models \
  -H "Authorization: Bearer $LM_API_TOKEN"

Für den Zugriff aus dem Internet geben Sie den Port nicht öffentlich frei: Nutzen Sie ein VPN oder einen Reverse-Proxy mit TLS. Das Prinzip ist dasselbe wie bei einem Ollama-Server und wird im Leitfaden zur Absicherung ausführlich beschrieben. Eine einfachere Alternative, um ein Modell auf einem anderen Rechner zu nutzen, ist LM Link: Es stellt ein Modell auf einem entfernten Gerät so bereit, als wäre es lokal geladen.

• Einen Server für lokale KI absichern: Authentifizierung, Reverse Proxy, Netzwerkzugriff

#Ohne grafische Oberfläche: llmster und automatischer Start

Seit Version 0.4.0 gibt es den Kern von LM Studio als eigenständigen Daemon namens llmster, der für den Betrieb ohne Benutzeroberfläche auf einem Linux-Server, einem GPU-Rechner oder einem lokalen Arbeitsplatzrechner ausgelegt ist. Er lässt sich mit einer einzigen Befehlszeile installieren und mit lms daemon up starten; anschließend wird der Server mit lms server start gestartet. Auf einem Rechner mit Benutzeroberfläche können Sie außerdem in den Anwendungseinstellungen die Option aktivieren, die den Server bei der Anmeldung startet: Beim Schließen wird die Anwendung dann in den Infobereich minimiert, und der Server läuft weiter.

curl -fsSL https://lmstudio.ai/install.sh | bash
lms daemon up
lms server start

#9. Leistung: das, was wirklich zählt

GPU-Offload

Laden Sie so viele Schichten wie möglich in den VRAM. Ein Modell, das teilweise in den Arbeitsspeicher ausgelagert wird, verliert den Großteil seines Durchsatzes.

Context Length

Wählen Sie den benötigten Kontext, nicht den maximalen: Der Kontextcache verbraucht VRAM und wächst mit der Länge.

Max Concurrent Predictions

Anzahl der gleichzeitigen Anfragen, die von einem Modell verarbeitet werden; darüber hinaus werden sie in einer Warteschlange abgelegt.

Unified KV Cache

Standardmäßig aktiviert: Die Ressourcen werden nicht in festen Anteilen auf die Anfragen verteilt, sodass unterschiedlich große Anfragen möglich sind.

Der Leitfaden zu Flash Attention und der zum Kontextfenster erläutern die Auswirkungen auf den Speicher im Detail. Für einen hohen Durchsatz bei mehreren Nutzern bleibt ein dedizierter Server besser geeignet: Der Leitfaden zu vLLM zeigt die Bereitstellung.

• Flash Attention in llama.cpp
• Das Kontextfenster verstehen

#Grenzen und Alternativen: Was sich geändert hat

Mehrere häufig genannte Einschränkungen treffen nicht mehr zu. Diese Angaben zu korrigieren, verändert die Wahl des Tools. Die Tabelle stellt die weiterhin verbreiteten Aussagen den Angaben der aktuellen Dokumentation gegenüber.

Es bleiben echte Grenzen: LM Studio ist für einen einzelnen Arbeitsplatzrechner konzipiert, nicht für einen Cluster; kontinuierliches Batching ersetzt keinen Server wie vLLM, der für Dutzende Benutzer ausgelegt ist; und Updates der Anwendung können das Verhalten verändern, weshalb auf einem Rechner, der einen Dienst bereitstellt, die Version festgeschrieben werden muss. Um zwischen LM Studio und seinen Konkurrenten zu wählen, vergleichen Sie sie, bevor Sie sich festlegen.

• vLLM in der Produktion einsetzen
• Ollama vs LM Studio vs Jan vs GPT4All
• LM Studio unter Linux
• Cline an ein lokales Modell anschließen

• Quelle: Dokumentation LM Studio, lokaler API-Server
• Quelle: Dokumentation LM Studio, Server-Einstellungen
• Quelle: Dokumentation LM Studio, Authentifizierung
• Quelle: Dokumentation LM Studio, Kompatibilität mit OpenAI
• Quelle: Ankündigung von LM Studio 0.4.0