eGPU: eine externe Grafikkarte für KI locale

Eine eGPU ist eine Desktop-Grafikkarte in einem externen Gehäuse, die per Thunderbolt, USB4 oder OCuLink mit einem Laptop oder Mini-PC verbunden wird. Für lokale KI liefert sie den fehlenden VRAM: Ein Modell, das vollständig in die Karte passt, läuft nahezu normal, die Verbindung mit 32 bis 64 Gbit/s verlangsamt vor allem das Laden. Macs mit Apple Silicon unterstützen sie für Ollama oder MLX nicht.
Ein Notebook mit einer GeForce RTX 4070 Laptop GPU hat nur 8 GB VRAM, zu wenig für Modelle mit 14 bis 32 Milliarden Parametern. Eine eGPU ergänzt eine echte Desktop-Grafikkarte, ohne dass Sie den Rechner wechseln müssen. Hier erfahren Sie, welche Verbindung Sie wählen sollten, was das Kabel an Geschwindigkeit kostet, was auf dem Mac funktioniert und was nicht, und wie Sie prüfen, ob Ollama tatsächlich die externe Karte nutzt.
Wählen Sie einen Rechner? Unsere Empfehlungen nach Budget →
Gutes Preis-Leistungs-Verhältnis für lokale KI: ein GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395).
Ein Mini-PC ist ein vollständiges System: Prüfen Sie den verfügbaren Speicher und die Kompatibilität der Engine. Er ersetzt nicht macOS/MLX oder CUDA.
Warum diese Wahl? Unsere vollständige Übersicht zu GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) →
Alle Optionen nach Budget vergleichen, von 800 bis 3 500 € →
Kleines Budget: RTX 5060 · Große Modelle: RTX 5090 · Mac Studio.
Unterwegs: Welcher Laptop für lokale KI →
Affiliate-Links — mögliche Provision ohne zusätzliche Kosten für Sie. Als Amazon-Partner verdient WelchesLLM an qualifizierten Käufen.
#eGPU: Was ist das, und lohnt es sich für lokale KI?
Eine eGPU (external GPU, also externe Grafikkarte) ist ein Gehäuse, das eine Desktop-Grafikkarte samt Netzteil aufnimmt und über ein Kabel, das den PCI-Express-Bus überträgt, mit einem Computer verbunden ist. Für lokale KI dient die eGPU vor allem dazu, einem Laptop oder Mini-PC, der nicht genug davon hat, Videospeicher (VRAM) hinzuzufügen.
Für das System ist eine eGPU einfach eine weitere Grafikkarte: Laut der Dokumentation des NVIDIA-Treibers für Linux unterstützt dieser per Thunderbolt angeschlossene externe GPUs. Ollama und llama.cpp nutzen sie dann wie eine interne Karte.
Ein Sprachmodell generiert schnell, wenn alle seine Gewichte in den VRAM passen. Laut der vom Jan-Team veröffentlichten Tabelle verfügt die GeForce RTX 4070 Laptop GPU über 8 GB VRAM. Eine Desktop-Karte mit 16 oder 24 GB in einer eGPU ermöglicht Modelle mit 14 bis 32 Milliarden Parametern in Q4, die allein für ihre Gewichte etwa 9 bis 20 GB benötigen, zuzüglich Kontext.
- VRAM
- VRAM ist der Speicher der Grafikkarte: Er enthält die Gewichte des Modells und den Kontext-Cache.
- PCIe-Tunnel
- Das PCIe-Tunneling ist die Funktion, die den PCI-Express-Bus über ein Thunderbolt- oder USB4-Kabel leitet. Ohne sie funktioniert ein eGPU-Gehäuse nicht.
- Thunderbolt
- Thunderbolt ist eine Verbindung über einen USB-C-Anschluss, die Daten, Bildsignal, PCIe und Stromversorgung überträgt.
- OCuLink
- OCuLink ist ein Anschluss, der PCI-Express-Lanes vom Mainboard über ein Kabel nach außen führt (vier Lanes in der Version 4i), ohne Thunderbolt-Controller dazwischen. Er findet sich vor allem in Mini-PCs.
#Thunderbolt 4, Thunderbolt 5, USB4 oder OCuLink: Welche Verbindung für eine eGPU?
Der Anschluss einer eGPU legt die verfügbare PCIe-Bandbreite fest: laut Intel 32 Gbit/s bei Thunderbolt 4 und 64 Gbit/s bei Thunderbolt 5, bei OCuLink PCIe 4.0 x4 etwa gleich viel. Ein USB4-Anschluss eignet sich nur, wenn der Hersteller des Computers die Unterstützung externer Grafikgehäuse angibt.
| Connexion | Angegebener PCIe-Durchsatz | Was sie überträgt | Für welchen Rechner |
|---|---|---|---|
| Thunderbolt 4 | Von Intel geforderte 32 Gbit/s | PCIe, Bildschirm, USB, Laden | Aktuelle Laptops mit Thunderbolt-4-Anschluss |
| Thunderbolt 5 | Von Intel geforderte 64 Gbit/s; 80 Gbit/s Bandbreite in jede Richtung | PCIe, Bildschirm, USB, Laden | Laptops mit Thunderbolt 5 |
| USB4 | Variabel: Der PCIe-Tunnel hängt vom Gerät ab | Je nach Implementierung des Herstellers | Nur wenn das Datenblatt des Computers eGPU-Unterstützung angibt |
| OCuLink 4i | PCIe 4.0 x4, bis zu 64 GT/s laut Minisforum | Nur PCIe | Mini-PCs und einige Notebooks mit OCuLink-Anschluss |
#eGPU mit Thunderbolt 4 oder Thunderbolt 5?
Eine Thunderbolt-5-eGPU verfügt über doppelt so viel PCIe-Bandbreite wie eine Thunderbolt-4-eGPU. Laut Intels technischem Hinweis zu Thunderbolt 5 muss ein Thunderbolt-4-PC 32 Gbit/s PCIe bereitstellen und ein Thunderbolt-5-PC 64 Gbit/s. Ein Thunderbolt-5-Gehäuse bleibt an einem Thunderbolt-4-Notebook nutzbar: Razer gibt sein Core X V2 als kompatibel mit Thunderbolt-5- und Thunderbolt-4-Notebooks an. Die PCIe-Bandbreite entspricht dann der des Thunderbolt-4-Anschlusses.
Das USB-IF gibt für USB4 mit zertifizierten Kabeln bis zu 80 Gbit/s an, doch diese Zahl sagt nichts über das PCIe-Tunneling aus. Razer verspricht Kompatibilität nur mit USB4-Geräten, die externe Grafikgehäuse unterstützen: Das USB4-Logo allein reicht nicht.
#OCuLink für eine eGPU: direktes PCIe, ohne Thunderbolt
Eine OCuLink-eGPU verbindet vier PCIe-4.0-Lanes des Rechners direkt mit dem Dock. Das Minisforum DEG1 etwa bietet laut Hersteller einen Oculink-4i-Anschluss mit PCIe 4.0 x4, akzeptiert ATX- und SFX-Netzteile sowie Karten bis zur RTX 4090 oder RX 7900 XTX. OCuLink überträgt nur PCIe: weder Bildsignal noch Stromversorgung, und es setzt einen OCuLink-Anschluss am Computer voraus. Das Datenblatt von Minisforum sagt nichts über Hot-Plugging; schalten Sie sicherheitshalber Computer und Dock aus, bevor Sie das Kabel anschließen oder abziehen.
#Bremst eine eGPU ein lokales LLM aus?
Eine eGPU bremst ein lokales LLM kaum aus, wenn das Modell vollständig in den VRAM passt, weil die Gewichte während der Generierung auf der Karte bleiben. Die externe Verbindung wirkt sich auf das Laden des Modells aus – und deutlich stärker, wenn das Modell in den Systemspeicher ausweicht.
Laut dem Team von Jan liest eine RTX 4090 ihren VRAM mit etwa 1.000 GB/s, während ihr PCIe-4.0-x16-Steckplatz etwa 32 GB/s bietet. Eine Thunderbolt-4-Verbindung mit 32 Gbit/s entspricht etwa 4 GB/s, eine Thunderbolt-5- oder OCuLink-Verbindung mit 64 Gbit/s etwa 8 GB/s. Während der Generierung dominieren die Lesezugriffe auf den VRAM; über das Kabel laufen vor allem die Anfrage, die erzeugten Tokens und beim Start die Gewichte.
Schätzung, keine Messung: Die Übertragung der 19 bis 20 GB eines 32B-Modells in Q4 dauert bei 4 GB/s mindestens etwa 5 Sekunden und bei 8 GB/s 2,5 Sekunden, das Lesen vom Datenträger nicht eingerechnet. Laut der Dokumentation von Ollama bleibt ein Modell danach standardmäßig 5 Minuten im Speicher, sodass diese Wartezeit zwischen zwei Fragen nicht erneut anfällt.
Das Team von Jan hat eine Vergleichsmessung veröffentlicht. Mit Mistral 7B in Q4_K_M unter llama.cpp erzielte eine RTX 4090 in einem AORUS RTX 4090 Gaming Box-Gehäuse, per Thunderbolt 3 an ein Razer Blade 14 angeschlossen, 62,22 Tokens pro Sekunde, gegenüber 100,43 bei einer RTX 4090 im Desktop-PC über PCIe 4.0 x16, laut Jan also 38,5 % weniger. Dieser Benchmark ist älter und mit Vorsicht zu lesen: Die beiden Host-Rechner waren nicht dieselben, der Unterschied misst also nicht allein das Kabel; das Thunderbolt-3-Gehäuse war am USB4-Port des Notebooks angeschlossen, und Jan schreibt, sich über den tatsächlichen Durchsatz dieser Verbindung nicht sicher zu sein.
#eGPU am Mac: Mit einem Apple Silicon-Chip möglich?
Eine eGPU funktioniert nicht mit Ollama, LM Studio oder MLX auf einem Mac mit Apple-Silicon-Chip. Apple gibt an, dass für die Nutzung einer eGPU ein Mac mit Intel-Prozessor erforderlich ist, und Razer stellt klar, dass eGPUs von Macs ab M1 nicht unterstützt werden.
TinyGPU ist eine Ausnahme. TinyGPU ist eine Anwendung, die laut der Dokumentation von tinygrad die Nutzung von AMD-Karten ab RDNA3 und NVIDIA-Karten ab Ampere unter macOS 13 oder neuer per USB4 oder Thunderbolt mit dem Framework tinygrad ermöglicht. Laut heise (7. April 2026) gibt Tiny Corp, das tinygrad entwickelt, an, dass Apple seine Treiber genehmigt hat; diese Genehmigung ist nur durch diese Aussage bekannt. Ebenfalls laut heise funktionieren diese Treiber nur mit tinygrad, nicht mit MLX.
Auf einem Mac mit Apple Silicon wird die Kapazität für lokale KI also beim Kauf festgelegt: Der Unified Memory dient als RAM und VRAM und lässt sich später nicht erweitern.
#eGPU-Gehäuse für KI: Worauf sollten Sie achten und was kostet es?
Ein eGPU-Gehäuse für KI muss Ihre Grafikkarte aufnehmen können, ausreichend mit Strom versorgt werden und die schnellste Verbindung Ihres Computers nutzen. Am 18. November 2026 listet der offizielle Shop von Razer France das Core X V2 ab 409,99 € auf, ohne Grafikkarte und ohne Netzteil; dieser Preis kann sich ändern.
- Connexion
- Wählen Sie ein Thunderbolt-5-Gehäuse, wenn Ihr Computer einen Thunderbolt-5-Anschluss hat, und ein OCuLink-Dock, wenn Ihr Mini-PC einen OCuLink-Anschluss hat. Das Razer Core X V2 gibt bis zu 80 Gbit/s über Thunderbolt 5 an.
- Stromversorgung
- Razer weist darauf hin, dass das Core X V2 kein Netzteil enthält: Ein ATX-Netzteil muss separat gekauft und passend zur Grafikkarte dimensioniert werden.
- Größe der Karte
- Vergleichen Sie Länge und Dicke Ihrer Karte mit den Abmessungen des Gehäuses. Das Core X V2 nimmt Karten von NVIDIA und AMD mit bis zu 4 Slots Dicke auf.
- System
- Razer setzt für das Core X V2 Windows 10 RS5 oder Windows 11 voraus. Prüfen Sie unter Linux die Thunderbolt-Unterstützung des Kernels und des Kartentreibers.
- Recharge
- Ein Thunderbolt-Gehäuse kann das Notebook über dasselbe Kabel laden: Das Core X V2 liefert laut Razer bis zu 140 W, sodass Sie kein zweites Ladegerät benötigen.
Die tatsächlichen Kosten einer eGPU setzen sich aus Gehäuse, Netzteil, Grafikkarte und bei OCuLink dem passenden Kabel zusammen. Vergleichen Sie diese Summe mit dem Preis eines Desktop-PCs oder eines Mini-PCs mit Unified Memory.
#Eine eGPU für Ollama unter Windows oder Linux einrichten
Die Einrichtung einer eGPU für Ollama erfordert sechs Schritte, von der Prüfung des Anschlusses bis zur abschließenden Kontrolle: ollama ps muss anzeigen, dass das Modell zu 100 % auf der externen GPU geladen ist.
- 01Den Anschluss des Computers prüfenSuchen Sie im offiziellen Datenblatt Ihres Computers nach der Angabe Thunderbolt 4, Thunderbolt 5, OCuLink oder nach der ausdrücklichen Unterstützung von eGPUs über seinen USB4-Anschluss. Fehlt diese Angabe, bestellen Sie kein Gehäuse.
- 02Karte und Netzteil einbauenSetzen Sie die Grafikkarte in das Gehäuse ein und schließen Sie ihre PCIe-Stromkabel an, sowie ein ATX-Netzteil, falls das Gehäuse keines enthält. Dessen Leistung muss den vom Hersteller der Karte angegebenen Verbrauch abdecken.
- 03Gehäuse anschließenVerwenden Sie bei Thunderbolt das mitgelieferte Kabel oder ein zertifiziertes Kabel derselben Generation. Schalten Sie bei OCuLink den Computer und das Dock aus, bevor Sie das Kabel anschließen, und schalten Sie dann das Dock vor dem Computer wieder ein, falls die Anleitung dies verlangt.
- 04Das Gerät unter Linux autorisierenUnter Linux kann der PCIe-Tunnel standardmäßig deaktiviert sein. Der Befehl boltctl list zeigt die Thunderbolt-Geräte und ihre Kennung an; boltctl enroll gefolgt von dieser Kennung autorisiert das Gehäuse und speichert es für künftige Verbindungen.
- 05Den Treiber der Grafikkarte installierenInstallieren Sie den Treiber des Kartenherstellers. Ollama unterstützt NVIDIA-Karten mit Compute Capability 5.0 oder höher mit einem Treiber ab Version 550 sowie AMD-Karten über ROCm oder Vulkan.
- 06Prüfen, ob das Modell auf der eGPU läuftStarten Sie ein Modell in Ollama und geben Sie dann in einem zweiten Terminal ollama ps ein: Die Spalte PROCESSOR muss 100% GPU anzeigen. Ein zwischen CPU und GPU aufgeteilter Wert weist darauf hin, dass der VRAM überschritten wird.
Laut der Dokumentation des Linux-Kernels kann ein Thunderbolt-Gerät den Arbeitsspeicher des Computers ohne Wissen von Prozessor und Betriebssystem auslesen, daher diese standardmäßige Sperre. Autorisieren Sie nur Ihr eigenes Gehäuse.
#eGPU, Desktop-PC oder Mini-PC mit Unified Memory: Was sollten Sie wählen?
Eine eGPU lohnt sich, wenn Sie einen aktuellen Laptop oder Mini-PC behalten, dem VRAM fehlt. Wenn Sie bei null anfangen, bietet ein Desktop-PC mit derselben Grafikkarte in PCIe x16 eine 4- bis 8-mal breitere PCIe-Anbindung, und ein Mini-PC mit Unified Memory zielt auf sehr große Modelle.
| Ihre Situation | Empfohlene Option | Grund |
|---|---|---|
| Laptop mit Thunderbolt 4 oder 5, Bedarf an 16 bis 24 GB VRAM | Thunderbolt-eGPU | Sie behalten den Rechner; das Modell verliert wenig, wenn es in den VRAM passt |
| Mini-PC mit OCuLink-Anschluss | OCuLink-Dock | Direktes PCIe 4.0 x4, ohne Thunderbolt-Controller |
| Kein Gerät vorhanden, Komplettkauf einplanen | Desktop-PC mit Karte im PCIe-x16-Steckplatz | PCIe-Anbindung, 4- bis 8-mal breiter als bei einer eGPU |
| Modelle mit 70 Milliarden Parametern oder mehr | Mini-PC oder Workstation mit 128 GB Unified Memory | Die GeForce RTX 5090 hat laut NVIDIA 32 GB VRAM, weniger als die rund 40 GB an Gewichten eines 70B in Q4 |
| Mac mit Apple Silicon-Chip | Keine eGPU für Ollama oder MLX | Einzige Ausnahme: TinyGPU, beschränkt auf tinygrad |
| USB4-Laptop ohne eGPU-Angabe | Keine eGPU | Das USB4-Logo allein garantiert kein PCIe-Tunneling |
Eine eGPU ändert nichts am Datenschutz: Berechnung und Daten bleiben auf Ihrer Hardware.
Reicht eine Thunderbolt-4-eGPU aus, um ein LLM auszuführen?+
Kann man eine eGPU abziehen, ohne den Computer auszuschalten?+
Ist OCuLink für eine eGPU schneller als Thunderbolt?+
Wie viel kostet ein komplettes eGPU-Setup für KI?+
Funktioniert eine eGPU an einem Laptop ohne Thunderbolt?+
#Quellen und Überprüfung vom 18. November 2026
Bandbreiten, Kompatibilitäten, Befehle und Preise erhoben am 18. November 2026 aus dem technischen Hinweis von Intel, den Herstellerseiten, den Dokumentationen von Ollama, des Linux-Kernels, von bolt, von NVIDIA und von tinygrad, dem Benchmark von Jan und dem Artikel von heise; Preise und Kompatibilitätslisten können sich ändern.
- Quelle: eGPU mit einem Mac verwenden (Apple)
- Quelle: Produktseite Razer Core X V2 (Razer)
- Quelle: Datenblatt des DEG1 OCuLink Docks (Minisforum)
- Quelle: technischer Hinweis zu Thunderbolt 5 und Thunderbolt 4 (Intel)
- Quelle: FAQ von Ollama, Befehl ollama ps
- Quelle: Thunderbolt unter Linux (Kernel-Dokumentation)
- Quelle: TinyGPU für Mac (tinygrad)
- Quelle: RTX 4090-Benchmark und eGPU (Jan)
Haben Sie Feedback, einen Fehler entdeckt oder möchten Sie etwas präzisieren? Geben Sie uns Bescheid – so wird der Guide für alle besser.