Welcher LLM für MacBook Air M3 (8 / 16 / 24 GB) ?

#MacBook Air M3 im Jahr 2026: die für LLMs relevanten technischen Daten

Laut Apples technischen Daten kombiniert der M3-Chip des MacBook Air eine CPU mit 8 Kernen (4 Performance- und 4 Effizienzkerne), eine GPU mit 8 oder 10 Kernen, eine Neural Engine mit 16 Kernen und eine Speicherbandbreite von 100 GB/s. Der gemeinsame Speicher ist fest verlötet: Apple nennt zwei Einstiegskonfigurationen mit 8 GB oder 16 GB, die beide beim Kauf auf 24 GB aufgerüstet werden können. Das Modell ist mit 13 und 15 Zoll und jeweils demselben Chip erhältlich.

Bandbreite

100 GB/s, dieselbe Bandbreite wie beim M2. Sie begrenzt die Generierungsgeschwindigkeit stärker als die Anzahl der GPU-Kerne.

Kühlung

Ohne Lüfter. Der Chip kann seine Wärme nur über das Gehäuse abgeben: Bei einer längeren Generierung senkt er schließlich seine Taktfrequenz.

Neural Engine

16 Kerne, aber die gängigen Tools für lokale KI (Ollama, llama.cpp, LM Studio) nutzen die GPU über Metal, nicht die Neural Engine.

Neuerung beim M3

Dynamic Caching, das den lokalen GPU-Speicher in Echtzeit zuweist. Wir haben keine Messdaten zu dessen Auswirkungen auf LLMs und machen dazu auch keine Versprechungen.

#Lokale KI oder Apple Intelligence: zwei verschiedene Dinge

Viele Suchanfragen zum MacBook Air M3 beziehen sich auf „KI“ im weiteren Sinne. Apple Intelligence ist die in macOS integrierte Sammlung von Funktionen (Zusammenfassungen, Schreiben, Siri); laut Apple funktioniert sie auf Macs mit einem M1-Chip oder neuer, also auch auf dem MacBook Air M3. Sie ermöglicht Ihnen weder, das Modell auszuwählen, noch eine API bereitzustellen oder mit einem offenen Modell Ihre eigenen Dokumente zu bearbeiten.

Lokale KI, um die es in diesem Leitfaden geht, bedeutet, ein offenes Modell (Qwen, Gemma, Granite, Mistral) herunterzuladen und mit Ollama, LM Studio oder MLX auszuführen. Sie entscheiden über das Modell, die Kontextgröße und darüber, was auf dem Rechner bleibt. Beides kann nebeneinander bestehen; der Arbeitsspeicher wird jedoch gemeinsam genutzt, und ein geladenes Modell mit 9 Milliarden Parametern reduziert den Speicher, der für macOS und die Anwendungen übrig bleibt.

#Wie viel Speicher: 8, 16 oder 24 GB

Der Speicher ist das wichtigste Kriterium, denn ein Modell, das die verfügbare Speicherkapazität überschreitet, wird nicht langsamer: Es wird unbrauchbar. Auf Apple Silicon kann die GPU nicht den gesamten vereinheitlichten Speicher nutzen; laut den Diskussionen im llama.cpp-Repository stellt Metal ihr standardmäßig zwischen zwei Dritteln und drei Vierteln davon zur Verfügung. Rechnen Sie bei einem Gerät mit 16 GB mit etwa 10 bis 12 GB für das Modell und seinen Kontext.

Die Spalte „nutzbar“ ist eine Schätzung anhand der Zwei-Drittel- bis Drei-Viertel-Regel, keine Angabe von Apple. Die 8-GB-Variante ist nur sinnvoll, wenn Sie wissen, dass Sie bei kleinen Modellen bleiben werden; da sich der Arbeitsspeicher später nicht erweitern lässt, ist die 16-GB-Variante die vernünftige Wahl für lokale KI. Um zu prüfen, ob ein Modell samt Kontext in den Speicher passt, liefert der Speicherrechner dieser Website den Gesamtbedarf.

• Speicherechner für ein Modell und einen Kontext
• Quantisierung wählen

#Welches Modell wählen und welche Geschwindigkeit erwarten?

Der Generierungsdurchsatz wird durch die Bandbreite geteilt durch die Größe der bei jedem Token gelesenen Gewichte begrenzt. Bei 100 GB/s liegt die Obergrenze für ein 4,6-GB-Modell bei etwa 21 Tokens pro Sekunde, für ein 6-GB-Modell bei etwa 16 und für ein 14-GB-Modell bei etwa 7. In den veröffentlichten Messungen für ein Llama 7B erreicht der M3 in Q4_0 21,34 Tokens pro Sekunde, also etwa 80 % der Obergrenze. Es handelt sich um theoretische Obergrenzen, nicht um Garantien.

Wenn das Ergebnis zu langsam ist, liegt der Hebel nicht bei einer Einstellung, sondern bei der Modellgröße: Ein Wechsel von 9B auf 4B verdoppelt ungefähr den Durchsatz. Für Code ist ein spezialisiertes Modell mit 7 bis 9B nützlicher als ein 24B-Modell, das für den Einsatz in Echtzeit zu langsam ist. Die Geschwindigkeitstabelle auf der Website (/benchmarks) enthält die je nach Hardware veröffentlichten Messwerte.

#Ohne Lüfter: Die Hitze begrenzt lange Generierungen

Das MacBook Air hat keinen Lüfter. Bei einer kurzen Frage werden Sie das nicht bemerken. Beim Zusammenfassen mehrerer Dutzend Seiten oder bei einer mehrminütigen Generierung erwärmt sich der Chip und senkt schließlich seine Taktfrequenz und damit seinen Durchsatz. Das Phänomen hängt vom Raum, der Last und der Umgebung ab; wir haben keine Messung, die wir dazu anführen können, und Sie sollten es auf Ihrem Rechner mit einer längeren Generierung überprüfen.

Den Rechner auf eine Unterlage stellen, die eine gute Belüftung ermöglicht

Ein Aluminiumständer oder eine harte Oberfläche hilft dem Gehäuse, Wärme abzuführen; ein Sofa oder ein Bett verhindert dies.

Pausen planen

Teilen Sie bei langen Aufgaben die Arbeit in mehrere Teilaufgaben auf, statt alles in einem einzigen, mehrere Minuten dauernden Generierungslauf zu erledigen.

Ein kleineres Modell verwenden

Ein 4B- oder 8B-Modell erzeugt deutlich weniger Wärme als ein Modell, das die Bandbreite ständig vollständig auslastet.

An den Netzstrom anschließen

Im Akkubetrieb kann macOS die Leistung begrenzen, um Energie zu sparen.

• Das Temperaturverhalten einer Maschine optimieren, die Inferenz ausführt

#Ollama installieren und erstes Modell starten

Ollama erfordert macOS Sonoma (14) oder neuer. Am einfachsten ist es, die Anwendung von der offiziellen Website herunterzuladen; die Installationsanleitung beschreibt die Homebrew-Variante im Detail. Nach dem Start lauscht die Anwendung auf Port 11434 des Rechners, und die Modelle lassen sich mit einem einzigen Befehl herunterladen.

1. 01
   Ollama installieren

   Laden Sie die Anwendung herunter oder folgen Sie der Installationsanleitung für macOS, dann starten Sie sie erstmals.
2. 02
   Ein Modell nach der Speichergröße auswählen

   8 GB: ein Modell mit 3 bis 4 Milliarden Parametern. 16 GB: ein 8B (5,2 GB in der Bibliothek Ollama). 24 GB: ein 14B (9,3 GB) oder größer.
3. 03
   Generierung starten

   Führen Sie ollama run gefolgt vom Modellnamen aus: Der Download erfolgt beim ersten Aufruf.
4. 04
   Die Speicherbelegung während der Nutzung überprüfen

   Öffnen Sie die Aktivitätsanzeige und wechseln Sie zum Tab „Speicher“: Die Speicherdruckanzeige muss grün bleiben. Wenn sie gelb oder rot wird, ist das Modell zu groß oder der Kontext zu lang.

ollama run qwen3:8b

Die Ollama-Bibliothek gibt 5,2 GB für qwen3:8b und 9,3 GB für qwen3:14b an. Das zweite Modell eignet sich für ein MacBook Air mit 24 GB, nicht für eines mit 16 GB, auf dem es zu wenig Speicherreserven lässt. Wenn Sie MLX statt Ollama testen möchten, erklärt der entsprechende Leitfaden den Unterschied und die Grenzen der beiden Tools.

#Zwei Ollama-Einstellungen, die bei 16 GB wichtig sind

Der erste Faktor ist die Kontextgröße. Die offizielle FAQ von Ollama nennt ein standardmäßiges Kontextfenster von 4.096 Tokens, das sich ändern lässt; eine Vergrößerung benötigt Speicher für den Cache. Bei langen Dokumenten sollten Sie es schrittweise vergrößern, statt einen Maximalwert festzulegen. Der zweite Faktor ist die Quantisierung des KV-Caches: Laut derselben FAQ unterstützt Ollama die Variable OLLAMA_KV_CACHE_TYPE mit dem Wert q8_0. Dieses Format benötigt etwa halb so viel Speicher wie das standardmäßige f16-Format, sofern Flash Attention aktiviert ist.

launchctl setenv OLLAMA_FLASH_ATTENTION 1
launchctl setenv OLLAMA_KV_CACHE_TYPE q8_0
# puis quitter et relancer l'application Ollama

Auf dem Mac erläutert die FAQ, dass die Variablen mit launchctl gesetzt werden, wenn Ollama als App läuft, und die App anschließend neu gestartet werden muss. Der Optimierungsleitfaden für Macs mit Apple Silicon ergänzt diese Einstellungen auf macOS-Ebene.

#MLX oder Ollama auf MacBook Air M3

MLX ist Apples Machine-Learning-Framework für seine Chips. Es eignet sich für Entwickler, die das Modell von Python aus steuern oder lokal ein LoRA-Fine-Tuning durchführen möchten. Ollama hingegen übernimmt das Herunterladen, das Laden und die API; es ist der einfachste Einstieg. Die Geschwindigkeitsunterschiede zwischen den beiden hängen vom Modell und der Version ab: Statt einen Prozentsatz zu versprechen, verweisen wir auf den ausführlichen Vergleich auf dieser Website.

• MLX oder llama.cpp auf dem Mac: der Vergleich
• MLX auf Apple Silicon verwenden

#Sollten Sie auf ein MacBook Air M4 oder neuer umsteigen?

Laut der Tabelle von llama.cpp erhöht der M4 die Bandbreite auf 120 GB/s, also um 20 % gegenüber dem M3: In dieser Tabelle steigt die Geschwindigkeit eines Llama 7B in Q4_0 von 21,34 auf 24,11 Tokens pro Sekunde. Bei Modellen ab 8B ist das spürbar, aber kein grundlegender Unterschied. Die eigentliche Grenze des M3 bleibt die Speicherkapazität, nicht die Geschwindigkeit.

• MacBook Air M4: der Nachfolger
• MacBook Air M2: die vorherige Generation
• MacBook Pro M2: mit Lüfter
• macOS-Einstellungen für Apple Silicon
• Quelle: technische Spezifikation des MacBook Air M3 (Apple)
• Quelle: llama.cpp-Messungen auf Apple-Chips
• Quelle: Offizielle Ollama-FAQ

#Häufig gestellte Fragen