🇺🇸 OLMo 3 7B Think (SFT)
SFT-„thinking“-Variante von OLMo 3 7B: schrittweises Schlussfolgern, 16k Kontext, ca. 4,2 GB VRAM bei Q4. Zu 100 % offen, Apache-2.0-Lizenz.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
Ranking aktualisiert am 22.09.2026
Das MacBook Air M1 (8 / 16 GB, 68 GB/s) stammt aus dem Jahr 2020, kann aber weiterhin LLMs mit 3–7 Milliarden Parametern ordentlich ausführen. Begrenzte Bandbreite → man bleibt bei effizienten Modellen.
MacBook Air M1 : Kaufalternative für lokale KI verfügbar — MacBook Pro M5 Pro — 24 GB / 1 TB :
Welchen PC sollten Sie je nach Budget wählen? Unsere Auswahl von 800 bis 3 500 € →
Affiliate-Links — QuelLLM kann bei Käufen eine Provision erhalten, ohne dass Ihnen Mehrkosten entstehen. Dies beeinflusst die unabhängig erstellte Rangliste nicht. Als Amazon-Partner verdient QuelLLM an qualifizierten Käufen.
SFT-„thinking“-Variante von OLMo 3 7B: schrittweises Schlussfolgern, 16k Kontext, ca. 4,2 GB VRAM bei Q4. Zu 100 % offen, Apache-2.0-Lizenz.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu): Dichtes 7B-Modell, spezialisiert auf Code und Reasoning, 128k Kontext, ~4,1 GB VRAM bei Q4. Leicht, läuft auf GPUs mit 6-8 GB, MIT-Lizenz.
ollama pull glm-5.3
Dichtes 3B-Modell unter Apache 2.0, 12 Sprachen einschließlich Französisch, 131k ctx, GQA 40Q/8KV. Tool Calling und FIM für Code. Veröffentlicht am 29. April 2026.
ollama run granite4.1:3b
Granite 4.1 (3B, Apache 2.0): Generischer Ollama-Tag der Familie IBM Granite 4.1, 128k Kontext, Tool Calling und Code. Veröffentlicht im Mai 2026.
ollama run granite4.1
Dichtes Modell mit 7B Parametern, zu 100 % offen (Gewichte + Daten + Code). Volle Transparenz für die Forschung.
ollama run olmo-3:7b
3B-VLM, spezialisiert auf die Datenextraktion aus Unternehmensdokumenten. OCR, Tabellen, Formulare.
# HuggingFace : ibm-granite/granite-4.0-3b-vision
3B mit zwei Modi (think/no-think). 6 Sprachen. MMLU 59,7, GSM8K 70,9. Vollständig offen (Daten + Trainingsrezept).
# HuggingFace : HuggingFaceTB/SmolLM3-3B
| Rang | Modell | Params | VRAM Q4 | Kontext | Lizenz | Auf Apple M1 (16 GB) |
|---|---|---|---|---|---|---|
| #1 | OLMo 3 7B Think (SFT) | 7B | 4,2 GB | 16 000 | Apache 2.0 | 32 Tok/s · Q8 |
| #2 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 Tok/s · Q8 |
| #3 | Granite 4.1 3B Instruct | 3B | 2 GB | 131 072 | Apache 2.0 | 25 tok/s · FP16 |
| #4 | Granite 4.1 | 3B | 1,7 GB | 128 000 | Apache 2.0 | 50 Tok/s · FP16 |
| #5 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 Tok/s · Q8 |
| #6 | Granite 4.0 3B Vision | 3B | 2,2 GB | 16 384 | Apache 2.0 | 25 tok/s · FP16 |
| #7 | SmolLM3 3B | 3B | 2 GB | 128 000 | Apache 2.0 | 25 tok/s · FP16 |
Lokale KI auf Ihrem Mac voll ausschöpfen: Unified Memory, MLX vs. GGUF, das passende Modell für Ihren Chip und auf Apple Silicon abgestimmte Einstellungen für Ollama und LM Studio.
Kostenloses Memo
Memo erhalten VRAM → bestes Code-Modell → Ollama-Befehl (alles auf einem Bildschirm, zum Kopieren und Einfügen). Und wechseln Sie zum Kit Copilote Local, um daraus ein wirklich funktionierendes Setup zu machen.
Das Kit „Copilote Local“ — die Ollama- + Cline- + Aider-Configs zum direkten Einfügen, angepasste Modelfiles, Hilfe bei Problemen, lebenslanger Zugang zum Onlinebereich →Kein Spam. Abmeldung mit 1 Klick. Ihre Daten bleiben bei uns (werden nie weiterverkauft).
Ihre Karte → das beste Code-Modell für die lokale Ausführung und der exakte Ollama-Befehl:
| Ihr VRAM | Typische GPUs / Macs | Empfohlenes Code-Modell | Ollama-Befehl |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6,6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) oder Gemma 4 12B (7,6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — Code-Agent-Spezialist | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — „nahe an Copilot“ | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — schnelles MoE | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — das ist in diesem speziellen Fall immer noch der Referenzstandard. ⚠️ Qwen 3.8: sein Reasoning ist standardmäßig sehr hoch eingestellt, und es „denkt“ bei einfachen Anfragen zu viel nach — stellen Sie es auf low (oder schalten Sie es ab) beim ersten Start. ⚠️ Lizenzfalle: Codestral 22B = Mistral Non-Production License → zum Programmieren bei der Arbeit verboten. Qwen 3.5/3.8, Gemma 4 und Devstral sind unter Apache 2.0 lizenziert. 💡 Abstürze wegen Speicherproblemen? Halten Sie ca. 1,5 GB VRAM für den Kontext frei oder gehen Sie eine Quantisierungsstufe herunter.🔌 Zum Einbinden in VS Code: Cline (Agent für mehrere Dateien), Aider (CLI) oder Tabby/Twinny (FIM-Autovervollständigung) — alle verbinden sich lokal mit Ollama. Das Kit Lokaler Copilot — Configs zum Einfügen + getestetes Setup — ist verfügbar: /copilote-local.
Filter: 1–9B, wobei Q4_K_M unter 9 GB bleibt. Bonus 3–7B (peak M1) und starker Bonus ≤ 3B (M1 verfügt nicht über Neural Engine M3/M4).
Berücksichtigte Kriterien:
Die Bewertung ist vollständig transparent: konsultieren Sie unsere Methodik für Details zur Berechnung des VRAM-Bedarfs und der Tokens pro Sekunde.
MacBook Air M1 im Jahr 2026: Noch nutzbar für LLMs?
Ja, aber mit Einschränkungen. Mistral 7B Q4 läuft mit ~14 tok/s, Llama 3.2 3B Q4 mit ~25 tok/s. Für flüssige Chats ist das in Ordnung. Für längeres Programmieren sollten Sie Zeit einplanen. Siehe den Anleitung für MacBook Air M1.
Air M1 mit 8 GB: Funktioniert das wirklich?
Es reicht gerade so für Phi-4 Mini 3,8B Q4 oder Gemma 4 4B Q4 (~2,5 GB). macOS belegt 4 GB, und Sie lassen 2 GB für das Modell samt kurzem Kontext frei. Bevorzugen Sie 16 GB.
Welche Quantisierung auf dem M1?
Q4_K_M bleibt der optimale Kompromiss. Q5_K_M bietet bessere Qualität, benötigt aber 25 % mehr Speicherbandbreite → die Tokens pro Sekunde werden durch etwa 1,3 geteilt. Auf dem M1 macht sich das bemerkbar. Vermeiden Sie Q3 (spürbarer Qualitätsverlust).
M1 vs. M2 bei Mistral 7B?
M1 ≈ 14 Tok/s vs M2 ≈ 22 Tok/s. Der Unterschied liegt vor allem in der Bandbreite (68 vs 100 GB/s). Kein Upgrade notwendig, wenn der M1 mit 16 GB ausreicht.