01Was es kann
- Dense 27B: ~16 GB VRAM in Q4, passt auf eine 16-GB-Karte
- Nativer Kontext von 256k Tokens (Hugging-Face-config.json)
- Vision und Schlussfolgerungen in einem einzigen Modell
- Freizügige Apache-2.0-Lizenz, offizieller Ollama-Tag
- —Erstes Modell von Cloudflare: wenige Rückmeldungen aus der Community
- —256k Kontext: Der KV-Cache lässt den VRAM-Bedarf jenseits von 32k schnell anwachsen
- —Keine öffentliche Bewertung in unseren Quellen: Leistung in Ihren Anwendungsfällen überprüfen
04Installieren
Installieren Sie Ollama für Ihr Betriebssystem. Prüfen Sie das Modell und seine Quantisierung vor dem Download. Beginnen Sie mit einem Kontext von 4096 Tokens und prüfen Sie anschließend mit ollama ps, wo das Modell ausgeführt wird. Ein unten aufgeführter Befehl ist kein Beweis dafür, dass ein Test auf Ihrem Computer ausgeführt wurde.
02Benötigter Speicher
Ungefähr benötigter GPU-VRAM zum Ausführen dieses Modells, einschließlich des Speicherbedarfs für einen Kontext von 4k Tokens. Für einen längeren Kontext rechnen Sie mit zusätzlich ca. 1 GB je 8k Tokens.
Welche Hardware eignet sich für Clef 27B?
Um Clef 27B lokal mit Q4-Quantisierung auszuführen, benötigen Sie etwa 16 GB VRAM. Eine Option zum Vergleich: RTX 5070 Ti 16 GB — Halten Sie einen Puffer für das System und den Kontext frei; prüfen Sie die Kompatibilität der Engine mit der GPU.
Affiliate-Links — mögliche Provision ohne zusätzliche Kosten für Sie, unabhängige Empfehlung. Als Amazon-Partner verdient WelchesLLM an qualifizierten Käufen.
Unterwegs: Clef 27B läuft auch auf einem RTX-Laptop (16 GB VRAM) →
Ihr privates, kostenloses ChatGPT auf Ihrem Rechner in einer Stunde – mit LM Studio, Ollama, Open WebUI und Ihren Dokumenten, ganz ohne Cloud.
- Lebenslanger Online-Zugang
- PDF + Dateien
- Lebenslange Updates
03Erwartete Geschwindigkeit
Generierte Tokens pro Sekunde in Q4_K_M, Kontext 4k. Jenseits von 20 t/s, lässt es sich angenehm lesen. Bei weniger als 10 t/s, eignet es sich nur zum Testen.