Familie HRM · 1.2Mrd. Parameter

HRM-Text 1B

⚠ Forschung: 1,2B unter Apache 2.0 mit hierarchischem Schlussfolgern (Prefix-LM, kein Chatmodell, vorab ausgerichtet). Für Experimente in Forschung und Entwicklung, nicht für die direkte Nutzung im Chat.

🇺🇸 Sapient·Lizenz Apache 2.0·Kontext 2k tokens·Erscheinungsdatum 2026-05-17← Katalog

01Was es kann

Stärken
  • Apache 2.0 (freie kommerzielle Nutzung)
  • Experimentelle HRM-Architektur für logisches Schlussfolgern
  • Sehr kompakt (1,2B)
  • Fallstudie für Forschung und Entwicklung im Bereich logisches Schlussfolgern
Einschränkungen, die Sie kennen sollten
  • —Kein Chatmodell, nicht auf Anweisungen trainiert – in dieser Form nicht als Assistent nutzbar
  • —Nur Englisch
  • —Begrenzte Dokumentation, noch junges Ökosystem
Architektur
Transformer prefix-LM · 1,2 Milliarden Parameter · Hierarchisches Reasoning-Modell (HRM)
Training
Vortraining auf Englisch. Bereits vorab aligniertes Forschungsmodell, nicht mittels Instruction-Tuning angepasst, mit Schwerpunkt auf hierarchischem Schlussfolgern (Paper arXiv:2605.20613).
Ideal für
SucheHierarchisches DenkenVor-Alignment

04Installieren

Installieren Sie Ollama für Ihr Betriebssystem. Prüfen Sie das Modell und seine Quantisierung vor dem Download. Beginnen Sie mit einem Kontext von 4096 Tokens und prüfen Sie anschließend mit ollama ps, wo das Modell ausgeführt wird. Ein unten aufgeführter Befehl ist kein Beweis dafür, dass ein Test auf Ihrem Computer ausgeführt wurde.

$# HuggingFace : sapientinc/HRM-Text-1B
⚠
Erster Download: zwischen 2 und 40 GB, abhängig von der gewählten Quantisierung. Festplattenspeicher einplanen, stabile Verbindung empfohlen. Nachfolgende Starts erfolgen sofort.

02Benötigter Speicher

Ungefähr benötigter GPU-VRAM zum Ausführen dieses Modells, einschließlich des Speicherbedarfs für einen Kontext von 4k Tokens. Für einen längeren Kontext rechnen Sie mit zusätzlich ca. 1 GB je 8k Tokens.

Q4_K_M
Am leichtesten, ~5 % Verlust
0.7 GB
Q5_K_M
Guter Kompromiss aus Qualität und Größe
0.9 GB
Q8_0
Kaum von FP16 zu unterscheiden
1.3 GB
FP16
Volle Präzision — Server-Einsatz
2.4 GB
CPU-Fallback · Wenn Sie keine GPU haben, rechnen Sie mit 1.6 GB RAM als Minimum, um dieses Modell mit reduzierter Geschwindigkeit auszuführen.

Welche Hardware eignet sich für HRM-Text 1B?

Um HRM-Text 1B lokal mit Q4-Quantisierung auszuführen, benötigen Sie etwa 0.7 GB VRAM. Eine Option zum Vergleich: RTX 5060 Ti 16 GB — Halten Sie einen Puffer für das System und den Kontext frei; prüfen Sie die Kompatibilität der Engine mit der GPU.

Aktuelles Angebot: RTX 5060 Ti 16 GB
AmazonPreis ansehen →Materiel.netPreis ansehen →DartyPreis ansehen →

Affiliate-Links – mögliche Provision ohne Mehrkosten für Sie, unabhängige Empfehlung. Als Amazon-Partner verdient QuelLLM an qualifizierten Käufen.

Unterwegs: HRM-Text 1B läuft auch auf einem RTX-Laptop (16 GB VRAM) →

Dieses Modell in Ihrem privaten ChatGPT, ohne Cloud

Ihr privates, kostenloses ChatGPT auf Ihrem Rechner in einer Stunde – mit LM Studio, Ollama, Open WebUI und Ihren Dokumenten, ganz ohne Cloud.

  • Lebenslanger Online-Zugang
  • PDF + Dateien
  • Erstattung binnen 30 Tagen

03Erwartete Geschwindigkeit

Generierte Tokens pro Sekunde in Q4_K_M, Kontext 4k. Jenseits von 20 t/s, lässt es sich angenehm lesen. Bei weniger als 10 t/s, eignet es sich nur zum Testen.

Einsteigerklasse
~45t/s
GTX 1650, RX 6600, MBA M2 8GB
Mittelklasse
~110t/s
RTX 4060, 4070, MBP M3 Pro
Oberklasse
~220t/s
RTX 4090, M4 Max, Radeon 7900