Thinking Machines Lab hat am 20. November 2026 Inkling 2 Mini veröffentlicht: ein offenes Sprachmodell mit 26,4 Milliarden Parametern, von denen pro Token nur 3,4 Milliarden aktiv sind. Der Speicherbedarf liegt bei rund 20 GB. Damit läuft das Modell auf einem aktuellen Laptop – ohne Netz, ohne API.
Inkling 2 Mini ist kein kleines Chat-Modell, sondern ein Agentenmodell fürs Lokale. Auf DeepSWE v1.1, einem Benchmark für agentisches Programmieren, kommt es laut Hersteller auf 48,2 Prozent gelöste Aufgaben. Qwen3.8-27B liegt bei 42,2 Prozent, Gemma 4 31B bei 0,3 Prozent. Die Gewichte sind offen, das Modell ist über Tinker und Hugging Face verfügbar.
Warum das Modell so klein ist
Der Kern ist eine Architekturänderung. Inkling 2 Mini hat 24 Schichten, aber die mittleren zwölf laufen dreimal durch. Dadurch entstehen 48 Schichtdurchläufe pro Token bei nur 24 gespeicherten Schichten. Die Gewichte der mittleren Blöcke werden also mehrfach genutzt, ohne mehr Speicher zu belegen.
Thinking Machines nennt das „looped transformer“. Der Effekt: mehr Rechenzeit pro Token, mehr internes Reasoning, ohne dass die Gewichte wachsen. Das Loopen der mittleren Schichten war in 27 von 28 Evaluationen besser als das Loopen der letzten Schichten; der Rechenvorteil liegt laut Hersteller bei 1,51- bis 1,91-fach.
Dazu kommt Quantisierung: Die Expertenschichten liegen in NVFP4, die letzten vier Schichten in MXFP8 – also in dem Format, in dem sie trainiert wurden. Thinking Machines spricht von keinem Konvertierungsverlust. Der Preis dafür ist ein Modell, das stark auf Agenten und Coding spezialisiert ist und bei allgemeinem Wissen schwächer bleibt.
Die Benchmarks laut Hersteller
Alle Werte sind Herstellerangaben, teils unter Verweis auf Drittanbieter-Indizes. Die Spalte AA Index zitiert den Artificial-Analysis-Index v5.0, die Spalte Vals Index den Vals-Index v2.2.
| Modell | DeepSWE v1.1 | SWE-bench Pro v2 Hard | SWE-bench Verified | BrowseComp | MCP Atlas | AA Index v5.0 | Vals Index v2.2 |
|---|---|---|---|---|---|---|---|
| Inkling 2 Mini | 48,2 % | 77,9 % | 79,2 % | 79,0 % | 82,7 % | 20,1 | 46,5 % |
| Qwen3.8-27B | 42,2 % | 73,8 % | 77,8 % | 61,6 % | 77,3 % | 20,1 | – |
| Nemotron 3.5 Super VL | 24,7 % | 44,1 % | 71,1 % | 78,9 % | 67,7 % | 13,6 | 29,8 % |
| Muse Glimmer | 4,4 % | 44,3 % | 76,0 % | 63,9 % | 75,5 % | 6,3 | – |
| Gemma 4 31B | 0,3 % | 14,2 % | 46,1 % | 37,0 % | 54,2 % | 4,4 | – |
Auffällig: Beim AA Index liegt Inkling 2 Mini mit 20,1 gleichauf mit Qwen3.8-27B, nicht darüber. Der Vorsprung entsteht vor allem bei agentischen Coding- und Werkzeug-Benchmarks. Bei BrowseComp liegt das größere Nemotron 3.5 Super VL mit 78,9 Prozent praktisch gleichauf.
Wo das Modell verliert
Die Herstellerseite nennt die Schwächen selbst. Bei MultiChallenge erreicht Inkling 2 Mini 50,0 Prozent, bei ComplexConstraints v1.1 33,4 Prozent – in beiden Fällen hinter Qwen3.8-27B. Bei wissenslastigen Aufgaben bleibt es im Bereich vergleichbarer Modellgrößen: Der AA-Omniscience-Score liegt bei -8,6, Qwen3.8-27B erreicht -6,4, Nemotron 3.5 Super VL -2,9. Looping erhöht die Rechenzeit, nicht das gespeicherte Wissen.
Für Faktenfragen ist das Modell deshalb auf Suche und Werkzeuge angewiesen. Genau dort ist es stark: MCP Atlas 82,7 Prozent, DeepSearchQA 85,3 Prozent, BrowseComp 79,0 Prozent – jeweils laut Hersteller der beste Wert unter offenen Modellen ähnlicher Größe.
Lokal betreiben
Der praktische Teil ist unspektakulär und deshalb relevant. Thinking Machines liefert das Modell in einem Format, das mit transformers, llama.cpp und MLX läuft; SGLang unterstützt es ab dem ersten Tag für Server-Deployments. Der Kontext fasst eine Million Token, Bilder werden als Eingabe akzeptiert.
In der Demo läuft Inkling 2 Mini auf einem MacBook Pro mit M5 Pro und 48 GB im Flugmodus und baut dort einen spielbaren Flugsimulator. Für einen einzelnen Entwickler ist das der Unterschied zwischen „Modell irgendwo gehostet“ und „Modell auf dem Gerät, offline, ohne Tokenkosten“.
Dazu kommt ein Effizienzwert von außen: Forscher der Stanford Hazy Research and Scaling Intelligence Labs geben 0,703 „Intelligence per Joule“ auf einer NVIDIA DGX Spark an, gegenüber 0,430 für Qwen3.6-35B-A3B und 0,159 für Gemma-4-26B-A4B. Die Messung stammt aus einem Paper von 2025, Thinking Machines hatte frühen Zugang – es ist kein unabhängiger Produkttest.
Einordnung
Inkling 2 Mini ist kein Frontier-Modell und will keines sein. Es ist ein offenes Agentenmodell, das auf einem Laptop Platz hat und bei Coding-Agenten die Klasse bis 100 Milliarden Parameter anführt – mit Ausnahme von Wissen und Mehrfach-Turn-Konversation. Wer lokale Agenten ohne Cloud-Abhängigkeit bauen will, hat damit eine ernsthafte Option; wer ein Allzweck-Chatmodell sucht, greift weiter zu Qwen oder einem größeren Modell.
Häufige Fragen
Was kostet Inkling 2 Mini?
Die Gewichte sind offen und kostenlos nutzbar. Inference über Tinker wird abgerechnet; Thinking Machines nennt in der Ankündigung keinen Preis.
Welche Lizenz gilt?
Die Ankündigung spricht von offenen Gewichten ohne weitere Einschränkung; die genauen Bedingungen stehen in der Modellkarte auf Hugging Face.
Läuft Inkling 2 Mini auf einem normalen Laptop?
Ja, mit rund 20 GB Speicherbedarf. Sinnvoll ist ein Gerät mit mindestens 32 GB Arbeitsspeicher; das Demo-Gerät hatte 48 GB.
Quellen: Thinking Machines Lab: Introducing Inkling 2 Mini (20.11.2026), Hugging Face Blog (20.11.2026).


