Eigene KTU-Illustration auf Basis der offiziellen Inkling-Modellkarte. Die Leistungswerte in diesem Beitrag stammen überwiegend vom Hersteller und wurden nicht unabhängig reproduziert.
Kurz gesagt: Thinking Machines Lab hat mit Inkling sein erstes eigenes Open-Weights-Modell veröffentlicht. Das multimodale Mixture-of-Experts-Modell besitzt 975 Milliarden Parameter, aktiviert pro Token aber nur 41 Milliarden davon. Es verarbeitet Text, Bilder und Audio, unterstützt laut Anbieter bis zu eine Million Kontext-Token und steht unter Apache 2.0 zum Download. Für den lokalen Einsatz auf normaler Consumer-Hardware ist Inkling trotzdem ungeeignet: Selbst der quantisierte Checkpoint benötigt laut Modellkarte mindestens 600 GB aggregierten Grafikspeicher.
Was ist Inkling?
Inkling ist das erste öffentlich verfügbare Basismodell von Thinking Machines Lab. Das von der früheren OpenAI-CTO Mira Murati mitgegründete Unternehmen beschreibt es ausdrücklich nicht als das insgesamt stärkste offene oder geschlossene Modell. Stattdessen soll Inkling eine breit einsetzbare Grundlage sein, die sich für eigene Aufgaben feinabstimmen lässt.
Der Hersteller veröffentlichte Inkling am 15. Juli 2026 mit vollständigen Modellgewichten auf Hugging Face. Der Verfügbarkeitsstatus ist damit Public. Parallel kann das Modell über die Tinker-Plattform feinabgestimmt und über mehrere Inferenzanbieter als API genutzt werden. Ein kleineres Schwestermodell namens Inkling-Small befindet sich dagegen noch im Preview-Status; dessen Gewichte sind zum Veröffentlichungszeitpunkt noch nicht freigegeben.
Die wichtigsten Eckdaten:
| Merkmal | Inkling |
|---|---|
| Architektur | Decoder-only Transformer mit Mixture of Experts |
| Gesamtparameter | 975 Milliarden |
| Aktive Parameter pro Token | 41 Milliarden |
| Schichten | 66 |
| Experten | 256 geroutete plus 2 gemeinsam aktive Experten |
| Aktive geroutete Experten | 6 pro Token |
| Eingaben | Text, Bilder und Audio |
| Ausgabe | Text |
| Maximales Kontextfenster | bis zu 1 Million Token |
| Trainingsumfang | 45 Billionen Token |
| Zahlenformate | BF16, MXFP8 und NVFP4 |
| Lizenz | Apache 2.0 |
Diese Kombination ist ungewöhnlich: Inkling ist einerseits mit 975 Milliarden Gesamtparametern sehr groß, soll andererseits durch die sparsame MoE-Aktivierung relativ effizient rechnen. „Relativ“ ist hier wichtig. 41 Milliarden aktive Parameter reduzieren den Rechenaufwand pro Token, ändern aber nicht die enorme Größe des vollständigen Checkpoints.
Warum 975 Milliarden Parameter nicht 975 Milliarden aktive Parameter bedeuten
Bei einem dichten Modell durchläuft jedes Token im Wesentlichen alle Modellgewichte. Inkling verwendet dagegen eine Mixture-of-Experts-Architektur. In jeder MoE-Schicht stehen 256 spezialisierte Experten zur Verfügung. Ein Router wählt pro Token sechs davon aus; zusätzlich arbeiten zwei gemeinsam genutzte Experten immer mit.
Dadurch kann das Modell eine sehr große Gesamtkapazität besitzen, ohne bei jeder Anfrage alle 975 Milliarden Parameter zu aktivieren. Thinking Machines beziffert den aktiven Anteil auf 41 Milliarden Parameter. Das ist der zentrale Effizienzhebel des Modells.
Inkling mischt außerdem lokale und globale Attention-Schichten im Verhältnis 5:1. Lokale Attention begrenzt den betrachteten Bereich und senkt den Aufwand, während globale Schichten Informationen über größere Distanzen zusammenführen können. Relative Positionskodierung und sogenannte Short Convolutions sollen die Verarbeitung langer Sequenzen zusätzlich verbessern.
Für Entwickler ist die praktische Konsequenz klar: Die aktive Parameterzahl beeinflusst Inferenzkosten und Geschwindigkeit, die Gesamtzahl bestimmt aber weiterhin, wie viel Speicher für die Gewichte benötigt wird. Ein sparsames MoE-Modell ist nicht automatisch ein Laptop-Modell.
Multimodal von Grund auf statt nachträglich angebaut
Inkling wurde laut Thinking Machines mit Texten, Bildern, Audio und Video vortrainiert. Das Unternehmen spricht von insgesamt 45 Billionen Trainingstoken. Bilder und Audiosignale werden in Repräsentationen umgewandelt, die der gemeinsame Decoder zusammen mit Text verarbeitet.
Die Modellkarte nennt folgende praktische Grenzen:
- Bilder sollten für optimale Ergebnisse an jeder Kante zwischen 40 und 4.096 Pixel groß sein.
- Audio wird als WAV-Datei mit 16 kHz erwartet.
- Audiodateien sollten idealerweise nicht länger als 20 Minuten sein.
- Die Ausgabe ist derzeit ausschließlich Text.
Das macht Inkling nicht zu einem Sprachgenerator im Stil eines nativen Voice-to-Voice-Systems. Es kann Audio verstehen, transkribieren und darüber schlussfolgern, erzeugt aber keine Audiodatei als Antwort. Ähnlich verhält es sich bei Bildern: Inkling nimmt visuelle Informationen auf, liefert jedoch Text zurück.
Die multimodale Ausrichtung ist für Fine-Tuning interessant. Ein Unternehmen könnte beispielsweise ein Modell auf Produktfotos, gesprochene Support-Anfragen oder technische Diagramme spezialisieren, ohne separate Encoder-Systeme zusammenbauen zu müssen. Ob Inkling in solchen Nischen tatsächlich besser als kleinere spezialisierte Modelle ist, muss allerdings jeder Anwender selbst evaluieren.
Kontrollierbarer Denkaufwand als Kostenregler
Ein besonderes Merkmal ist der steuerbare „Thinking Effort“. Entwickler können festlegen, wie viel Rechen- und Tokenbudget Inkling für eine Aufgabe verwenden soll. Höherer Aufwand kann die Lösungsqualität verbessern, verursacht aber mehr Latenz und Kosten.
Thinking Machines trainierte diese Eigenschaft über unterschiedliche Systemanweisungen und variierende Tokenkosten im Reinforcement Learning. Das Modell soll dadurch gelernt haben, kurze Antworten bei einfachen Aufgaben und längere Lösungswege bei schwierigen Aufgaben zu verwenden.
Für produktive Agenten ist dieser Ansatz sinnvoller als ein pauschaler Maximalmodus. Eine Formatprüfung oder Klassifikation benötigt selten denselben Denkaufwand wie eine komplexe Code-Reparatur. Ein regelbarer Aufwand erlaubt es, die gleiche Modellbasis für beide Fälle zu verwenden.
Der Hersteller behauptet beispielsweise, Inkling erreiche auf Terminal Bench 2.1 das Leistungsniveau von Nemotron 3 Ultra mit ungefähr einem Drittel der ausgegebenen Token. Das ist ein interessanter Effizienzclaim, aber noch kein unabhängiger Nachweis. Die zugrunde liegenden Kurven stammen von Thinking Machines und sollten deshalb als Herstellerbenchmark gelesen werden.
Benchmarks: starkes Open-Weights-Modell, aber kein Spitzenreiter
Die offizielle Modellkarte listet ein breites Set an Reasoning-, Coding-, Agenten-, Chat-, Bild-, Audio- und Sicherheitsbenchmarks. Alle Inkling-Werte wurden mit einem hohen Effort-Wert von 0,99 angegeben. Dadurch zeigen sie eher die maximale Qualität als den sparsamsten Betriebsmodus.
Ausgewählte Ergebnisse:
| Benchmark | Inkling | Einordnung laut Herstellertabelle |
|---|---|---|
| AIME 2026 | 97,1 % | sehr stark, aber unter mehreren geschlossenen Modellen |
| GPQA Diamond | 87,2 % | konkurrenzfähig mit offenen Modellen |
| SWE-bench Verified | 77,6 % | stark, jedoch nicht Spitze der Gesamttabelle |
| SWE-bench Pro Public | 54,3 % | klar unter führenden geschlossenen Modellen |
| Terminal Bench 2.1 | 63,8 % | vor einigen Open-Weights-Modellen, hinter GLM 5.2 und Kimi K2.6 |
| MCP Atlas | 74,1 % | breit konkurrenzfähig |
| IFBench | 79,8 % | einer der besseren Werte in der Tabelle |
| MMMU Pro | 73,5 % | solide multimodale Leistung |
| VoiceBench | 91,4 % | laut Anbieter stark bei Audioaufgaben |
Die ehrliche Einordnung des Herstellers ist bemerkenswert: Inkling sei nicht das stärkste Modell insgesamt. Genau das zeigen die Zahlen. Auf SWE-bench Verified liegt Inkling laut Tabelle beispielsweise bei 77,6 Prozent, während Claude Fable 5 mit 95,0 Prozent ausgewiesen wird. Bei SimpleQA Verified erreicht Inkling 43,9 Prozent; Gemini 3.1 Pro steht in derselben Tabelle bei 77,3 Prozent.
Dafür ist Inkling breit aufgestellt und in mehreren Kategorien konkurrenzfähig. Das kann für Fine-Tuning wertvoller sein als ein einzelner Bestwert. Wer jedoch lediglich das stärkste fertige Coding- oder Reasoning-Modell sucht, erhält durch die Veröffentlichung keinen automatischen neuen Sieger.
Auch die Vergleichbarkeit hat Grenzen. Thinking Machines nutzt teils externe Werte, teils eigene Harnesses und unterschiedliche Betriebsstufen der Vergleichsmodelle. Bei Terminal Bench wurden kontaminierte Lösungen, die über Websuche gefunden wurden, mit null Punkten bewertet. Solche Entscheidungen können sinnvoll sein, erschweren aber einen direkten Vergleich mit anders veröffentlichten Ergebnissen.
Offene Gewichte unter Apache 2.0 – aber nicht vollständig offene Entwicklung
Inkling wird unter der permissiven Apache-2.0-Lizenz bereitgestellt. Die Gewichte dürfen damit grundsätzlich genutzt, verändert und in kommerzielle Produkte integriert werden, solange die Lizenzbedingungen eingehalten werden. Das ist deutlich offener als eine reine Chat- oder API-Veröffentlichung.
Trotzdem sollte man präzise bleiben: Open Weights ist nicht dasselbe wie vollständig Open Source. Thinking Machines veröffentlicht die Gewichte und Integrationen für mehrere Inferenz-Frameworks. Die Trainingsdaten werden jedoch nur allgemein beschrieben. Laut Modellkarte stammen sie aus öffentlich zugänglichen Quellen, von Dritten sowie aus synthetisch erzeugten oder erweiterten Datensätzen. Eine vollständige Datenliste fehlt.
Auch das exakte Trainingsverfahren, sämtliche Filter und der komplette Trainingscode sind nicht in einer Form offengelegt, mit der Dritte das Modell reproduzieren könnten. Für Forschung und Anpassung ist die Veröffentlichung dennoch substantiell; für vollständige wissenschaftliche Reproduzierbarkeit reicht sie nicht.
Zusätzlich zur Apache-Lizenz verweist das Unternehmen auf eine Acceptable Use Policy. Entwickler sollten daher neben der Softwarelizenz auch die dort formulierten Nutzungsregeln prüfen.
Hardware: Warum Inkling kein Modell für den Gaming-PC ist
Die größte praktische Einschränkung ist der Speicherbedarf. Laut Modellkarte benötigt der BF16-Checkpoint mindestens 2 TB aggregierten VRAM. Als Beispielkonfigurationen nennt Thinking Machines acht NVIDIA-B300- oder 16 H200-GPUs.
Die NVFP4-Variante reduziert den Bedarf auf mindestens 600 GB VRAM. Sie soll im W4A4-Modus auf vier B300-GPUs oder im W4A16-Modus auf acht H200-GPUs laufen. Für W4A4 wird zusätzlich eine SM100- oder neuere Architektur vorausgesetzt.
Die Dateimetadaten des offiziellen BF16-Repositories auf Hugging Face summieren sich zum Prüfzeitpunkt auf rund 1,905 TB beziehungsweise 1,732 TiB. Das bestätigt die Größenordnung der Herstellerangabe. Schon der Download ist damit ein Infrastrukturprojekt, nicht der Startpunkt für ein typisches lokales KI-Setup.
„Open Weights“ bedeutet hier also rechtliche und technische Verfügbarkeit, nicht Zugänglichkeit für jeden Rechner. Für die meisten Entwickler sind gehostete APIs oder Tinker realistischer als Self-Hosting.
Unterstützung ist für SGLang, vLLM, TokenSpeed, Unsloth beziehungsweise llama.cpp und Hugging Face Transformers angekündigt. Das erleichtert die Integration, beseitigt aber nicht die Hardwareanforderungen.
Tinker, APIs und Fine-Tuning
Thinking Machines positioniert Inkling vor allem als Basis für Anpassungen. Das Modell ist auf Tinker mit Kontextoptionen von 64.000 und 256.000 Token verfügbar. Die Plattform bietet zeitlich begrenzt einen Rabatt von 50 Prozent; ein kostenloser Playground soll erste Tests ermöglichen.
Zusätzlich nennt der Hersteller Together AI, Fireworks, Modal, Databricks und Baseten als API- beziehungsweise Deployment-Partner. Damit lässt sich Inkling evaluieren, ohne einen eigenen GPU-Cluster aufzubauen.
Das maximale Kontextfenster von einer Million Token steht laut Modellkarte grundsätzlich zur Verfügung. Auf Tinker werden in der aktuellen Preistabelle jedoch 64K- und 256K-Varianten geführt. Entwickler sollten deshalb nicht von einer Million Token in jedem Zugangspfad ausgehen, sondern die konkrete Anbietergrenze prüfen.
Für Fine-Tuning ist die Kombination aus offenen Gewichten, Apache-Lizenz, Multimodalität und kontrollierbarem Denkaufwand attraktiv. Der Nutzen hängt aber vom Anwendungsfall ab. Ein spezialisiertes 30B- oder 70B-Modell kann günstiger zu betreiben und einfacher zu evaluieren sein. Inkling lohnt sich vor allem dort, wo seine breite Modalität oder große Kapazität einen messbaren Vorteil liefert.
Inkling-Small: fast gleich stark, aber noch nicht veröffentlicht
Parallel zeigt Thinking Machines eine Vorschau auf Inkling-Small. Das kleinere MoE-Modell besitzt 276 Milliarden Gesamtparameter und aktiviert zwölf Milliarden pro Token. In mehreren Herstellerbenchmarks liegt es nahe am großen Modell und übertrifft Inkling vereinzelt, etwa bei GPQA Diamond, MCP Atlas und IFBench.
Das klingt für kostensensible Anwendungen interessanter als der 975B-Checkpoint. Die entscheidende Einschränkung: Thinking Machines testet Inkling-Small noch und hat die vollständigen Gewichte nicht veröffentlicht. Deshalb ist der korrekte Status Preview, nicht Public. Ein Veröffentlichungsdatum nennt das Unternehmen nicht.
Risiken und offene Fragen
Die Modellkarte nennt Halluzinationen, unpräzise Befolgung von Anweisungen, schwächere Leistung in langen Mehrturn-Dialogen und mögliche Verzerrungen aus Web- und synthetischen Trainingsdaten. Die Leistung könne je nach Sprache, Dialekt und Fachgebiet ungleich ausfallen.
Thinking Machines berichtet außerdem über eine gelegentliche Bereitschaft, indirekt oder als Rollenspiel formulierte schädliche Anfragen zu beantworten. Der Anbieter empfiehlt deshalb mehrschichtige Schutzmaßnahmen wie Eingabe- und Ausgabefilter, Rate Limits und Monitoring. Für medizinische, juristische oder sicherheitskritische Entscheidungen soll Inkling nicht ohne domänenspezifische Validierung und menschliche Kontrolle eingesetzt werden.
Diese Hinweise sind besonders wichtig, weil offene Gewichte nachgelagerte Schutzmechanismen leichter veränderbar machen. Die vom Hersteller gemessenen Sicherheitswerte ersetzen keine Evaluation im eigenen Produktkontext.
Eine weitere offene Frage betrifft die Trainingsdaten. Die grobe Herkunftsbeschreibung sagt wenig über konkrete Urheberrechts-, Datenschutz- oder Repräsentationsfragen aus. Wer Inkling kommerziell nutzt, sollte nicht allein aus der Apache-Lizenz der Gewichte ableiten, dass sämtliche Daten- und Output-Risiken geklärt sind.
Fazit: bedeutende Veröffentlichung mit sehr hoher Eintrittsschwelle
Inkling ist eine relevante Open-Weights-Veröffentlichung: 975 Milliarden Gesamtparameter, native Bild- und Audioeingaben, ein Kontextfenster bis zu einer Million Token, Apache 2.0 und ein steuerbarer Denkaufwand. Das Modell ist keine bloße API-Ankündigung; die vollständigen BF16-Gewichte und eine NVFP4-Variante stehen tatsächlich bereit.
Gleichzeitig ist die Hardwarehürde extrem. Mindestens 600 GB VRAM für die quantisierte Version schließen normale Workstations aus. Auch die Benchmarks zeigen kein universell führendes Modell. Inkling ist eher eine anpassbare, breite Grundlage für Organisationen mit ernsthafter Inferenzinfrastruktur als ein neues Standardmodell für lokale KI-Nutzer.
Der spannendere Kandidat für breitere Nutzung könnte Inkling-Small werden. Solange dessen Gewichte fehlen, bleibt das jedoch eine Vorschau. Für Inkling selbst lautet das nüchterne Urteil: technisch ambitioniert, rechtlich offen nutzbar und für Forschung sowie Fine-Tuning interessant – aber in der Praxis nur für sehr gut ausgestattete Teams selbst zu hosten.
Häufig gestellte Fragen zu Inkling
Ist Inkling Open Source?
Inkling ist präziser als Open-Weights-Modell zu bezeichnen. Die Gewichte stehen unter Apache 2.0 bereit und dürfen weitreichend genutzt und verändert werden. Vollständige Trainingsdaten, kompletter Trainingscode und alle Details für eine reproduzierbare Neuentwicklung sind jedoch nicht veröffentlicht.
Kann Inkling lokal auf einem PC laufen?
Nicht sinnvoll auf üblicher Consumer-Hardware. Der BF16-Checkpoint benötigt laut Modellkarte mindestens 2 TB aggregierten VRAM. Selbst die NVFP4-Version setzt mindestens 600 GB VRAM voraus.
Wie groß ist das Kontextfenster?
Die Modellkarte nennt bis zu eine Million Token. Auf Tinker werden aktuell Varianten mit 64K und 256K Kontext angeboten. Die tatsächlich nutzbare Länge hängt daher vom Zugang und Inferenzanbieter ab.
Welche Eingaben unterstützt Inkling?
Inkling nimmt Text, Bilder und 16-kHz-WAV-Audio entgegen. Es erzeugt Text als Ausgabe. Eine native Bild- oder Audioausgabe ist in der Modellkarte nicht angegeben.
Wie gut ist Inkling beim Programmieren?
Der Hersteller meldet 77,6 Prozent auf SWE-bench Verified, 54,3 Prozent auf SWE-bench Pro Public und 63,8 Prozent auf Terminal Bench 2.1. Das ist für ein Open-Weights-Modell konkurrenzfähig, liegt in der veröffentlichten Vergleichstabelle aber unter mehreren geschlossenen Spitzenmodellen.
Ist Inkling-Small bereits verfügbar?
Noch nicht als Download. Thinking Machines bezeichnet Inkling-Small als Preview und will die vollständigen Gewichte nach Abschluss der Tests veröffentlichen. Ein genauer Termin fehlt.