KI-Selbstverbesserung: Studie sieht noch keine Explosion

Eine neue ökonomische Studie zur rekursiven KI-Selbstverbesserung kommt zu einem nüchternen Ergebnis: Der Rückkopplungseffekt, mit dem bessere KI-Systeme die Entwicklung ihrer Nachfolger beschleunigen, ist nach der groben Kalibrierung der Autoren derzeit noch nicht stark genug für eine selbsttragende Beschleunigung. Das Paper nennt eine modellabhängige Schwelle von rund 15 Prozent zusätzlicher KI-Forschungsproduktivität pro Einheit Modellfähigkeit; die Autoren schätzen den bisher beobachtbaren Effekt nur auf ungefähr 9 Prozent. Diese Werte sind keine gemessenen Naturkonstanten, sondern unsichere Modellschätzungen auf Basis lückenhafter Daten.

Das am 13. Juli 2026 veröffentlichte Paper „The Economics of Recursive Self-Improvement“ stammt von Tom Cunningham und einem Team mit Verbindungen unter anderem zu METR, Stanford, MIT, Yale, Columbia, Carnegie Mellon, Google AI und Epoch AI. Es versucht nicht, einen Termin für eine „Intelligenzexplosion“ vorherzusagen. Stattdessen formuliert es Bedingungen, unter denen KI-Forschung tatsächlich aus eigener Kraft immer schneller werden könnte – und zeigt, an welchen Engpässen diese Schleife scheitern kann.

Was rekursive KI-Selbstverbesserung hier bedeutet

Der Begriff rekursive Selbstverbesserung wird oft unscharf verwendet. Manchmal reicht bereits die Beobachtung, dass Entwickler KI beim Programmieren neuer Modelle einsetzen. Andere Definitionen verlangen, dass der gesamte Forschungsprozess autonom abläuft. Das Paper trennt mehrere Stufen, die in Diskussionen häufig vermischt werden:

• Rückkopplungsschleife: Das Ergebnis einer Entwicklungsrunde wird zum Input der nächsten Runde. KI hilft also, bessere KI zu bauen.
• Automatisierbare KI-Forschung: KI-Systeme können mindestens so viel technischen Fortschritt erzeugen wie menschliche Forscher – bei vergleichbaren Kosten.
• Selbsttragende Beschleunigung: Die KI-Fähigkeiten beschleunigen sich auch dann weiter, wenn externe Inputs wie menschliche Arbeit oder Trainingsrechenleistung nicht weiter wachsen.
• Intelligenzexplosion: Fähigkeiten würden in einem mathematischen Modell innerhalb endlicher Zeit unbegrenzt anwachsen. Das ist eine wesentlich stärkere Behauptung.

Die entscheidende Korrektur lautet: Automatisierte KI-Forschung führt nicht automatisch zu selbsttragender Beschleunigung. Selbst wenn Agenten viele Forschungsaufgaben übernehmen, können abnehmende Erträge, fehlende Daten, knappe Rechenleistung oder menschliche Engpässe die Schleife bremsen.

Das ist technisch relevant, weil aktuelle Meldungen über Coding-Agenten, längere autonome Arbeitszeiträume und KI-generierte Forschungsideen häufig direkt als Beleg für eine bevorstehende Selbstverbesserung interpretiert werden. Das Paper verlangt eine strengere Prüfung: Wie stark verbessert eine zusätzliche Einheit Modellfähigkeit tatsächlich die produktive Forschungsleistung, und wie viel dieser Leistung kommt bei der nächsten Modellgeneration an?

Das Kernmodell: Drei Wirkungen müssen zusammenpassen

Die Autoren zerlegen den zentralen Rückkopplungskreis in mehrere wirtschaftliche und technische Beziehungen. Vereinfacht läuft er so:

1. Menschliche Forscher, KI-Systeme sowie Experimental- und Inferenzrechenleistung erzeugen algorithmische Verbesserungen.
2. Diese Verbesserungen erhöhen die algorithmische Effizienz. Für ein bestimmtes Fähigkeitsniveau wird dann weniger Trainingsaufwand benötigt – oder mit demselben Aufwand entsteht ein leistungsfähigeres Modell.
3. Höhere algorithmische Effizienz steigert die Fähigkeiten der nächsten Modellgeneration.
4. Das bessere Modell kann wiederum stärker an der KI-Forschung mitarbeiten.

Ob diese Schleife sich selbst verstärkt, hängt im Modell nicht von einer einzelnen Benchmarkzahl ab. Entscheidend ist das Produkt mehrerer Elastizitäten: der Ertrag zusätzlicher Forschungsinputs, der Effekt besserer Modelle auf die effektive Forschungsleistung und der Effekt algorithmischer Fortschritte auf die Modellfähigkeiten.

Eine schwache Verbindung reicht aus, um die gesamte Schleife zu begrenzen. Ein Modell kann zum Beispiel Programmcode sehr schnell erzeugen, aber bei der Wahl langfristig tragfähiger Forschungsrichtungen schwach bleiben. Ebenso kann ein Agent gute Optimierungsideen liefern, die sich ohne genügend Experimentalrechenleistung nicht verifizieren lassen.

Die wichtigsten Engpässe im Paper

Das Modell nennt fünf Ressourcen, die eine selbsttragende Beschleunigung begrenzen können:

• Menschliche Forschungsarbeit: Menschen bleiben möglicherweise für Bewertung, Forschungsstrategie, Sicherheitsentscheidungen und schwer formalisierbare Qualitätsurteile nötig.
• Experimentalrechenleistung: Neue Trainingsrezepte müssen in zahlreichen Versuchen getestet werden. Mehr KI-Ideen helfen wenig, wenn die Versuche nicht gerechnet werden können.
• Inferenzrechenleistung: Viele parallele Forschungsagenten benötigen laufend Compute. Fähigere Modelle und mehr Inferenz sind keine austauschbaren Größen.
• Trainingsrechenleistung: Algorithmische Fortschritte erhöhen die Fähigkeiten nicht unbegrenzt, wenn große Trainingsläufe physisch oder finanziell gedeckelt sind.
• Hochwertige Daten: Verbesserte Filterung und synthetische Daten können helfen, aber nicht jede benötigte Information lässt sich beliebig vermehren oder automatisch verifizieren.

Damit widerspricht das Paper einer verbreiteten Kurzformel: „Sobald KI ihre eigene Forschung automatisiert, beginnt die Explosion.“ Vollautomatisierung kann ein wichtiger Übergang sein, ist im Modell aber weder notwendig noch hinreichend für einen dauerhaft anziehenden Fähigkeitszuwachs.

Warum das Paper auf 15 Prozent kommt

Für seine grobe Kalibrierung setzt das Team drei Größen an. Erstens nimmt es an, dass die algorithmische Effizienz historisch etwa um den Faktor drei pro Jahr gestiegen ist. Zweitens setzt es das Wachstum des effektiven Forschungsaufwands ebenfalls ungefähr mit dem Faktor drei an. Daraus ergibt sich im vereinfachten Modell ein Forschungsertrag nahe eins.

Drittens verwendet das Paper eine geschätzte Elastizität von etwa 6,5 zwischen algorithmischer Effizienz und Modellfähigkeit. Als Fähigkeitsmaß dient der exponentiell transformierte Epoch Capabilities Index. Diese Normierung ist wichtig: Die Zahl 6,5 darf nicht als allgemeiner Multiplikator für reale Produktivität gelesen werden.

Mit diesen Annahmen überschreitet die Rückkopplungsschleife die modellierte Schwelle, wenn eine zusätzliche Einheit des Fähigkeitsindex die effektive KI-Forschungsleistung um mehr als 15 Prozent steigert. Das Paper illustriert dies mit zwei aufeinanderfolgenden Claude-Generationen: Würde das neuere Modell gegenüber dem vorherigen Modell pro Indexeinheit mindestens 15 Prozent mehr Forschungsleistung erzeugen, wäre die Bedingung in dieser vereinfachten Kalibrierung erfüllt.

Die Autoren versuchen anschließend eine rückblickende Plausibilitätsprüfung. Sie kombinieren einen im Anthropic-Systembericht selbst angegebenen Produktivitätszuwachs von ungefähr dem Faktor vier mit einem Fähigkeitsanstieg von 16 Indexpunkten seit Anfang 2025. Daraus leiten sie grob etwa 9 Prozent Produktivitätsgewinn pro Indexeinheit ab. Das liegt unter der 15-Prozent-Schwelle.

Diese Rechnung hat erhebliche Einschränkungen:

• Der vierfache Produktivitätszuwachs beruht auf einer Selbsteinschätzung von Anthropic-Mitarbeitern und wird auch im Paper als wahrscheinlich überhöht bezeichnet.
• Die betrachteten Modellgenerationen, Aufgaben und Messzeiträume sind nicht kontrolliert vergleichbar.
• Der Epoch Capabilities Index verdichtet mehrere Benchmarks zu einer abstrakten Skala.
• Produktivitätsgewinn für einzelne Entwickler ist nicht identisch mit zusätzlichem End-to-End-Forschungsoutput eines gesamten Labors.
• Die Kalibrierung ignoriert viele wirtschaftliche Rückkopplungen und behandelt mehrere unbekannte Größen als konstant.

Die richtige Schlagzeile ist deshalb nicht „KI-Selbstverbesserung widerlegt“. Präziser ist: Mit den derzeit verfügbaren Daten erreicht die grobe Modellrechnung die selbsttragende Schwelle noch nicht.

Enge Fähigkeiten können trotzdem sehr schnell wachsen

Eine der stärksten Ideen des Papers ist die Trennung zwischen engen und breiten Fähigkeiten. Enge Fähigkeiten sind Aufgaben mit klaren Zielen und günstiger Überprüfung: Code optimieren, Tests bestehen, mathematische Beweise prüfen oder Inferenzverfahren beschleunigen. Breite Fähigkeiten umfassen schwerer messbare Leistungen wie Forschungsstrategie, technisches Urteilsvermögen, Produktentscheidungen oder Wirkung in unstrukturierten realen Umgebungen.

Das eingebettete Diagramm zeigt, warum diese Unterscheidung entscheidend ist:

• Enge Fähigkeiten können direkt in die Verbesserung von Algorithmen zurückfließen.
• Bessere Algorithmen verstärken wiederum genau diese engen Fähigkeiten.
• Breite Fähigkeiten können sich langsamer entwickeln, obwohl die technische Optimierung stark beschleunigt.
• Wirtschaftlicher Output hängt im Modell stärker von den breiten Fähigkeiten ab.
• Ein späterer Übergang von engen zu breiten Fähigkeiten bleibt möglich, ist aber nicht garantiert.

Für Entwickler und Agenten-Builder bedeutet das: Ein starker Wert auf einem klar verifizierbaren Coding- oder Optimierungsbenchmark beweist noch keine autonome Forschungskompetenz. Systeme können in geschlossenen Schleifen sehr schnell besser werden und zugleich bei offenen Aufgaben, Priorisierung oder Fehlererkennung unzuverlässig bleiben.

Welche Hinweise für eine Beschleunigung sprechen

Das Paper sammelt mehrere aktuelle Signale, die für eine stärker werdende Rückkopplung sprechen. Dazu gehören Berichte über deutlich höhere Entwicklerproduktivität, längere autonome Arbeitszeiträume und wachsende Beiträge von Modellen zu technischen Entscheidungen.

Anthropic-Mitarbeiter berichteten laut dem zitierten Systembericht von einem ungefähr vierfachen Produktivitätseffekt durch Claude. In einem weiteren Vergleich soll ein aktuelles Modell im April 2026 bei KI-Forschungsentscheidungen in 64 Prozent der Fälle besser als menschliche Vergleichspersonen abgeschnitten haben; 2025 habe der Wert noch bei 50 Prozent gelegen. Solche Angaben stammen aus Anbieter- oder anbieternahem Material und sind nicht unabhängig als allgemeine Forschungsleistung bestätigt.

Auch OpenAI meldete beim Start von GPT-5.6, der Anteil interner Forschungsrechenleistung für Coding-Inferenz sei innerhalb von sechs Monaten um den Faktor 100 gestiegen. Das zeigt mindestens, dass Frontier-Labore KI-Coding massiv in ihre eigene Entwicklung integrieren. Es beweist jedoch nicht, dass der zusätzliche Compute proportional mehr Forschungsertrag erzeugt.

Der zentrale Trend ist plausibel: Fähigere Modelle werden stärker in Forschung und Entwicklung eingesetzt. Offen bleibt die entscheidende Steigung – also wie viel mehr verwertbarer Fortschritt jede zusätzliche Einheit Modellfähigkeit tatsächlich erzeugt.

Welche Befunde gegen eine selbsttragende Schleife sprechen

Die Gegenargumente sind ebenso konkret. Erstens können abnehmende Erträge auftreten: Agenten finden zunächst die leicht erreichbaren Optimierungen, während jede weitere Verbesserung schwerer wird. Mehr parallele Versuche führen dann nicht proportional zu mehr Durchbrüchen.

Zweitens ist algorithmischer Fortschritt historisch mit wachsender Rechenleistung verbunden. Das Paper verweist auf Hinweise, dass Verbesserungen besonders stark auf großen Skalen wirkten. Falls neue Verfahren erst bei sehr großen Trainingsläufen ihren Nutzen entfalten, bleibt Compute ein harter externer Input.

Drittens fehlen belastbare Daten aus den Frontier-Laboren. Öffentlich kaum bekannt sind unter anderem:

• der Anteil von Inferenz, Experimenten, finalem Training und menschlicher Arbeit an den gesamten Forschungskosten,
• die Produktivitätswirkung einzelner Modellgenerationen in kontrollierten Forschungsaufgaben,
• der Anteil technischer Fortschritte, der tatsächlich von KI-Systemen erzeugt wurde,
• die Entwicklung der Trainingsrechenleistung nach 2024,
• der Zusammenhang zwischen Benchmarkfortschritt und wirtschaftlich nutzbaren Fähigkeiten.

Viertens können Strom, Chips, Kapital, Genehmigungen und Regulierung das Wachstum bremsen. Eine technische Rückkopplung ist nicht von ihrer physischen und politischen Umgebung getrennt.

Was Entwickler und Agenten-Teams daraus ableiten sollten

Für praktische KI-Workflows liefert das Paper keine fertige Benchmark, aber eine brauchbare Prüflogik. Teams sollten nicht nur messen, wie viele Aufgaben ein Agent erledigt, sondern wie stark sein Output die nächste Entwicklungsrunde verbessert.

Sinnvolle Messgrößen sind beispielsweise die Zeit bis zu einem reproduzierbaren Experiment, der Anteil akzeptierter Änderungen, die Zahl später zurückgerollter Änderungen, der Compute-Aufwand pro validierter Verbesserung und der menschliche Prüfaufwand. Reine Kennzahlen wie erzeugte Codezeilen oder gestartete Agentenläufe können Aktivität mit Fortschritt verwechseln.

Ebenso wichtig ist die Trennung zwischen Ideenproduktion und Verifikation. Wenn ein Agent zehnmal mehr Hypothesen erzeugt, aber Labor- oder Testkapazität konstant bleibt, wandert der Engpass nur weiter. Gute Agentenarchitekturen benötigen deshalb nicht nur mehr Modellaufrufe, sondern Priorisierung, reproduzierbare Evaluationen, saubere Versionsvergleiche und nachvollziehbare Audit-Trails.

Das betrifft auch Multi-Agenten-Systeme. Mehr Agenten erhöhen nicht automatisch die Forschungselastizität. Ohne unabhängige Tests, klare Rollen und eine begrenzte Zahl hochwertiger Experimente können sie lediglich ähnliche Vorschläge vervielfachen.

Einordnung: Weder Entwarnung noch Explosionsbeweis

Das Paper ist am stärksten, wenn es die Debatte von einzelnen spektakulären Demos auf messbare Beziehungen verschiebt. Seine 15-Prozent-Schwelle ist jedoch das Ergebnis eines vereinfachten Modells und mehrerer unsicherer Annahmen. Die 9-Prozent-Schätzung ist noch gröber und baut auf anbieterbezogenen Selbstauskünften auf.

Daraus folgen drei belastbare Aussagen:

1. KI unterstützt die Entwicklung von KI bereits heute, besonders bei Software- und Optimierungsaufgaben.
2. Eine vollständige Automatisierung einzelner Forschungsbereiche wäre noch kein Beweis für selbsttragende Beschleunigung, solange Compute, Daten, Verifikation oder menschliches Urteil begrenzen.
3. Die Rückkopplung scheint stärker zu werden, aber öffentlich verfügbare Daten reichen nicht aus, um Zeitpunkt oder Ausmaß eines möglichen Übergangs zuverlässig zu bestimmen.

Wer Modell-Releases, Coding-Agenten oder autonome Forschungssysteme bewertet, sollte deshalb weniger auf das Wort „selbstverbessernd“ und stärker auf die tatsächliche Rückkopplung achten: Produziert das System nachweisbar bessere Forschung – und führt diese Forschung messbar zu einem leistungsfähigeren Nachfolgesystem?

Fazit

„The Economics of Recursive Self-Improvement“ liefert keinen Countdown zur Intelligenzexplosion. Das Paper bietet etwas Nützlicheres: ein Modell, das klare Bedingungen, Engpässe und fehlende Messdaten benennt. Die derzeitige grobe Schätzung liegt mit etwa 9 Prozent unter der modellierten Schwelle von 15 Prozent. Gleichzeitig betonen die Autoren, dass der Effekt nicht konstant ist und zuletzt gestiegen sein dürfte.

Für die technische Praxis ist die wichtigste Lehre einfach: Schnelleres Coding ist nicht automatisch schnellere KI-Forschung, und schnellere KI-Forschung ist nicht automatisch selbsttragende Beschleunigung. Entscheidend ist die gesamte Kette aus Ideen, Experimenten, Verifikation, Compute, Daten und Übertragung auf die nächste Modellgeneration.

Wer die weitere Entwicklung einordnen will, sollte künftig besonders auf kontrollierte Produktivitätsmessungen aus KI-Laboren, transparente Compute-Aufteilungen und End-to-End-Evaluationen autonomer Forschungsagenten achten. Genau dort entscheidet sich, ob aus einer starken Assistenzschleife eine selbsttragende Beschleunigung wird.

FAQ zur rekursiven KI-Selbstverbesserung

Ist rekursive KI-Selbstverbesserung bereits Realität?

KI-Systeme helfen bereits bei Code, Experimenten und der Entwicklung neuer Modelle. Laut dem Paper reichen die öffentlich verfügbaren Daten aber noch nicht aus, um eine selbsttragende Beschleunigung zu belegen.

Was bedeutet die 15-Prozent-Schwelle aus der Studie?

In der vereinfachten Kalibrierung müsste eine zusätzliche Einheit des verwendeten Fähigkeitsindex die effektive KI-Forschungsleistung um mehr als 15 Prozent erhöhen. Die Zahl hängt von Modellannahmen und der Normierung des Epoch Capabilities Index ab und ist keine allgemeingültige Naturkonstante.

Warum schätzen die Autoren den bisherigen Effekt nur auf etwa 9 Prozent?

Sie verteilen einen berichteten ungefähr vierfachen Produktivitätszuwachs grob auf einen Anstieg von 16 Punkten im Fähigkeitsindex. Die Autoren bezeichnen diese Rechnung selbst als unsicher und halten die zugrunde liegende Selbsteinschätzung wahrscheinlich für überhöht.

Können Coding-Agenten trotzdem sehr schnell besser werden?

Ja. Das Paper hält eine starke Beschleunigung bei eng definierten, leicht überprüfbaren Aufgaben wie Coding, Mathematik und Algorithmusoptimierung für plausibler als einen gleichmäßigen Fortschritt bei breiten realen Fähigkeiten.

Welche Daten würden eine zuverlässigere Bewertung ermöglichen?

Benötigt werden kontrollierte Messungen zur Forschungsproduktivität einzelner Modellgenerationen, transparente Angaben zu Inferenz-, Experimental- und Trainingscompute sowie Daten dazu, welcher Anteil technischer Fortschritte tatsächlich von KI-Systemen stammt.