Google hat am 19. November 2026 Tool Retrieval in der Gemini API gestartet, vorerst als Preview in der Interactions API. Statt bei jeder Anfrage die komplette Werkzeugbibliothek samt aller Parameter-Schemata mitzuschicken, lädt der Agent einzelne Schemata erst dann nach, wenn er sie für die aktuelle Aufgabe tatsächlich braucht.
Damit adressiert Google ein Problem, das mit der Zahl der Integrationen wächst. Ein Agent, der CRM, Buchhaltung, Ticketsystem, Kalender und interne Datenbanken bedienen soll, schleppt sonst bei jedem einzelnen Aufruf die vollständigen Definitionen aller Funktionen mit. Die Dokumentation nennt die Größenordnung: Schon ein paar Dutzend Funktionsdeklarationen können pro Anfrage zehntausende Token verbrauchen.
Was Tool Retrieval im Gemini API ändert
Tool Retrieval dreht die Logik um. Die Werkzeugbibliothek bleibt vollständig deklariert, aber nur die Schemata der Werkzeuge, die der Agent wirklich braucht, landen im Kontext. Der Rest wartet im Hintergrund.
Konkret entstehen daraus drei Effekte, die Google in der Ankündigung nennt: weniger Eingabe-Token, geringere Latenz und eine stabilere Werkzeugauswahl, weil die Liste der aktiven Kandidaten klein bleibt. Bei wachsender Werkzeugzahl sinkt die Trefferquote klassischer Ansätze, sobald alle Kandidaten gleichzeitig im Prompt stehen.
So funktioniert es im Aufruf
Technisch sind nur zwei Änderungen nötig. In das Feld tools kommt ein Eintrag {"type": "tool_search"}, und die Werkzeuge, die nicht sofort geladen werden sollen, bekommen defer_loading: true. Das Modell sieht dann von jedem zurückgehaltenen Werkzeug nur Name und Beschreibung, nicht aber das Parameterschema.
Braucht das Modell ein Werkzeug, fordert es dieses per Namen an. Die API lädt das vollständige Schema nach, das Modell erzeugt den Funktionsaufruf – alles innerhalb derselben Anfrage. Im Ergebnis erscheinen die Schritte als tool_search_call, tool_search_result und function_call, was beim Debuggen zeigt, welche Werkzeuge das Modell überhaupt in Betracht gezogen hat.
Ein eigener Index oder ein zusätzlicher Dienst ist dafür nicht nötig, die Suche läuft serverseitig bei Google. Tool Retrieval ist außerdem mit Prefix-Caching verträglich: Die nachgeladenen Schemata landen weiter hinten im Konversationsverlauf, der gecachte Anfang des Prompts bleibt unverändert.
Auch entfernte MCP-Server lassen sich einbinden. Setzt man defer_loading: true auf einen mcp_server-Eintrag, werden alle Werkzeuge dieses Servers bei Bedarf nachgeladen, ohne sie einzeln aufzulisten.
Zwei Betriebsarten: Server und Client
Neben der serverseitigen Suche unterstützt die API eine clientseitige Variante. Dort sucht die eigene Anwendung im Werkzeugverzeichnis und schickt die passenden Schemata zurück. Das kostet pro Suche einen zusätzlichen Roundtrip, erlaubt aber eigene Registries, Rechtefilter und Werkzeuge, die erst mitten im Gespräch dazukommen.
| Fähigkeit | Statisches Laden | Server-seitig | Client-seitig |
|---|---|---|---|
| Schemata im Prompt | alle, bei jeder Anfrage | nur geladene | nur geladene |
| Suche läuft | keine | Gemini, im selben Aufruf | eigene Anwendung |
| Zusatz-Roundtrips | keine | keine | einer pro Suche |
| Werkzeuge vorab deklariert | ja | ja | nein |
| Entfernte MCP-Server | ja | ja | nicht vorgesehen |
| Passt zu | unter etwa 20 stabile Tools | großen, festen Bibliotheken | eigenen Registries und Rechtefiltern |
Quelle: Google, Gemini API Dokumentation zu Tool Retrieval, 19.11.2026.
Preis, Grenzen und Verfügbarkeit
Tool Retrieval wird nicht separat berechnet. Es gelten die normalen Token-Preise des jeweiligen Modells: Der tool_search-Block kostet einen kleinen, festen Satz an Eingabe-Token, und jedes nachgeladene Schema wird für den Rest des Gesprächs als Eingabe abgerechnet – genau wie ein von Anfang an deklariertes Werkzeug. Gespart wird also dann, wenn die nie geladenen Schemata die geladenen überwiegen. Bei großen Bibliotheken ist das der Normalfall, Google empfiehlt trotzdem die Messung am eigenen Traffic.
Wichtige Einschränkungen: Tool Retrieval ist Preview und verlangt die API-Version v1beta; die Oberfläche kann sich bis zur allgemeinen Verfügbarkeit ändern. Es funktioniert ausschließlich in der Interactions API, nicht in generateContent. Unterstützt werden Gemini 3.6 und neuere Modelle, einschließlich aller Gemini-4-Varianten.
Weil das Modell zunächst nur Namen und Beschreibungen sieht, werden diese Texte zum kritischen Teil des Setups. Wer schlecht benannte Funktionen hat, bekommt auch mit Retrieval keine saubere Auswahl.
Für wen sich das lohnt
Praktisch relevant ist die Funktion überall dort, wo ein Agent an viele Systeme gleichzeitig angeschlossen wird. Ein typischer Fall aus dem Mittelstand: ein Assistent, der Angebote schreibt, Rechnungen prüft, Tickets anlegt und Termine plant. Solche Werkzeugbibliotheken sind groß und wachsen weiter, während pro Aufgabe oft nur zwei oder drei Funktionen gebraucht werden.
Für latenzkritische Anwendungen ist die serverseitige Variante die richtige Wahl, weil die Suche im selben API-Aufruf läuft. Wer dagegen ein eigenes Werkzeugverzeichnis mit Kundenrechten pflegt, braucht die clientseitige Variante – und bezahlt sie mit einem Roundtrip. Wie sich solche Steuerungsentscheidungen in der Praxis auswirken, zeigt auch der Blick auf frühere API-Schritte wie die Gemini Decisions API, die Wahrscheinlichkeiten statt Text liefert. Und wer vor allem Kosten und Geschwindigkeit optimiert, findet die aktuellen Vergleichswerte im Artikel zu Gemini 4 Hydrogen.
Häufige Fragen
Kostet Tool Retrieval extra?
Nein. Es gelten die Standard-Tokenpreise; nachgeladene Schemata werden als Eingabe abgerechnet.
Welche Modelle unterstützen Tool Retrieval?
Gemini 3.6 und alle neueren Modelle, einschließlich der Gemini-4-Familie, in der Interactions API.
Ersetzt Tool Retrieval MCP?
Nein. Es ergänzt entfernte MCP-Server, deren Werkzeuge ebenfalls erst bei Bedarf geladen werden können.
Ist die Funktion produktionsreif?
Sie ist Preview mit möglichen Änderungen an der Schnittstelle. Für feste Produktionszusagen ist das ein Risiko, für Pilotprojekte und interne Agenten ist es tragfähig.
Primärquelle: Introducing Tool Retrieval in the Gemini API, Google, 19. November 2026; technische Details aus der Gemini API Dokumentation.


