Gimlet Labs erhält 300 Millionen Dollar für verteilte KI-Inferenz

Gimlet Labs hat am 4. September 2026 eine Series-B-Finanzierung über 300 Millionen Dollar angekündigt, angeführt von Andreessen Horowitz. Laut SiliconANGLE bewertet die Runde das auf KI-Inferenz spezialisierte Unternehmen mit drei Milliarden Dollar.

Hinter der hohen Bewertung steckt eine konkrete Wette: Rechenzentren sollen Sprachmodelle nicht länger möglichst vollständig auf einem Chiptyp ausführen, sondern einzelne Arbeitsphasen auf unterschiedliche Beschleuniger verteilen. Das verspricht mehr Durchsatz pro eingesetztem Watt und kürzere Antwortzeiten. Ob die Rechnung außerhalb von Gimlets eigener Infrastruktur aufgeht, bleibt der entscheidende Prüfstein.

Eine Finanzierungsrunde mit Chipindustrie im Cap Table

Neben Andreessen Horowitz beteiligen sich nach Angaben von Gimlet Labs unter anderem Arm, Samsung Ventures und Microsofts Risikokapitalarm M12 an der Runde. Die Investorenliste verbindet damit Kapitalgeber direkt mit Unternehmen, die Chips entwickeln, fertigen lassen oder große KI-Infrastrukturen betreiben.

Gimlet meldet zudem seit März Milliarden an vertraglich gesichertem Umsatz sowie eine Rechenzentrumspipeline im Gigawattbereich. Das sind ungewöhnlich große Angaben für ein junges Infrastrukturunternehmen. Sie stammen allerdings vom Anbieter selbst und sagen noch nicht, wie viel Kapazität bereits produktiv läuft oder welche Margen das Geschäft erreicht.

Das Tempo ist enorm.

Laut SiliconANGLE beläuft sich die gesamte externe Finanzierung des Unternehmens nun auf 392 Millionen Dollar. Die Bewertung von drei Milliarden Dollar setzt voraus, dass heterogene Hardware nicht bloß eine technische Sonderlösung bleibt, sondern zu einem wiederholbaren Betriebsmodell für große Inferenzlasten wird.

Warum Gimlet Modelle über mehrere Chiptypen verteilt

Gimlets Plattform zerlegt Inferenz-Workloads und weist einzelne Phasen der jeweils passenden Beschleunigerarchitektur zu. SiliconANGLE beschreibt als verbreitetes Beispiel die Trennung von „Prefill“ und „Decode“: Während des Prefill verarbeitet das Modell den Prompt, beim Decode erzeugt es die Antwort. Beide Schritte belasten Speicher und Recheneinheiten unterschiedlich.

Der Ansatz kann noch feiner werden. Laut SiliconANGLE lassen sich Teile der Decode-Phase separat ausführen; auch ein kleines Entwurfsmodell und ein größeres Modell zur Verfeinerung können auf unterschiedlichen Architekturen laufen. Für agentische Anwendungen ist diese Aufteilung besonders relevant, weil mehrere aufeinanderfolgende Modell- und Werkzeugaufrufe jede zusätzliche Verzögerung vervielfachen können.

Gimlet beansprucht für sogenannte Frontier-Workloads eine drei- bis zehnmal höhere Leistung in der eigenen Inference Cloud. Der Wert ist vorerst ein Anbieter-Benchmark. Ohne Angaben zu Modellen, Vergleichshardware, Auslastung und Kosten lässt sich daraus keine allgemeine Beschleunigung für beliebige Anwendungen ableiten.

Der Prüfstein liegt bei Kosten und Betrieb

Die Finanzierung trifft einen echten Engpass. Gimlet Labs verweist auf einen sechsfachen Anstieg der monatlich erzeugten Token innerhalb von zwölf Monaten und beschreibt Strom als zunehmend knappe Ressource für Rechenzentren. Mehr Durchsatz pro Kilowatt wäre deshalb wirtschaftlich relevant, selbst wenn neue Chipgenerationen weiterhin schneller werden.

Die Verteilung auf mehrere Architekturen schafft jedoch eine zusätzliche Betriebsebene: Planung, Datenbewegung und Auslastung müssen so zusammenspielen, dass der Effizienzgewinn nicht durch Koordinationsaufwand verloren geht. Plattformteams sollten den Ansatz deshalb an drei Messwerten prüfen — Ende-zu-Ende-Latenz, Kosten pro erzeugtem Token und stabiler Durchsatz unter realer Last — und nicht an einem isolierten Spitzenwert.

Gimlet hat genug Kapital, um diesen Nachweis in großem Maßstab zu führen. Die nächste belastbare Zahl ist nun kein weiterer Finanzierungsbetrag, sondern ein reproduzierbarer Vergleich, der Hardwaremix, Workload und Gesamtkosten offenlegt.