DeepInfra hat am 4. Mai eine Series-B-Finanzierung über 107 Millionen US-Dollar bekannt gegeben. Die Summe ist im KI-Infrastrukturbereich nicht die größte, doch die Liste der Investoren ist aufschlussreich.
500 Global führte die Runde an. Zu den weiteren Investoren gehören Nvidia Corp., Samsung Next, Supermicro, A.Capital, Felicis, Peak6, Upper90 sowie Georges Harik, ein früher Google-Ingenieur.
Dass Nvidia selbst in ein unabhängiges Startup für eine "Inferenz-Cloud" investiert, wäre vor ein paar Jahren noch ungewöhnlich gewesen. Damals wurde Inferenz weitgehend von den großen Cloud-Plattformen geschluckt. Im Jahr 2026 steckt Nvidia nun Kapital in eine eigenständige Infrastrukturschicht. Das zeigt, dass Inferenz als Markt aus der allgemeinen Cloud herausgewachsen ist.
Wie weit DeepInfra heute ist
DeepInfra-CEO Nikola Borisov formulierte es in der Mitteilung deutlich:
"Inference is no longer a thin layer - it's the system constraint that will define the majority of workloads."
Anders gesagt: Inferenz ist nicht mehr nur ein dünner API-Proxy. Sie wird zum Systemengpass, der einen großen Teil der kommenden Workloads bestimmt.
- Mehr als 190 offene KI-Modelle werden unterstützt, darunter Llama, Qwen, DeepSeek und Mistral.
- Mehr als 30% des Token-Durchsatzes stammen aus Agenten-Workloads, also von autonomen Agenten und nicht aus gewöhnlichem Chat.
- Acht US-Rechenzentren betreiben eigene GPU-Infrastruktur auf Basis der verteilten Inferenzplattform Nvidia Dynamo.
- Der GPU-Mix umfasst Blackwell und Vera Rubin. Vera Rubin ist erst in diesem Jahr in die Massenproduktion gegangen, was die Nähe zu Nvidia unterstreicht.
- Das Unternehmen nennt außerdem 5 Billionen verarbeitete Token pro Woche, ein 25-faches Token-Wachstum seit der Series A und eine Verdreifachung des Umsatzes seit Jahresbeginn 2026.
Die wichtigste Zahl ist 30%. Agenten-Workflows unterscheiden sich stark von Chatbots. Eine einzige Aufgabe kann hundert Tool-Aufrufe und dutzende API-Anfragen auslösen. Diese Last ist eher dauerhaft aktiv, statt erst nach einer Nutzereingabe zu starten. Klassische Clouds sind dafür nur bedingt gebaut: Abrechnungsmodelle, Cold-Start-Annahmen und Scheduling wurden für menschliche Interaktionsschleifen entworfen.
Warum eigene GPUs plötzlich zählen
Der Kern dieser Finanzierungsrunde ist einfach: DeepInfra mietet keine GPUs bei AWS, sondern kauft und betreibt die Kapazität selbst.
In den vergangenen Jahren war es üblich, KI-Inferenz über GPU-Dienste von AWS, GCP oder Azure laufen zu lassen. Das Problem: Diese drei Anbieter verkaufen auch eigene Modell-APIs, halten die Preise hoch und bringen weiterhin Cold-Start-Latenzen mit. Together, Fireworks, Groq und DeepInfra sind in den letzten zwei Jahren gewachsen, weil sie genau diese Lücke adressieren.
DeepInfra spricht von einer 20-fachen Verbesserung der Kosteneffizienz. Diese Zahl sollte man einordnen, denn der Vergleichsmaßstab ist entscheidend. Aber für Teams, die offene Modelle in großem Umfang betreiben, etwa Produkte mit Millionen monatlich aktiver Nutzer, kann der Wechsel zu einer spezialisierten Inferenz-Cloud die Rechnung häufig um mehr als die Hälfte senken.
So sortiert sich der Inferenz-Cloud-Markt
| Unternehmen | Profil |
|---|---|
| Together AI | Full-Stack-Plattform mit eigener CUDA-Alternative |
| Fireworks AI | Eng an das Hugging-Face-Ökosystem angebunden |
| Groq | Spezialist für LPU-Chips, der Nvidia und AMD aufgefallen ist |
| Cerebras | Wafer-Scale-Chips und ein Weg in Richtung Börse |
| DeepInfra | Acht selbst betriebene Rechenzentren, mehr als 190 offene Modelle, Fokus auf Agenten-Szenarien |
DeepInfra hat nicht die auffälligste Bewertung in diesem Feld, aber die Positionierung ist klar: Inferenzinfrastruktur für offene Modelle. Das Unternehmen verkauft keine geschlossenen Modelle weiter und konkurriert nicht auf der Modellebene. Am ehesten ähnelt es Together. Der Unterschied liegt darin, dass DeepInfra mehr Kontrolle über den Stack behält, von GPUs über Scheduling bis zur API.
Agenten sind die eigentliche Wette
Borisovs Satz, Inferenz werde zur Systemgrenze, ist mehr als PR.
Wenn Agenten-Workflows zum Standard werden, kann ein einzelner Nutzer im Hintergrund dutzende Inferenzaufrufe pro Minute auslösen. Cursor schreibt Code, Claude Code ändert Dateien, Salesforce Agentforce bearbeitet Tickets. Diese Szenarien haben ein völlig anderes Lastprofil als ein ChatGPT-Dialog, bei dem ein Nutzer eine Frage stellt und das Modell einmal antwortet.
Wer in diesem Umfeld p99-Latenzen niedrig hält, Kosten kontrolliert und zugleich Zero Data Retention zusichern kann, hat gute Chancen auf Enterprise-Verträge.
In DeepInfras aktueller Finanzierungsrhetorik taucht "agentic workloads" deutlich häufiger auf als in früheren Runden. Im kommenden Jahr wird es in diesem Markt weniger darum gehen, wer den breitesten Modellkatalog hat. Entscheidend wird sein, wessen Infrastruktur eine Welt aushält, in der tausende Agenten gleichzeitig Inferenz anfordern.
Dass Nvidia selbst investiert, deutet darauf hin, dass das Unternehmen genau dieses Szenario für realistisch hält.
Quellen: DeepInfra Closes $107M Series B to Power Production-Scale AI Inference (GlobeNewswire); Deepinfra lands $107M in funding to build out its dedicated inference cloud for open-source models (SiliconANGLE); CocoLoop; DeepInfra Raises $107M Series B to Scale Inference Infrastructure (DeepInfra Blog)