Wat er is gebeurd
Cloudflare kondigde op 16 april aan dat het AI Gateway uitbouwt tot een breder AI-platform, in feite een uniforme inferentielaag voor agentische workloads. De praktische verandering is simpel: ontwikkelaars kunnen tientallen modellen van meerdere aanbieders via één endpoint aanroepen, in plaats van voor elke workflow losse SDK's, authenticatie en facturatie te koppelen.
De release brengt modellen van derden onder dezelfde AI.run()-interface die al voor Workers AI werd gebruikt, met ondersteuning voor meer dan 70 modellen van 12 plus providers. Cloudflare breidt daarbij uit van alleen tekst naar beeld, video en spraak, wat relevant is omdat productie-agents steeds vaker classificatie, reasoning, retrieval, generatie en media-afhandeling in één keten combineren.
Interessanter dan de catalogus is het besturingsmodel eromheen. Cloudflare voegt centrale spend-visibility toe, custom metadata voor kostentoerekening, automatische failover wanneer een provider uitvalt en streamingbuffers waarmee langlopende agents opnieuw kunnen verbinden zonder dubbel te betalen voor dezelfde output. Het werkt ook aan bring-your-own-model workflows, zodat teams fijngetunede of eigen modellen via hetzelfde platform kunnen serveren.
Waarom dit ertoe doet
Dit is relevant omdat enterprise agentsystemen zelden lang trouw blijven aan één model. Een workflow kan een goedkoop classificatiemodel gebruiken voor triage, een sterker reasoning-model voor planning en een gespecialiseerd model voor stem, vision of code. Als al die calls vastzitten aan een andere providerstack, wordt de architectuur snel duur, fragiel en lastig te besturen.
Cloudflare pakt precies die saaie maar cruciale laag aan. Eén API, uniforme observability, failover en kosteninzicht zijn geen spectaculaire modeldoorbraken, maar ze lossen wel de problemen op die echte uitrol vertragen. Voor teams die agents uit de proof-of-conceptfase naar productie willen brengen, zijn dit soort platformdetails vaak belangrijker dan weer een nieuwe benchmarkscore.
Er zit ook een strategische inkooplaag in. Multi-provider routing maakt het makkelijker om modellen te wisselen als prijzen veranderen, storingen optreden of betere open modellen beschikbaar komen. Dat is juist nu relevant, omdat bedrijven meerdere modellen tegelijk gebruiken en een schonere manier nodig hebben om latency, betrouwbaarheid en kosten over de hele stack te sturen in plaats van binnen één leveranciersdashboard.
Laava-perspectief
Bij Laava zien we dit als bevestiging van een ontwerpkeuze waar we al langer op sturen: behandel het model als vervangbaar onderdeel, niet als het centrum van het systeem. In onze drie-lagenarchitectuur mag de reasoning-laag veranderen. De blijvende waarde zit in de contextlaag, de business rules, de integraties en de guardrails rond uitvoering.
Daarom is deze aankondiging belangrijker dan hij op het eerste gezicht lijkt. Een neutrale inferentielaag ondersteunt model-agnostische architectuur, en die heb je nodig als je lock-in wilt vermijden, kosten wilt beheersen en ruimte wilt houden voor soevereine deployments. Europese organisaties moeten dit lezen als signaal dat de markt richting portabiliteit beweegt, niet richting volledige afhankelijkheid van één API-provider.
Tegelijk is enige scepsis gezond. Een inferentielaag maakt agents niet vanzelf veilig of nuttig. Ze bepaalt niets over metadata-kwaliteit, approval gates, exception handling of de deterministische integratiecode die een AI-beslissing aan ERP-, CRM- of e-mailsystemen koppelt. Ze haalt infrastructuurwrijving weg, maar vervangt systems engineering niet.
Wat je nu kunt doen
Als dit relevant voelt, begin dan met het in kaart brengen waar modelsprawl binnen je organisatie al ontstaat. Kijk naar workflows waar één team verschillende providers gebruikt voor routing, extractie, samenvatting en generatie, en vraag vervolgens wat er gebeurt als een provider uitvalt, prijzen verschuiven of auditteams kosteninzicht per proces willen. Daar wordt de businesscase voor een neutrale inferentielaag meestal concreet.
Voer daarna een smalle pilot uit rond één document- of communicatieproces, niet rond een bedrijfsbrede assistent. Houd de action-laag deterministisch, log elke modelcall, label kosten per workflow en zorg dat modelswaps vanaf dag één eenvoudig zijn. Als het proces providerwissels overleeft zonder dat de businesslogica breekt, bouw je het juiste soort AI-systeem: draagbaar, bestuurbaar en klaar voor productie.