Wat is er gebeurd
Perplexity liet tijdens Computex 2026 een hybride local-cloud inference orchestrator zien voor zijn Personal Computer-agent. De claim is niet alleen dat kleinere modellen lokaal kunnen draaien. Het interessantere punt is routering per taak: het systeem beslist welke delen van een workflow op het apparaat blijven en welke delen naar frontiermodellen in de cloud gaan.
In de demo verwerkte de agent vertrouwelijke dealdocumenten. Gevoelige informatie bleef lokaal, terwijl zwaardere redeneerstappen waar nodig naar cloudmodellen gingen. VentureBeat schrijft dat de functie nog niet algemeen beschikbaar is, maar volgens Perplexity in de komende weken moet verschijnen.
Dit past in een bredere verschuiving in zakelijke AI. Agents bewegen van chatvensters naar bestandssystemen, bedrijfsapplicaties, spreadsheets, SharePoint, CRM en workflowtools. Zodra agents met operationele data werken, wordt de vraag niet alleen welk model het slimst is. De vraag wordt waar elke stap draait, wie dat kan controleren en hoe de organisatie achteraf kan aantonen wat er is gebeurd.
Waarom dit belangrijk is
Hybride inference wordt een praktisch architectuurpatroon voor zakelijke AI. Volledig cloudgebaseerde agents zijn makkelijk om mee te starten, maar zorgen voor terechte vragen over dataresidentie, vertrouwelijke documenten, tokenkosten, latency en afhankelijkheid van leveranciers. Volledig lokale systemen geven meer controle, maar kunnen moeite hebben met complex redeneren, modelupdates en beheer.
Een gerouteerde runtime probeert die schijnkeuze te vermijden. Gevoelige extractie, classificatie of samenvatting kan dicht bij de data plaatsvinden. Minder gevoelige redeneerstappen, verrijking of synthese kunnen externe modellen gebruiken wanneer die waarde toevoegen. Die modelagnostische splitsing is precies waar het enterprisegesprek naartoe beweegt.
Er zit ook een kostenkant aan. Agent-workloads zijn geen enkele prompt met één antwoord. Ze kunnen meerstapsplannen uitvoeren, tools aanroepen, documenten inspecteren, opnieuw proberen, verifiëren en loggen. Als elke tussenstap naar premium cloudmodellen gaat, worden kosten moeilijk voorspelbaar. Als elke stap lokaal draait, kan kwaliteit dalen. Routering helpt om dure inference te reserveren voor de onderdelen die het echt nodig hebben.
Laava-perspectief
Voor Laava is de belangrijkste les dat de runtime de nieuwe productgrens wordt. Klanten hebben geen losse AI-tool nodig en ook geen hardwaredoos met een logo erop. Ze hebben een beheerde omgeving nodig waarin agents met documenten en systemen kunnen werken onder duidelijke regels.
Daarom positioneert Laava Sovereign Runtime en Laava Box als deploymentvormen binnen Laava Agents en Custom Solutions. De waarde zit niet in lokale compute op zichzelf. De waarde zit in managed runtime, agents, integraties, monitoring, logging, updates en governance rondom echt operationeel werk.
De aankondiging van Perplexity bevestigt dezelfde richting: modelkeuze, locatiekeuze en auditability horen thuis in de architectuur. Een bruikbare zakelijke agent moet vandaag Azure OpenAI kunnen gebruiken, morgen een open model, en lokale inference wanneer data of kosten daarom vragen. De klant zou de workflow niet opnieuw moeten bouwen zodra de modelmarkt verandert.
Het moeilijke deel is niet de slogan “lokaal plus cloud”. Het moeilijke deel is het ontwerpen van routeringsbeleid, permissies, logging, fallbackgedrag en integraties zodat het systeem betrouwbaar draait in productie. Dat is engineeringwerk, geen AI-theater.
Wat je kunt doen
Als je AI-agents onderzoekt, begin dan met in kaart brengen welke data je omgeving mag verlaten, welke data dichtbij moet blijven en welke acties een menselijk akkoordspoor nodig hebben. Die kaart is nuttiger dan een modelbenchmark wanneer je bepaalt welke architectuur nodig is.
Kies daarna één workflow waar controle belangrijk is: contractreview, tickettriage, SharePoint-kenniszoeken, e-mailafhandeling of interne rapportage. Bewijs eerst de runtime, permissies en logs voordat je opschaalt. De bedrijven die winnen met agents zijn niet de bedrijven met de spectaculairste demo, maar de bedrijven die precies kunnen uitleggen waar het werk draaide en waarom.