Info-Tech waarschuwt dat AI-agenten vastlopen na succesvolle demo

Info-Tech publiceerde het raamwerk op 14 augustus om 15.06 uur Amerikaanse oostkusttijd, overeenkomend met 21.06 uur Nederlandse zomertijd. Het document heet Develop Your Agentic AI Prototype en beschrijft vijf fasen voor de ontwikkeling en beoordeling van een agenttoepassing.

De kern is dat een werkende demonstratie volgens Info-Tech onvoldoende bewijs levert dat een agent ook in productie betrouwbaar kan functioneren. Het raamwerk vraagt daarom vanaf het begin aandacht voor architectuur, observability, evaluaties, kosten, beveiligingsgrenzen en menselijke controle.

De vijf stappen bestaan uit het opzetten van een reproduceerbare ontwikkelomgeving, voorbereiden van data en hulpmiddelen, bouwen van agents, evalueren en optimaliseren en uiteindelijk documenteren van resultaten en risico’s.

Meer dan 30.000 IT- en bedrijfsleiders gebruiken onderzoek van Info-Tech

Info-Tech meldt wereldwijd meer dan 30.000 leiders op het gebied van IT, HR en marketing te ondersteunen. De organisatie publiceert onderzoek, methodieken en leveranciersanalyses voor private en publieke organisaties.

Het nieuwe raamwerk bevat onder meer aanbevelingen om iedere uitvoering van een agent te kunnen volgen. Teams moeten kunnen vaststellen welke informatie de agent ontving, welke actie werd uitgevoerd, waar fouten ontstonden, hoeveel tijd de uitvoering kostte en wat het verbruik kostte.

Ook human-in-the-loopcontrole wordt expliciet opgenomen. Niet iedere handeling hoeft daarmee volledig autonoom te worden uitgevoerd.

Nederlandse bedrijven vormen een relevante doelgroep voor dergelijke engineeringmethoden. CBS stelde vast dat in 2025 29,8 procent van bedrijven met 10 tot 250 werknemers AI-technologie gebruikte. Bij bedrijven met minstens 250 werknemers bedroeg het aandeel 66,2 procent.

Agentic AI verandert eisen aan SaaS-architectuur

Een traditionele generatieve AI-functie produceert bijvoorbeeld een antwoord of samenvatting. Een agent kan daarnaast hulpmiddelen activeren, gegevens wijzigen of een vervolgstap in een bedrijfsproces starten.

Daardoor worden technische keuzes rond autorisatie, logging en herstel belangrijker. Een fout antwoord is één type risico, maar een agent die zelfstandig een verkeerd CRM-record wijzigt, een opdracht uitvoert of externe API’s activeert kan direct operationele gevolgen veroorzaken.

Voor Nederlandse SaaS-leveranciers betekent dit dat agentfuncties niet alleen als modelintegratie kunnen worden behandeld. Zij worden onderdeel van de beveiligings- en procesarchitectuur van het product.

Duiding: discipline rond prototypes kan Nederlandse AI-investeringen beschermen

De concrete kans is dat Nederlandse SaaS-bedrijven eerder kunnen bepalen welke agentprojecten werkelijk schaalbaar zijn. Door kosten, fouten, prestaties en benodigde menselijke controles al tijdens de prototypefase vast te leggen, kan een ondernemer beter beslissen of verdere investering zakelijk verantwoord is.

Het risico is dat een overtuigende demo te snel als product wordt verkocht. Agenten die in een gecontroleerde test goed functioneren kunnen bij afwijkende klantdata of extra systeemrechten ander gedrag vertonen. Zonder observability en duidelijke bevoegdheidsgrenzen kan een succesvolle pilot daardoor juist extra operationeel risico introduceren. Dit is redactionele duiding.

Meer informatie

Primaire bron: Info-Tech Research Group over het agentic AI-raamwerk

Aanvullende primaire bron: CBS over AI-gebruik bij Nederlandse bedrijven