De 71%-vertrouwenskloof: waarom bedrijven AI-agents nog niet loslaten

AI-agents, systemen die zelfstandig taken uitvoeren in plaats van alleen antwoord geven, zijn in korte tijd van experiment naar mainstream gegaan. Uit onderzoek van Capgemini onder grote organisaties blijkt dat het aandeel dat generatieve AI echt in gebruik heeft, is gestegen van zes procent in 2023 naar dertig procent nu, en dat ruim negentig procent er op zijn minst mee aan het verkennen is. Maar één cijfer uit datzelfde onderzoek verklaart waarom het bij veel bedrijven blijft steken: eenenzeventig procent kan autonome agents nog niet volledig vertrouwen.

Het knelpunt is geen techniek, maar controle

De vertrouwenskloof laat iets belangrijks zien. Het probleem is niet dat de techniek niet werkt, want negentig procent is ermee bezig. Het probleem is dat bedrijven een systeem niet zelfstandig hun werk laten doen als ze niet weten wat het precies doet en waar het stopt. En daar wringt het: uit hetzelfde onderzoek blijkt dat nog geen helft van de organisaties governance-beleid heeft, en dat de naleving daarvan vaak zwak is. Het vertrouwen ontbreekt dus niet zonder reden. De controle die het vertrouwen zou moeten dragen, is er nog niet.

Waarom volledig loslaten ook niet het doel is

De reflex zou kunnen zijn om te wachten tot agents zo goed zijn dat je ze blind kunt vertrouwen. Maar dat is de verkeerde maatstaf. Een goed geautomatiseerd proces vraagt niet om blind vertrouwen, het vraagt om zichtbaarheid. Je wil kunnen zien wat het systeem doet, uitzonderingen naar een mens laten gaan, en grenzen kunnen stellen aan wat het zelfstandig mag. Een agent die binnen duidelijke kaders werkt en bij twijfel terugkoppelt, is bruikbaar, ook al vertrouw je hem niet voor honderd procent. De kloof dicht je niet door te wachten, maar door controle in te bouwen.

Wat dat betekent voor jouw bedrijf

Voor een MKB-bedrijf is dit juist goed nieuws. Je hoeft niet te wachten op de perfecte, volledig autonome agent. Je begint met een systeem dat een afgebakende taak overneemt, binnen kaders die je zelf bepaalt, waarbij de gevallen die twijfel geven bij een van je mensen terechtkomen. Zo houd je de controle die het vertrouwen mogelijk maakt, en groeit de zelfstandigheid mee naarmate het systeem zich bewijst. Precies zo bouwt Montari: automatisering met zichtbaarheid en een mens voor de uitzonderingen. Hoe dat werkt, lees je op montari.nl.

Veelgestelde vragen

Zijn AI-agents wel betrouwbaar genoeg om te gebruiken?

Voor afgebakende taken binnen duidelijke kaders wel. Het onderzoek laat zien dat bedrijven ze breed inzetten, maar niet volledig vertrouwen, en dat is terecht. De oplossing is niet wachten op perfectie, maar grenzen stellen en uitzonderingen naar een mens laten gaan.

Wat betekent governance in dit geval?

Simpel gezegd: afspraken over wat het systeem wel en niet zelf mag doen, hoe je ziet wat het doet, en wat er gebeurt bij twijfel. Dat is geen zware bureaucratie, maar de basis die maakt dat je een systeem met een gerust hart zijn werk laat doen.

Moet ik een agent volledig zelfstandig laten werken?

Nee, en dat is ook niet het doel. De beste opzet laat het systeem het routinewerk doen en stuurt de uitzonderingen naar een mens. Zo profiteer je van de snelheid zonder de controle te verliezen, en breid je de zelfstandigheid pas uit als het systeem zich bewezen heeft.