Een overtuigend antwoord kan nog steeds fout zijn
Een groot adviesbureau trok een rapport over AI-agents in nadat gebruikte succesvoorbeelden niet bleken te kloppen. Dat is een nogal tastbare versie van een risico dat bij AI gemakkelijk abstract blijft. Een tekst kan professioneel ogen, logisch zijn opgebouwd en afkomstig zijn van een partij met gezag, terwijl de controle eronder toch niet goed genoeg is geweest.
Een paar dagen later kwam hetzelfde probleem op veel kleinere schaal terug in mijn eigen werk met ChatGPT. Ik moest verschillende keren terug naar conclusies die zonder voldoende controle waren getrokken, eerder gegeven context was verdwenen en een ingebracht inzicht werd later zelfs aan de AI zelf toegeschreven. De interessante vraag is dan niet meer óf AI fouten maakt. De vraag is of mensen voldoende georganiseerd hebben dat zulke fouten worden herkend voordat ze onderdeel worden van een advies, rapport of besluit.
Digitale regie zit ook in de infrastructuur
Waar data fysiek staat, vertelt niet het hele verhaal. Bij cloudopslag telt ook van welk bedrijf de infrastructuur is en welk recht op dat bedrijf van toepassing is. De film Wiens datacentrum is dit eigenlijk? maakt dat zichtbaar aan de hand van de CLOUD Act: data kan in Nederland staan terwijl de aanbieder onder Amerikaanse wetgeving valt.
Bij die film kreeg digitale regie meteen een praktisch vervolg. De film is met verschillende AI-tools gemaakt, maar draait vanaf gekozen eigen infrastructuur en niet via een YouTube- of Vimeo-iframe. Dat is een klein technisch besluit met een grotere betekenis. Digitale afhankelijkheid is niet altijd een gegeven. Soms kun je daadwerkelijk een andere route bouwen, en juist AI kan helpen om die route technisch bereikbaar te maken.
Een AI-tool is nog geen businesscase
Op Future of Software Technologies bleef onder meer de observatie hangen dat veel AI-problemen uiteindelijk integratieproblemen zijn en dat agentic AI weerbarstiger blijkt dan soms wordt voorgesteld. Dat past bij een breder vraagstuk dat later opnieuw opdook: organisaties kunnen AI aanschaffen en gebruiken zonder dat daarmee al duidelijk is welke structurele waarde het oplevert.
Een FD-citaat over kantoren die AI aanvankelijk als relatief eenvoudige route naar meer opbrengst zagen, maakte de andere kant van de rekensom zichtbaar. Om werkelijke waarde te realiseren blijken ook investeringen nodig in integratie, processen en organisatie. Dat betekent niet dat AI geen tijd of geld kan besparen. Wel dat een serieuze businesscase ook het werk moet meetellen dat nodig is om AI betrouwbaar in het gewone werk te laten functioneren. Voor een ondernemingsraad is dat een bruikbaarder vertrekpunt dan alleen de vraag hoeveel medewerkers met een AI-tool werken.
Maandelijks op de hoogte blijven van ORenAI-ontwikkelingen? Meld je aan.