Wie is de eigenaar van je AI-agent?

Iemand in je organisatie bouwt in een middag een slim AI-hulpje. Het leest facturen uit, zet ze in de juiste map en geeft een seintje als er iets niet klopt. Handig. Er is geen vergadering over geweest. En vanaf dat moment draait er iets in je bedrijf dat zelfstandig beslissingen neemt over je administratie, terwijl niemand er de eigenaar van is.

Dit gebeurt nu al.

Elke agent is een nieuw apparaat op je netwerk

Vorige week schreef Mitch Dubbeling er een rake post over. Microsoft maakt het mogelijk dat een AI-agent zijn eigen werkplek in de cloud krijgt, net als een medewerker. Zijn observatie was scherp. Daarmee wordt elke agent eigenlijk een nieuw apparaat op je netwerk, met eigen toegang, eigen rechten en eigen risico. Tien agents is een experiment. Duizend agents is een vloot. En een vloot beheert zichzelf niet.

Daar ben ik het mee eens. Toch ligt er een vraag onder die ongemakkelijker is. Hannes de Paauw stelde hem in de reacties, en ik vind hem belangrijker dan het technische verhaal.

Hannes vroeg wie de eigenaar is van zo’n agent. Wie beheert de agents die een klant zelf in elkaar zet? En wie draait op voor een agent die data weggooit die niet meer terugkomt?

Deze vragen gaan over bestuur. Bijna niemand kan ze beantwoorden. Hoe snel het misgaat zag je eerder bij een AI-browser die zich liet overtuigen door een spelletje en daarna toegangssleutels weggaf.

Het verschil tussen een laptop en een agent

Een laptop doet niets uit zichzelf. Hij wacht tot een mens erop klikt. Een agent handelt wel. Hij neemt zelf een beslissing, en die beslissing kan verkeerd zijn.

Dat klinkt abstract, dus terug naar het factuur-hulpje. Stel dat het ding op een dag concludeert dat een hele map met stukken “verwerkt en dus overbodig” is, en die opschoont. Wie draait daarvoor op? De medewerker die het bouwde en er niets kwaads mee wilde? De directie die niet wist dat het bestond? De leverancier van de AI? Op dit moment ligt dat nergens vast. De afspraken met je IT-partner gaan over of systemen het doen en hoe snel iemand reageert bij een storing. Over het beoordelingsvermogen van software die zelf handelt staat er niets in.

Zolang dat gat er is, heb je iets dat door je bedrijf loopt terwijl niemand er verantwoordelijk voor is.

Dit regel je vooraf

De meeste verhalen over AI-agents beginnen bij wat er allemaal kan, en schuiven de vraag of het veilig is door naar later. Ik denk dat het andersom moet. Eerst de vraag wie eigenaar is en wat het ding mag raken. Daarna pas aanzetten. Dat geldt net zo goed voor wat je binnen Microsoft Copilot inricht als voor wat iemand zelf in elkaar zet.

Dat klinkt als een rem. Het werkt omgekeerd. Wie vooraf heeft vastgelegd wie welke agent bezit en wat die mag, schaalt straks sneller op dan wie achteraf moet uitzoeken wat er is gebeurd. Vooraf nadenken kost een uur en maakt je snelheid op termijn veilig.

De drie vragen die je over elke agent moet kunnen beantwoorden

Neem een ding uit dit stuk mee. Over elke AI-agent die in je organisatie draait, zou je deze drie vragen moeten kunnen beantwoorden. Lukt dat niet, dan zit er een blinde vlek precies op de plek waar het misgaat.

• Wie is dit? Elke agent heeft een eigenaar nodig. Een mens met een naam, die verantwoordelijk is als het model verandert of de context verschuift.
• Wat mag dit? Bij welke data en welke systemen mag de agent, en waar houdt het op? Een agent met ongelimiteerde rechten is een risico.
• Kunnen we het aantonen? Als er iets misgaat, of als een toezichthouder of klant ernaar vraagt, kun je dan laten zien wat de agent heeft gedaan en dat het binnen de afspraken bleef?

Die drie vragen stellen we al voor elke medewerker en elk apparaat dat we beheren. Voor een agent zijn het dezelfde drie. Ook voor de agents die een klant zelf heeft gebouwd en waar nog niemand een naam aan heeft gehangen. Wie de AI Act serieus neemt, komt er sowieso op uit.

Controle is een keuze

Mitch heeft gelijk dat AI de IT juist groter maakt, met minder mensen achter het toetsenbord. Meer werk levert alleen niet vanzelf meer controle op. Dat die controle er komt, is een keuze. En die keuze maak je aan het begin, voordat de map al leeg is.

De vraag van Hannes blijft dus staan. De organisaties die hem nu stellen, houden bij deze verschuiving hun data en hun geloofwaardigheid overeind. Benieuwd welke agents er bij jou al draaien en wie ervan is? Laten we er eens over praten. Regie voeren over je IT begint bij weten wat er meedraait.