Hoe laat je AI-agents veilig acties uitvoeren?

Wat is een AI-agent die acties uitvoert?

Een AI-agent is een digitale collega die niet alleen antwoord geeft, maar ook iets doet in je systemen: een afspraak inplannen, een ticket aanmaken, een status bijwerken. Het verschil met een gewone chatbot zit in dat laatste woord, doen. Zodra software zelf kan handelen, wordt veiligheid geen bijzaak meer maar de kern. De vraag is niet of de agent slim genoeg is, maar of je precies weet wat hij wel en niet mag, en of je dat kunt terugzien.

Bij ImpliTeam heet die digitale collega De Regelaar. Hij zet een vraag om in een gedane actie, beheerst en met vaste controles. Gebeurt iets buiten de kaders, dan stopt hij en vraagt hij een mens om akkoord.

Waarom is een allow-list de basis van veilige acties?

Een veilige AI-agent kan niet zomaar alles. Hij kan alleen wat jij vooraf hebt toegestaan. Dat is een allow-list: een vaste lijst van precies de acties die deze agent mag uitvoeren, voor deze organisatie, per systeem. Staat een handeling niet op de lijst, dan kan de agent hem domweg niet kiezen. Hij verzint geen nieuwe bevoegdheden en hij gaat niet improviseren.

Dat is bewust het omgekeerde van "alles mag, behalve". Een allow-list begint bij nul en je voegt per stap toe wat je vertrouwt. Zo houd je het overzicht klein en uitlegbaar, ook richting je functionaris gegevensbescherming of een audit. Wil je begrijpen hoe zo'n agent technisch aan je systemen vastzit, lees dan hoe je AI koppelt aan je systemen.

Wanneer vraagt de agent een mens om akkoord?

Niet elke actie is even risicovol. Iets opzoeken (een lees-actie) is onschuldig: de agent haalt informatie op en verandert niets. Iets wijzigen of wegschrijven (een write-actie) ligt anders, want daar verandert de werkelijkheid in je systeem. Daarom hanteert De Regelaar een simpele regel: lees-acties mogen direct, write-acties vragen eerst akkoord van een mens.

In de praktijk betekent dit dat de agent een voorstel maakt ("ik wil deze afspraak verzetten naar dinsdag 10:00, akkoord?") en wacht. Een collega bevestigt of wijst af. Pas na een expliciet "ja" voert de agent uit. Dit is de mens-in-de-lus die je overal in de zorg terugziet, en die De Regelaar tot een veilige workflow-automatisering met AI maakt in plaats van een black box.

Hoe weet je achteraf wat er is gebeurd?

Veilig betekent ook controleerbaar. Elke actie die De Regelaar voorstelt of uitvoert, komt in een logboek: wie heeft akkoord gegeven, welke actie, op welk moment, met welk resultaat. Niets gebeurt ongezien. Mocht er iets misgaan, dan kun je het hele spoor terugvolgen in plaats van te gokken.

Dit sluit aan op wat de Inspectie Gezondheidszorg en Jeugd verwacht. De IGJ riep zorgaanbieders in februari 2025 op om zorgvuldig om te gaan met de invoering van generatieve AI. Zorgvuldigheid is geen knop die je later aanzet, het is hoe je het systeem inricht: begrensd, controleerbaar en met een mens die de eindverantwoordelijkheid houdt.

Hoe past dit binnen de wet?

Onder de EU AI Act geldt sinds februari 2025 een AI-geletterdheidsplicht: medewerkers die met AI werken, moeten begrijpen wat het systeem doet en waar de grenzen liggen. Een agent met een heldere allow-list en zichtbare voorstellen maakt dat haalbaar, omdat collega's precies zien wat er gebeurt. De Autoriteit Persoonsgegevens beschrijft deze verplichtingen rond AI-geletterdheid en transparantie.

Acties uitvoeren in interne systemen is iets anders dan zelfstandig medische beslissingen nemen. De Regelaar doet nadrukkelijk het eerste, en nooit het tweede: geen triage, geen diagnose, geen behandeladvies. Wil je de bredere afweging over verantwoorde invoering en AI-beleid maken, dan denkt Implementa daarin mee.

Waarom dit veilig blijft, ook als je opschaalt

De aanpak schaalt omdat elke nieuwe actie dezelfde poort doorloopt: eerst op de allow-list, lezen mag direct, wijzigen vraagt akkoord, alles in het logboek. Voeg je een koppeling toe, dan groeit de lijst, niet het risico. Het uitgangspunt blijft privacy-first en aantoonbaar binnen de AVG en de EU AI Act. Bekijk hoe De Regelaar zich verhoudt tot de andere digitale collega's op de vergelijking, of lees wat onze belofte van grounded AI precies inhoudt.

Over de auteur

Arjan Woldring is oprichter van Implementa en maker van ImpliTeam. Hij bouwt digitale collega's die binnen vaste kaders werk uit handen nemen, en helpt zorgorganisaties AI verantwoord in te voeren.