Hoe kies je een AI-chatbot voor je zorgorganisatie?

Wat is een goede AI-chatbot voor de zorg?

Een goede AI-chatbot voor de zorg beantwoordt vragen alleen uit jouw goedgekeurde bronnen, toont bij elk antwoord waar het vandaan komt, en verwijst door naar een mens zodra het om zorginhoud gaat. Dat heet grounded werken. Het verschil met een algemene chatbot zit niet in hoe vlot hij praat, maar in wat hij weigert te doen: niets verzinnen, geen zorgvragen beoordelen, geen data buiten Europa sturen. Voor een zorgorganisatie is dat geen extra wens maar de basis waarop de rest rust.

Deze keuzegids loopt zeven criteria langs in de vorm van een checklist. Je kunt elk punt als ja/nee-vraag stellen aan een leverancier. Als één van de zeven een twijfelachtig antwoord oplevert, weet je waar je doorvraagt.

1. Is de chatbot grounded en toont hij de bron?

Het belangrijkste criterium is of de chatbot uitsluitend antwoordt uit bronnen die jij hebt goedgekeurd, en die bron bij elk antwoord laat zien. Een grounded chatbot zoekt eerst in jouw protocollen, folders en pagina's en formuleert pas daarna een antwoord. Vindt hij niets, dan zegt hij dat eerlijk in plaats van iets aannemelijks te verzinnen. Vraag een leverancier concreet: waar komt dit antwoord vandaan, en kan een medewerker dat in één klik nalezen? Zonder zichtbare bron kun je een antwoord niet controleren, en in de zorg is een oncontroleerbaar antwoord een risico. Lees hoe grounded AI dit afdwingt en waarom dat zo verschilt van een open chatbot.

2. Blijft de data binnen de EU en voldoet hij aan de AVG?

Controleer waar gesprekken en documenten worden verwerkt en opgeslagen, want patiënt- en cliëntgegevens horen onder de AVG binnen de EU te blijven. Vraag naar de locatie van de servers, naar het taalmodel dat antwoorden genereert en of er een verwerkersovereenkomst is. Een chatbot die handig is maar gegevens naar een Amerikaanse dienst stuurt, zet je organisatie voor een keuze die je niet wilt maken. De Inspectie Gezondheidszorg en Jeugd riep zorgaanbieders in februari 2025 op zorgvuldig om te gaan met de invoering van generatieve AI, en privacy is daar een kern van. Zet dit dus hoog op je lijst.

3. Doet hij géén triage, diagnose of behandeladvies?

Een veilige zorg-chatbot beoordeelt geen klachten en geeft geen medisch advies, ook niet als een bezoeker daar expliciet om vraagt. Dat is een harde grens, geen instelling die je per ongeluk kunt uitzetten. Test het tijdens een demo: stel een klachtvraag ("ik heb sinds gisteren pijn op de borst, wat moet ik doen?") en kijk wat er gebeurt. Een goede chatbot beoordeelt niets, maar verwijst naar de huisarts, de praktijk of bij spoed naar 112. Doet hij wel een poging tot inschatting, dan is hij niet geschikt voor de zorg. Deze grens beschermt zowel je cliënt als je organisatie.

4. Hoe werkt het bronbeheer?

Kijk goed naar wie de bronnen beheert en hoe snel een verouderd document eruit gaat, want de chatbot is precies zo actueel als zijn bronnen. Vraag: kan een medewerker zonder technische kennis een protocol toevoegen of intrekken? Wat gebeurt er met oude versies? Kun je losse kennisbanken maken per afdeling of doelgroep? Goed bronbeheer betekent dat de mensen die de inhoud kennen ook de inhoud sturen, zonder een ontwikkelaar nodig te hebben. Voor een interne chatbot op je eigen protocollen is dit het verschil tussen een levend hulpmiddel en een verouderd archief. Zie hoe je werkt met je eigen protocollen.

5. Is er menselijke controle ingebouwd?

Een verantwoorde chatbot houdt een mens in de lus en maakt overdracht naar een collega makkelijk. Dat betekent: de bot verwijst zichtbaar door, een medewerker kan meekijken wat er gevraagd is, en je ziet welke vragen vaak terugkomen zonder goed antwoord. Die laatste lijst is goud waard, want hij vertelt je waar je kennisbank een gat heeft. Vraag of je inzicht krijgt in gesprekken en feedback, en of je kunt bijsturen op toon en gedrag. Menselijke controle is geen vangnet voor als het misgaat, maar een vast onderdeel van hoe een goede zorg-chatbot werkt.

6. Krijg je begeleide invoering?

Vraag of de leverancier helpt bij het inrichten, of dat je het zelf maar moet uitzoeken. De EU AI Act verplicht organisaties sinds februari 2025 om te zorgen voor voldoende AI-geletterdheid bij medewerkers (art. 4), en dat lukt zelden zonder begeleiding. Een goede invoering bestaat uit het samen kiezen van de eerste bronnen, het testen van veelgestelde vragen, en uitleg aan het team over wat de chatbot wel en niet doet. Wees alert op overdreven beloften zoals "in minuten live": een chatbot die op echte zorginhoud antwoordt, heeft zorgvuldige inrichting nodig. Vergelijk dit gerust met zelf bouwen, waar je die begeleiding volledig zelf moet organiseren.

7. Voldoet hij aan de transparantieplicht?

De chatbot moet aan elke gebruiker duidelijk maken dat hij met een AI praat, want dat is sinds 2025 verplicht onder artikel 50 van de EU AI Act. In de praktijk betekent dit een zichtbare melding bij de start van een gesprek en een duidelijke afzender. Vraag de leverancier hoe dat is opgelost en of het aanpasbaar is aan jouw huisstijl zonder de melding te verbergen. Transparantie is niet alleen een wettelijke plicht, het bouwt ook vertrouwen: een bezoeker die weet dat hij met een digitale collega praat, weegt het antwoord op de juiste manier.

De checklist samengevat

Loop de zeven vragen langs en je hebt een eerlijk beeld: grounded met zichtbare bron, data binnen de EU, geen triage, helder bronbeheer, menselijke controle, begeleide invoering en de transparantieplicht. Wil je verder vergelijken tussen opties en sectoren, kijk dan op de vergelijkingspagina en de oplossingen voor de zorg. De juiste keuze is niet de slimste bot, maar de bot die binnen de grenzen blijft die jouw werk vraagt.

Over de auteur

Arjan Woldring is oprichter van Implementa en bouwt met ImpliTeam digitale collega's voor de zorg: AI die werk uit handen neemt binnen heldere, verantwoorde grenzen. ImpliTeam is een product van Implementa.