Bedrijven zijn vaak niet duidelijk over het gebruik van AI in hun klantenservice chatbot. Van honderd onderzochte bedrijven melden er slechts veertien duidelijk dat zij AI gebruiken, blijkt uit nieuw onderzoek van de Consumentenbond. Sinds 2 augustus gelden juist nieuwe transparantieverplichtingen uit de AI Act. Ook informatie over het gebruik van persoonsgegevens in chatgesprekken ontbreekt regelmatig.
De Consumentenbond onderzocht de klantenservice van honderd bedrijven, waaronder webwinkels, banken, energiebedrijven, verzekeraars, reisorganisaties en telecomproviders. Daarnaast werden ruim 10.000 panelleden gevraagd naar hun ervaringen met chatbots. De resultaten zijn op 26 augustus gepubliceerd.
De Consumentenbond onderzocht de klantenservice van honderd bedrijven, waaronder webwinkels, banken, energiebedrijven, verzekeraars, reisorganisaties en telecomproviders. Daarnaast werden ruim 10.000 panelleden gevraagd naar hun ervaringen met chatbots. De resultaten zijn op 26 augustus gepubliceerd.
Hoewel de meeste onderzochte bedrijven aan het begin van een gesprek aangeven dat iemand met een chatbot communiceert, blijft vaak onduidelijk welke technologie daarachter zit. Slechts veertien van de honderd bedrijven melden volgens de Consumentenbond duidelijk dat zij AI gebruiken. Nog minder bedrijven, zeven, waarschuwen gebruikers dat antwoorden van de chatbot fouten kunnen bevatten.
Die uitkomst is opvallend omdat sinds 2 augustus 2026 de transparantieverplichtingen uit artikel 50 van de AI Act gelden.
Aanbieders moeten AI-systemen die bedoeld zijn om rechtstreeks met mensen te communiceren zo ontwerpen dat gebruikers worden geïnformeerd dat zij met een AI-systeem te maken hebben. Een uitzondering geldt wanneer dit voor een redelijk geïnformeerde, oplettende en omzichtige gebruiker al duidelijk is uit de omstandigheden en de context. De informatie moet uiterlijk bij de eerste interactie duidelijk en toegankelijk worden verstrekt.
De Europese Commissie benadrukte bij de start van de handhaving eveneens dat chatbots en andere interactieve AI-systemen gebruikers duidelijk moeten maken dat zij met AI en niet met een mens communiceren.
Uit het onderzoek kan echter niet worden geconcludeerd dat 86 van de honderd bedrijven de AI Act overtreden. De Consumentenbond heeft geen juridische compliance-audit uitgevoerd en niet iedere chatbot hoeft noodzakelijkerwijs een AI-systeem in de zin van de AI Act te zijn. Ook kan de uitzondering voor situaties waarin het AI-karakter evident is een rol spelen.
Wel maakt het onderzoek zichtbaar dat er kort na het ingaan van de nieuwe regels een kloof bestaat tussen algemene transparantie over het gebruik van een chatbot en expliciete informatie over de inzet van AI.
Voor privacy professionals bevat het onderzoek een tweede aandachtspunt. Volgens de Consumentenbond waarschuwen de meeste chatbots gebruikers niet dat zij beter geen persoonlijke gegevens kunnen delen. Ook ontbreekt vaak informatie over wat er met gegevens uit het gesprek gebeurt en met wie die gegevens worden gedeeld.
Dat is relevant omdat gebruikers tijdens een klantenservicegesprek bijvoorbeeld een klantnummer, adresgegevens, financiële informatie of andere persoonlijke omstandigheden kunnen invoeren. Afhankelijk van de inrichting kunnen die gegevens vervolgens door verschillende systemen en leveranciers worden verwerkt.
De Autoriteit Persoonsgegevens (AP) en Autoriteit Consument & Markt (ACM) wezen eerder al op dat risico. Volgens de toezichthouders kunnen gebruikers gevoelige gegevens met een chatbot delen zonder goed te weten wat daarmee gebeurt. Transparantie en dataveiligheid behoren daarom tot de onderwerpen die zij meenemen in een gezamenlijke leidraad voor verantwoord gebruik van chatbots.
Ook de vormgeving van chatbots kan volgens de Consumentenbond voor onduidelijkheid zorgen. Sommige chatbots krijgen menselijke namen of gebruiken animaties die suggereren dat iemand aan het typen of nadenken is. Bij één op de tien ondervraagde gebruikers werd pas tijdens het gesprek duidelijk dat zij met een virtuele medewerker communiceerden.
Daarnaast blijkt de praktische dienstverlening vaak gebrekkig: 71,2 procent van de ondervraagde chatbotgebruikers kreeg naar eigen zeggen geen antwoord of hulp en 17,7 procent slechts gedeeltelijk. Bij 34 van de honderd onderzochte bedrijven was vooraf bovendien niet zichtbaar dat vanuit de chatbot contact met een medewerker mogelijk was.
AP en ACM werken momenteel gezamenlijk aan een leidraad voor verantwoord gebruik van chatbots in klantenservice en contact met burgers. Daarbij kijken de toezichthouders niet alleen naar bedrijven, maar ook naar overheidsorganisaties die chatbots inzetten.
De leidraad moet praktische vuistregels bevatten rond onder meer transparantie, betrouwbaarheid van antwoorden, toegankelijkheid, menselijk contact en dataveiligheid. Volgens de Consumentenbond wordt de leidraad dit najaar verwacht.
Daarmee wordt de inrichting van chatbots steeds nadrukkelijker een compliancevraagstuk. De AI Act stelt inmiddels expliciete eisen aan de herkenbaarheid van AI-interactie, terwijl de AVG van toepassing blijft op de verwerking van persoonsgegevens.
Voor organisaties die een AI-chatbot gebruiken is daarom niet alleen relevant wat de chatbot kan, maar ook wat een gebruiker bij het openen van het gesprek te zien krijgt: is duidelijk dat AI wordt gebruikt, welke persoonsgegevens worden verwerkt en hoe iemand een menselijke medewerker kan bereiken?
