AP waarschuwt: chatbots geven vertekend stemadvies

De AP vergeleek 4 bekende chatbots met de online stemhulpen Kieskompas en StemWijzer. Uit het onderzoek blijkt dat de chatbots opvallend vaak op dezelfde 2 partijen uitkomen, ongeacht de vraag of opdracht van de gebruiker. In ruim 56% van de gevallen staat de PVV of GroenLinks-PvdA bovenaan. Bij één chatbot is dat zelfs in meer dan 80% van de gevallen zo.

Andere partijen, zoals D66, SP, VVD of PvdD, komen veel minder vaak als eerste keuze naar voren. Sommige partijen, zoals BBB, CDA, SGP of DENK, zelfs bijna nooit. Ook niet wanneer de input van de gebruiker precies overeenkomt met de standpunten van een van deze partijen.

Kiezers worden ongemerkt gestuurd

Monique Verdier, vicevoorzitter van de AP: ‘Chatbots lijken slimme hulpjes, maar als stemhulp slaan ze stelselmatig de plank mis. Hierdoor krijgen kiezers mogelijk – zonder het te weten – het advies om op een partij te stemmen die niet het beste bij hun voorkeuren past. Dat raakt direct een hoeksteen van de democratie: de integriteit van vrije en eerlijke verkiezingen. Wij waarschuwen daarom om AI-chatbots niet te gebruiken voor stemadvies, omdat de werking ervan niet helder en controleerbaar is. En wij roepen aanbieders van chatbots op te voorkomen dat hun systemen voor stemadvies kunnen worden gebruikt.’

Chatbots doen zich voor als neutraal, maar zijn dat niet

Volgens de AP laten de resultaten zien dat chatbots niet neutraal functioneren in vergelijking met traditionele stemhulpen, zoals Kieskompas en StemWijzer. Chatbots zijn niet ontwikkeld als stemhulp. Hun adviezen zijn gebaseerd op niet-verifieerbare data waarmee ze zijn getraind en informatie van het internet, die fout of verouderd kan zijn. Daardoor kunnen chatbots een vertekend beeld geven van het politieke landschap en kiezers beïnvloeden met onjuiste informatie.

Kieskompas en StemWijzer geven geen stemadvies. Ze bieden informatie over waar politieke partijen staan ten opzichte van elkaar en welke partijen het beste passen bij de voorkeuren van de gebruiker. Die informatie volgt uit een evenwichtige analyse en transparante, controleerbare interpretatie van standpunten en verkiezingsprogramma’s.

Toezicht op gebruik AI bij verkiezingen

De AP benadrukt dat de gesignaleerde tekortkomingen een gevolg zijn van de manier waarop AI-chatbots werken. Chatbots kunnen verkiezingsinformatie laagdrempeliger maken, maar zijn op dit moment niet geschikt als stemhulp.

Volgens de AP zouden AI-systemen die stemadvies geven, moeten gaan voldoen aan de strenge eisen die de AI-verordening stelt aan hoogrisicosystemen, bijvoorbeeld om accuraatheid en consistentie te waarborgen.

Met dit onderzoek wil de AP vroegtijdig trends signaleren rond transparantie, uitlegbaarheid en het voorkomen van willekeur bij de inzet van AI.