De Rapportage AI- & Algoritmerisico’s Nederland (RAN) gaat in op risico’s bij de inzet van AI en algoritmes. In deze vierde editie gaan we in op overkoepelende ontwikkelingen, grondrechten en publieke waarden, beleid en regelgeving, AI-chatbotapps en AI-geletterdheid.
Door snelle technologische vooruitgang vragen AI en algoritmes onverminderd om aandacht. De technologische ontwikkelingen bieden kansen, maar brengen ook risico’s met zich mee. Dit vraagt soms om nieuwe beheersingsinstrumenten. De drempel om AI te gebruiken wordt steeds lager, ook voor consumenten. De mogelijkheden van nieuwe toepassingen, zoals AI-agents, zorgen voor extra complexiteit. Die maakt beheersing zowel belangrijker als lastiger.
Nederland zet stappen in de goede richting met AI- en algoritmekaders en laat zien zich bewust te zijn van grondrechtenrisico’s. Maar de registratie van AI- en algoritmetoepassingen is nog onvoldoende, waardoor adequaat zicht op risicovolle toepassingen en incidenten nog steeds ontbreekt.
De Nederlandse koers zoekt een evenwicht tussen het ondersteunen van deze nieuwe technologie, bijvoorbeeld via AI-testomgevingen, en het waarborgen van grondrechten, bijvoorbeeld door het implementeren van risicogebaseerde regelgeving (de AI-verordening).
AI- en algoritmekaders die nu worden vastgesteld, bieden een nuttige concretisering. Technologische innovatie blijft continu vragen om nieuwe stappen in het begrip van AI en algoritmes en de beheersbaarheid ervan. Ook moet de grip op incidenten verbeteren.
Lees verder: AP: AI-chatbotapps voor vriendschap en mentale gezondheid ongenuanceerd en schadelijk
