Binnenkort treedt de Europese AI-verordening in werking. Deze verordening is een wet die eisen stelt aan de ontwikkeling en het gebruik van artificiële intelligentie (AI) binnen de Europese Unie (EU). De wet treedt begin augustus in werking en daarom is het belangrijk om te begrijpen wat jouw organisatie te wachten staat en hoe je je kunt voorbereiden op de inwerkingtreding.
De AI-verordening gaat voor zowel publieke als private partijen gelden. De wet beschrijft de rechten en plichten van ontwikkelaars en gebruikers van AI-systemen in de hele Europese Unie. Deze regels zorgen ervoor dat alleen betrouwbare AI wordt ontwikkeld en gebruikt, die in lijn is met Europese publieke waarden en fundamentele rechten. De EU wil hiermee het vertrouwen van burgers in AI versterken en zo ruimte maken voor innovatie en economische ontwikkeling. Om dit te garanderen gaat de AI-verordening uit van een risico-gebaseerde benadering, waarbij er per risicocategorie andere regels zullen gelden.
Vanaf de inwerkingtreding van deze nieuwe wet, 1 augustus 2024, gaat de AI-verordening in fasen van kracht, waarbij de meeste verplichtingen binnen een half en drie jaar van kracht gaan. Ook geldt dat de verplichtingen over zes jaar met terugwerkende kracht zullen gelden voor overheidsorganisaties. Hierdoor zullen de veranderingen niet allemaal tegelijk plaatsvinden. Dit geeft organisaties de tijd om zich op de verplichtingen voor te bereiden.
De eerste categorie AI-systemen waarvoor de nieuwe wet zal gelden zijn de verboden AI-systemen. Dit zijn AI-systemen die in strijd zijn met Europese fundamentele normen en waarden. Omdat de risico’s van deze systemen onaanvaardbaar zijn, gaan deze bepalingen zes maanden na inwerkingtreding van kracht. Voorbeelden van verboden praktijken zijn: AI-systemen die menselijk gedrag op een negatieve manier manipuleren en AI-systemen die worden gebruikt voor een oneerlijke beoordeling van natuurlijke personen (zogenoemde social scoring).
Een andere categorie onder de AI-verordening is de categorie hoog-risico AI. Dit zijn systemen die grote kansen en meerwaarde kunnen bieden, maar ook belangrijke risico’s in zich dragen die moeten worden weggenomen. Bijvoorbeeld bij systemen die sollicitaties filteren en analyseren en systemen die overheidsinstanties ondersteunen bij het behandelen van aanvragen voor asiel of verblijfsvergunningen. Deze systemen moeten twee jaar na inwerkingtreding (1 augustus 2026) aan de eisen voldoen. Voor hoog-risico AI-systemen in producten die vallen onder bepaalde EU-wetgevingen (bijvoorbeeld liften) geldt dat je tot 1 augustus 2027 de tijd hebt om te voldoen aan de gestelde eisen. Je hebt nog langer de tijd voor AI-systemen die vóór inwerkingtreding al in gebruik zijn genomen. Voor deze systemen geldt dat zij zes jaar na inwerkingtreding (2030) aan de verplichtingen moeten voldoen.
Concreet betekent het voor jouw organisatie dat je allereerst moet inventariseren of je AI-systemen gebruikt die binnen de categorie verboden praktijken worden ingezet. Wanneer dit het geval is, moeten deze uitgefaseerd worden, vóórdat de verbodsbepalingen van kracht worden. Inventariseer hierna of je AI-systemen gebruikt met een hoog risico en welke eisen hiervoor gaan gelden.
De AI-verordening is een uitgebreide wet met veel verschillende bepalingen en overwegingen. Hoe het zit met de verboden, de verplichtingen en alle nuances kun je binnenkort op Digitaleoverheid.nl lezen. Dit artikel is een eerste in een serie die we de komende weken publiceren over de AI-verordening. Hierin gaan we onder andere dieper in op de risicocategorieën, wat ze inhouden en welke nuances er gelden. Zo lees je in het volgende artikel meer over de verboden categorie. Hierna zullen andere onderwerpen volgen, zoals governance op AI, de registratie van hoog-risico AI-systemen in een databank en toezicht op de verordening.
