Op 2 februari 2025 worden de eerste verplichtingen uit de Europese AI-verordening van kracht. Gemeenten moeten dan voldoen aan algemene bepalingen, verbodsbepalingen en verplichtingen rondom AI-geletterdheid. Met een uitvoeringsanalyse onderzoekt de VNG wat de impact op de gemeentelijke uitvoering wordt.
Met de AI-verordening wil de Europese Unie kunstmatige intelligentie (AI) veilig en transparant maken, en in lijn met fundamentele rechten en Europese waarden brengen. Hiervoor zijn regels opgesteld die zorgen voor een uniform kader voor alle EU-Lidstaten. De eerste verplichtingen gaan op 2 februari 2025 in. Voor de verplichtingen die specifiek gelden voor hoog risico AI-systemen hebben gemeenten meer voorbereidingstijd. Deze zijn op 2 augustus 2026 van kracht.
De AI-verordening heeft impact op gemeenten. Door de onderstaande 4 vragen te beantwoorden, kunnen gemeenten bepalen welke verplichtingen uit de AI-verordening op hun gemeente van toepassing zijn.
Is het systeem dat we gebruiken een AI-systeem volgens de definitie in de verordening?
In welke risicocategorie valt dit AI-systeem?
Zijn wij als gemeente de aanbieder of de gebruiksverantwoordelijke?
Welke verplichtingen gelden op basis daarvan?
De impact van de verordening is afhankelijk van de rol die een gemeente vervult. Voor aanbieders gelden andere (zwaardere) verplichtingen dan voor een gebruiksverantwoordelijke van een AI-systeem. Gemeenten krijgen vanuit de rol van gebruiksverantwoordelijke te maken met nieuwe werkzaamheden zoals: het inregelen van de AI-compliance, het inventariseren van AI-systemen en het organiseren van AI-geletterdheid en menselijk toezicht.
Daarnaast brengt de AI-verordening specifieke verplichtingen met zich mee, zoals het gebruik van nieuwe instrumenten (bijvoorbeeld beoordelen grondrechten en de EU-databank) en een aangescherpt risicobeheer bij hoog risico AI-systemen.
Gemeenten zijn nog niet voldoende toegerust om aan de verplichtingen uit de AI-verordening te voldoen. Zo staat bewustwording van de mogelijkheden en van de risico’s van AI nog aan het begin en zijn gemeenten voor de inventarisatie van AI-systemen afhankelijk van softwareleveranciers. Ook is er sprake van een grote mate van afhankelijkheid van aanbieders van de AI-systemen om te kunnen voldoen aan de verplichtingen als gebruiksverantwoordelijke. Het is belangrijk dat het bewustzijn rondom AI binnen gemeenten het komende jaar gaat toenemen. In dit rapport zijn gewenste vervolgacties opgenomen en staat beschreven wat gemeenten nu kunnen doen in de voorbereiding.
Dit is het 3e rapport van de uitvoeringsanalyse Digital Decade. Met deze uitvoeringsanalyse maakt de VNG inzichtelijk wat de impact van Europese wet -en regelgeving op de gemeentelijke uitvoering wordt. De onderzoeken richten zich op samenhang tussen de verschillende wetten. Eventuele problemen in de uitvoering kunnen zo vroegtijdig worden gesignaleerd en teruggekoppeld aan het rijk. Zo borgen we de uitvoerbaarheid bij de vertaling van EU-wetgeving naar nationale regelgeving en werken we toe naar aanbevelingen voor een integrale implementatie van Digital Decade wetgeving.
