De EU wil wereldleider worden op het gebied van Artificiële Intelligentie (AI). De Europese Commissie publiceerde een voorstel voor de AI-verordening om burgers te beschermen en innovatie te stimuleren. De VNG zocht uit wat dit voor gemeenten betekent en komt met aandachtspunten en aanbevelingen.
Inhoudelijk werkt de verordening met een risicobenadering die strengere eisen voorschrijft voor hoogrisicosystemen zoals uitkeringen, kritische infrastructuur of identificatie. De VNG is overwegend positief over de verordening. De risicobenadering en de uniforme kaders zorgen ervoor dat de verordening doet wat ze moet doen, namelijk burgers beschermen en innovatie bevorderen.
Wel hebben we enkele generieke aandachtspunten en concrete aanbevelingen met betrekkingen tot de uitvoerbaarheid van de wet.
Publieke waarden moeten voorop staan bij de ontwikkeling en inzet van AI, en deze moeten gediend worden door de AI-verordening.
Innovatie is geen doel op zich; het mag nooit belangrijker zijn dan waarden en mensenrechten.
De fundamentele constitutionele beginselen van de rechtsstaat moeten gewaarborgd blijven.
De definitie van het begrip AI moet niet zodanig vernauwd worden dat zaken zoals de toeslagenaffaire hier niet meer onder vallen.
De VNG verzoekt de Europese Commissie met klem om meer duidelijkheid over de rolverdeling tussen leveranciers en gebruikers van AI-technologie, in lijn met de geest van de wet dat ‘de ontwikkelaar betaalt’.
De VNG vraagt de Europese Commissie om erop te letten dat de administratieve lasten voor gemeenten in verhouding staan tot het doel van de AI-verordening, de bescherming van publieke waarden, en waar nodig ondersteuning te bieden.
Ten slotte roept de VNG de Europese Commissie op om met urgentie het perspectief van uitvoerbaarheid mee te nemen, en hierin de samenwerking te zoeken met gemeenten en andere uitvoerders.
Als u aan de slag gaat met algoritmen is het verstandig om duidelijk onderscheid te maken tussen het zelf ontwikkelen van algoritmen of het inkopen van een kant-en-klaarproduct en hier heel bewuste keuzes in te maken. Wanneer u een product inkoopt is het belangrijk te waken op de rolverdeling, zodat de gemeente niet onbedoeld in de rol van ‘leverancier’ komt en opgezadeld wordt met administratieve lasten die eigenlijk bij de productontwikkelaar horen.
De VNG ondersteunt gemeenten daarbij met de ontwikkeling van onder andere inkoop- en kwaliteitsvoorwaarden en informatiemodellen en standaarden, om leveranciers duidelijkheid te bieden over de eisen die zij stellen qua veiligheid, publieke waarden en mensenrechten.
