Een meerderheid van het Europees Parlement heeft woensdagmiddag ingestemd met de AI Act. De wet stelt regels aan het gebruik van kunstmatige intelligentie om deze technologie op een betrouwbare en verantwoorde manier te laten plaatsvinden. De regels worden fasen ingevoerd.
Dat maakt het Europees Parlement bekend in een persverklaring (1).
Doel van de AI Act is om het gebruik van kunstmatige intelligentie en algoritmes in Europa aan banden te leggen om fundamentele burgerrechten als privacy te waarborgen, en potentiële gevaren en risico’s als discriminatie in te dammen. Om dat te bereiken wordt kunstmatige intelligentie in risiconiveaus opgedeeld.
Toepassingen met een hoog risicoprofiel, zoals slimme camera’s die door gezichten te scannen de gemoedstoestand van mensen kan inschatten en daar een score aan kan toekennen, zijn verboden in de EU. Dat geldt ook voor software die gebruikt kunnen worden om data te scrapen uit openbare bronnen of videobeelden, predictive policing (2)die gebaseerd is op uiterlijke kenmerken en toepassingen die menselijk gedrag manipuleren.
Slimme camera’s in publieke ruimten die gebruikt kunnen worden voor (real-time) biometrische identificatie, zijn in beginsel ook verboden. Tenzij er aanwijzingen zijn dat er een terroristische aanslag gaat plaatsvinden, de techniek gebruikt wordt om slachtoffers van mensenhandel te vinden, of de techniek ingezet wordt bij ernstige misdaden zoals terrorisme, kidnapping, vermissing of seksuele uitbuiting. Tevens worden er strenge regels gesteld aan de tijdspanne en geografisch bereik.
Systemen met een lager risicoprofiel, zoals algoritmes die in staat zijn om cv’s van sollicitanten te analyseren (3), zijn toegestaan. Deze moeten echter wel aan strenge regels voldoen. Zo willen Europese beleidsmakers discriminatie en uitsluiting voorkomen. Omdat wetgeving op het gebied van kunstmatige intelligentie ontbrak, kennen we in Europa doorgaans alleen toepassingen die in een laag risicoprofiel vallen. Denk aan spamfilters die door AI worden aangestuurd.
Burgers die vragen hebben over AI-systemen, hebben recht op tekst en uitleg. Ook mogen ze een klacht indienen als ze menen dat AI-systemen hun rechten schenden. Tot slot verbiedt de AI Act dat AI-modellen het auteursrecht schenden, bijvoorbeeld door zonder toestemming teksten van auteurs te gebruiken om het model te trainen of gedetailleerde samenvattingen te publiceren.
Bedrijven en organisaties die de AI Act overtreden, riskeren hoge boetes. Het boetebedrag kan oplopen tot 35 miljoen euro, of 7 procent van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. De hoogte van de boete hangt af van de ernst van de overtreding.
Een meerderheid van het Europees Parlement stemde woensdag in met de AI Act. Van de 618 Europarlementariërs stemden er 523 vóór, 46 tegen en onthielden 49 leden zich van stemmen. De Italiaanse Europarlementariër Brando Benifi (S&D) was blij met de uitkomst. “Dit is ‘s werelds eerste bindende wet inzake kunstmatige intelligentie, bedoeld om risico’s te verminderen, kansen te creëren, discriminatie te bestrijden en transparantie te brengen (…) We hebben ervoor gezorgd dat de mens en de Europese waarden centraal staan in de ontwikkeling van AI.”
De Roemeense Europarlementariër Dragos Tudorache (Renew) benadrukte dat de AI Act het startpunt is voor ‘een nieuw bestuursmodel’, maar dat er nog veel werk aan de winkel is. “We hebben het concept van kunstmatige intelligentie gekoppeld aan de fundamentele waarden die de basis vormen van onze samenlevingen. Er ligt echter nog veel werk voor ons dat verder gaat dan de AI Act zelf. Kunstmatige intelligentie zal ons dwingen het sociale contract in het hart van onze democratieën, onze onderwijsmodellen, arbeidsmarkten en de manier waarop we oorlog voeren, te heroverwegen. De AI-wet is een startpunt voor een nieuw bestuursmodel rond technologie. We moeten ons nu richten op het in praktijk brengen van deze wet.”
Het duurt nog even voordat de AI Act daadwerkelijk in werking treedt. De wettekst wordt eerst nog voorgelegd aan juristen. Het streven is om de wet vóór het einde van de zittingsperiode van het Europees Parlement definitief vast te stellen. De verkiezingen van het Europees Parlement vinden in juni plaats.
De wetgeving wordt in fases ingevoerd. EU-lidstaten hebben een half jaar de tijd om de regels voor verboden AI-toepassingen te implementeren. De regels voor generatieve AI (GenAI), waaronder transparantie over trainingsdata en naleven van het Europese auteursrecht, treden in 2025 in werking. Deze hebben betrekking op toepassingen als ChatGPT, Midjourney en Dall-E.
De laatste regels moeten in 2026 worden nageleefd. Dan is het voor ontwikkelaars verplicht om mensenrechtentoets uit te voeren om aan te tonen dat hun AI-toepassing voldoet aan universele mensenrechten, zoals non-discriminatie.
(1) https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
(2) https://www.vpngids.nl/nieuws/halsema-top400-is-een-sterk-instrument/
(3) https://www.vpngids.nl/privacy/financieel/solliciteren-privacy-rechten-en-plichten/
