De opkomst van AI: biedt het kansen of zorgt het juist voor gevaar?

AI biedt veel mogelijkheden en kansen voor innovatie en de verwachte maatschappelijke impact van AI is groot. Steeds meer organisaties gebruiken AI om (big) data op slimme wijze te analyseren. Deze innovatie kan op gespannen voet staan met De Algemene Verordening Gegevensbescherming (hierna: AVG) die strenge eisen stelt aan de verwerking van persoonsgegevens, en de uitlegbaarheid en transparantie van de gebruikte algoritmes. Echter, de toepassing en handhaving van de AVG en andere privacyrichtlijnen lopen vaak achter op de huidige en toekomstige toepassingen van AI.

AI zorgt tegelijkertijd voor nieuwe ethische dilemma’s. Grote technologiebedrijven gebruiken algoritmen die eenzijdige informatie creëren en profileren, en die ontwrichtend kunnen zijn voor de maatschappij. Om AI toe te kunnen passen om (maatschappelijke) toegevoegde waarde te creëren en tegelijkertijd de privacy en grondrechten van betrokkenen te beschermen, is een zorgvuldige afweging over ethische normen en voorschriften noodzakelijk.

De Europese Commissie en AI

Sinds een aantal jaar bevordert en versterkt de Europese Commissie (hierna: EC) de samenwerking op het gebied van AI, met als doel het vertrouwen in AI te waarborgen en de concurrentiepositie te verbeteren. In juni 2018 heeft de EC een AI-strategie gepresenteerd om van de Europese Unie (EU) een ‘hub van wereldklasse voor AI’ te maken en tegelijkertijd voor ‘betrouwbare en mensgerichte AI te zorgen’.(1)

In december 2018 werd het eerste gecoördineerde plan inzake AI gepubliceerd, dat een gezamenlijke verbintenis van de Europese Commissie en de lidstaten vormt.(2) Ondersteund aan haar visie van ‘ethische, veilige en geavanceerde AI in Europa’, presenteerde de EC in 2019 de ethische richtsnoeren voor betrouwbare AI.

In februari 2020 werd het Witboek van de EC over AI gepubliceerd.(3) Het witboek schetst een visie op AI in de EU: een ‘ecosysteem van excellentie en vertrouwen’. In het witboek werd al ingegaan op de werkingssfeer van een eventueel toekomstig Europees regelgevend kader voor AI.(4)

In april 2021 presenteerde de EC een nieuw regelgevend kader om AI-technologie te reguleren . Daarnaast heeft de EC een nieuw gecoördineerd plan en communicatie ter bevordering van een Europese benadering van AI gepubliceerd.(5) De voorstellen moeten het vertrouwen in de mogelijkheden van AI vergroten, innovatie in de hele EU versterken, en tegelijkertijd de veiligheid en de grondrechten van mensen en bedrijven, evenals het draagvlak, waarborgen. Deze verordening heeft een op risico gebaseerde aanpak: hoe meer risico de technologie met zich, meebrengt, hoe strikter de regels die ervoor gelden.

Het Europees Parlement en de lidstaten behandelen de voorstellen van de EC via de gewone wetgevingsprocedure. Zodra de verordeningen zijn vastgesteld, worden zij rechtstreeks van toepassing in de hele EU.(6)

De Europese Commissie heeft in juni 2022 nieuwe richtlijnen geïntroduceerd om deepfakes te bestrijden en desinformatie tegen te gaan, waarbij grote techbedrijven verplicht worden maatregelen te nemen om manipulatief gedrag aan te pakken.(7) Het auteursrecht blijft relevant in het AI-tijdperk, waarbij de opdrachtgever van AI mogelijk rechthebbende kan zijn wanneer AI in opdracht handelt.

ChatGPT

ChatGPT maakte zijn intrede in november 2022, gebracht door het vooraanstaande bedrijf OpenAI. Het ontving onmiddellijk lof voor zijn indringende replieken en uitgesproken retoriek, alhoewel sommige sceptici twijfelen aan de absolute nauwkeurigheid van zijn informatie. Zie ook de E-college over AI/ChatGTP.

De Autoriteit Persoonsgegevens (hierna: AP) heeft OpenAI, de ontwikkelaar van chatbot ChatGPT, om opheldering gevraagd over de omgang met persoonsgegevens.(8) De AP is bezorgd over het gebruik van persoonsgegevens tijdens het trainen van het systeem en wil weten hoe OpenAI hiermee omgaat. Ook maakt de AP zich zorgen over de gegenereerde inhoud en de mogelijkheid tot rectificatie of verwijdering van deze gegevens.

EU AI Act: eerste verordening inzake kunstmatige intelligentie

In mei 2023 heeft het Europees Parlement met een overweldigende meerderheid gestemd voor de aanstaande AI Act, die naar verwachting begin 2024 definitief zal worden ingevoerd. Het doel van deze wet is om kunstmatige intelligentie op een verantwoorde manier in Europa te reguleren. De AI Act vereist dat AI-systemen worden getoetst op mogelijke schendingen van mensenrechten en verbiedt discriminatie door algoritmes. Europa wil hiermee voorop lopen in het waarborgen van de belangen van mensen en het veilige gebruik van AI.(9)

In juni 2023 heeft het Europees Parlement ingestemd met de nieuwe AI Act, waardoor onderhandelingen met de Raad van de EU zullen plaatsvinden om de definitieve tekst vast te stellen. Hoewel AI-systemen in diverse sectoren worden gebruikt, brengen ze ook nieuwe risico’s met zich mee, zoals vooringenomenheid, schending van privacy en aantasting van individuele autonomie.(10) De AI Act heeft als doel om verantwoorde en ethische ontwikkeling en toepassing van AI te waarborgen. Belangrijke uitgangspunten zijn verantwoordelijkheid, transparantie, privacybescherming en menselijke controle. De wet classificeert AI-systemen op basis van risico’s en legt verplichtingen op voor elk risiconiveau.

Wetgevers van de Europese Unie hebben in december 2023 een politiek akkoord bereikt over de ontwerptekst van de AI Act. Het voorlopige akkoord is goedgekeurd door het Comité van permanente vertegenwoordigers van de EU-lidstaten en door de twee belangrijkste commissies van het Parlement. De plenaire stemming van het Parlement over de definitieve overeenkomst is gepland voor de plenaire vergadering van maart 2024. De AI Act moet nog worden goedgekeurd door de Raad en worden gepubliceerd in het Publicatieblad van de EU voordat hij in werking kan treden.(11)

De overeengekomen tekst zal naar verwachting in april 2024 definitief worden aangenomen. De tekst zal 24 maanden na de inwerkingtreding volledig van toepassing zijn, maar sommige delen zullen eerder van toepassing zijn:

• •Het verbod op AI-systemen die onaanvaardbare risico’s opleveren wordt zes maanden na de inwerkingtreding van toepassing.

• •De gedragscodes worden negen maanden na de inwerkingtreding van kracht

• •De regels voor AI-systemen voor algemene doeleinden die aan de transparantievereisten moeten voldoen, worden twaalf maanden na de inwerkingtreding van kracht.

Systemen met een hoog risico krijgen meer tijd om aan de eisen te voldoen, aangezien de verplichtingen voor hen 36 maanden na de inwerkingtreding van toepassing worden.(12)

Verder leren

Cursus Introductie in AI

Cursus AI en ChatGPT vanuit juridisch perspectief

Voetnoten

1. (1)https://ec.europa.eu/transparency/documents-register/detail?ref=COM(2018)237&lang=en

2. (2)https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018aideclarationatdigitaldaydocxpdf.pdf

3. (3)https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018aideclarationatdigitaldaydocxpdf.pdf

4. (4)https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf

5. (5)https://privacy-web.nl/wp-content/uploads/po_assets/559829.pdf

6. (6)https://privacy-web.nl/nieuws/europese-commissie-publiceert-officieel-voorstel-voor-ai-verordening/

7. (7)https://privacy-web.nl/nieuws/eu-introduceert-nieuwe-richtlijnen-om-deepfakes-te-bestrijden/

8. (8)https://privacy-web.nl/nieuws/ap-vraagt-om-opheldering-over-chatgpt/

9. (9)https://privacy-web.nl/nieuws/grote-meerderheid-voor-ai-wet-in-europees-parlement/

10. (10)https://privacy-web.nl/nieuws/de-nieuwe-ai-act-op-hoofdlijnen/

11. (11)https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792
12. (12)https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence