Artificial Intelligence (AI)

AI biedt veel mogelijkheden en kansen voor innovatie en de verwachte maatschappelijke impact van AI is groot. Deze innovatie kan op gespannen voet staan met de AVG, die strenge eisen stelt aan de verwerking van persoonsgegevens.

In onze huidige informatiemaatschappij speelt kunstmatige intelligentie (Artificial Intelligence, hierna: AI) een belangrijke rol. AI is een verzamelnaam voor machines, software en apparaten die zelfstandig complexe taken kunnen uitvoeren, zonder dat daar menselijk denkvermogen aan te pas hoeft te komen. Applicaties bootsen de kennis van het menselijk brein na om zelfstandig beslissingen te nemen. Deze zelflerende systemen worden in tal van sectoren gebruikt, van het bedrijfsleven en overheden tot gezondheidszorg en de rechterlijke macht.

AI biedt veel mogelijkheden en kansen voor innovatie en de verwachte maatschappelijke impact van AI is groot. Steeds meer organisaties gebruiken AI om (big) data op slimme wijze te analyseren. Deze innovatie kan op gespannen voet staan met De Algemene Verordening Gegevensbescherming (AVG) die strenge eisen stelt aan de verwerking van persoonsgegevens, en de uitlegbaarheid en transparantie van de gebruikte algoritmes. Echter, de toepassing en handhaving van de AVG en andere privacyrichtlijnen lopen vaak achter op de huidige en toekomstige toepassingen van AI.

AI zorgt tegelijkertijd voor nieuwe ethische dilemma’s. Grote technologiebedrijven gebruiken algoritmen die eenzijdige informatie creëren en profileren, en die ontwrichtend kunnen zijn voor de maatschappij. Om AI toe te kunnen passen om (maatschappelijke) toegevoegde waarde te creëren en tegelijkertijd de privacy en grondrechten van betrokkenen te beschermen, is een zorgvuldige afweging over ethische normen en voorschriften noodzakelijk.

Sinds een aantal jaar bevordert en versterkt de Europese Commissie (EC) de samenwerking op het gebied van AI, met als doel het vertrouwen in AI te waarborgen en de concurrentiepositie te verbeteren. In juni 2018 heeft de EC een AI-strategie gepresenteerd om van de Europese Unie (EU) een ‘hub van wereldklasse voor AI’ te maken en tegelijkertijd voor ‘betrouwbare en mensgerichte AI te zorgen’.(1)

In december 2018 werd het eerste gecoördineerde plan inzake AI gepubliceerd, dat een gezamenlijke verbintenis van de Europese Commissie en de lidstaten vormt.(2) Ondersteund aan haar visie van ‘ethische, veilige en geavanceerde AI in Europa’, presenteerde de EC in 2019 de ethische richtsnoeren voor betrouwbare AI.

In februari 2020 werd het Witboek van de EC over AI gepubliceerd.(3) Het witboek schetst een visie op AI in de EU: een ‘ecosysteem van excellentie en vertrouwen’. In het witboek werd al ingegaan op de werkingssfeer van een eventueel toekomstig Europees regelgevend kader voor AI.(4)

In april 2021 presenteerde de EC een nieuw regelgevend kader om AI-technologie te reguleren . Daarnaast heeft de EC een nieuw gecoördineerd plan en communicatie ter bevordering van een Europese benadering van AI gepubliceerd.(5) De voorstellen moeten het vertrouwen in de mogelijkheden van AI vergroten, innovatie in de hele EU versterken, en tegelijkertijd de veiligheid en de grondrechten van mensen en bedrijven, evenals het draagvlak, waarborgen. Deze verordening heeft een op risico gebaseerde aanpak: hoe meer risico de technologie met zich, meebrengt, hoe strikter de regels die ervoor gelden.

Het Europees Parlement en de lidstaten behandelen de voorstellen van de EC via de gewone wetgevingsprocedure. Zodra de verordeningen zijn vastgesteld, worden zij rechtstreeks van toepassing in de hele EU.(6)

De Europese Commissie heeft in juni 2022 nieuwe richtlijnen geïntroduceerd om deepfakes te bestrijden en desinformatie tegen te gaan, waarbij grote techbedrijven verplicht worden maatregelen te nemen om manipulatief gedrag aan te pakken.(7) Het auteursrecht blijft relevant in het AI-tijdperk, waarbij de opdrachtgever van AI mogelijk rechthebbende kan zijn wanneer AI in opdracht handelt.

ChatGPT maakte zijn intrede in november 2022, gebracht door het vooraanstaande bedrijf OpenAI. Het ontving onmiddellijk lof voor zijn indringende replieken en uitgesproken retoriek, alhoewel sommige sceptici twijfelen aan de absolute nauwkeurigheid van zijn informatie. Zie ook de E-college over AI/ChatGTP.

De Autoriteit Persoonsgegevens (AP) heeft OpenAI, de ontwikkelaar van chatbot ChatGPT, om opheldering gevraagd over de omgang met persoonsgegevens.(8) De AP is bezorgd over het gebruik van persoonsgegevens tijdens het trainen van het systeem en wil weten hoe OpenAI hiermee omgaat. Ook maakt de AP zich zorgen over de gegenereerde inhoud en de mogelijkheid tot rectificatie of verwijdering van deze gegevens.

In mei 2023 heeft het Europees Parlement met een overweldigende meerderheid gestemd voor de aanstaande AI Act, die naar verwachting begin 2024 definitief zal worden ingevoerd. Het doel van deze wet is om kunstmatige intelligentie op een verantwoorde manier in Europa te reguleren. De AI Act vereist dat AI-systemen worden getoetst op mogelijke schendingen van mensenrechten en verbiedt discriminatie door algoritmes. Europa wil hiermee voorop lopen in het waarborgen van de belangen van mensen en het veilige gebruik van AI.(9)

In juni 2023 heeft het Europees Parlement ingestemd met de nieuwe AI Act, waardoor onderhandelingen met de Raad van de EU zullen plaatsvinden om de definitieve tekst vast te stellen. Hoewel AI-systemen in diverse sectoren worden gebruikt, brengen ze ook nieuwe risico’s met zich mee, zoals vooringenomenheid, schending van privacy en aantasting van individuele autonomie.(10) De AI Act heeft als doel om verantwoorde en ethische ontwikkeling en toepassing van AI te waarborgen. Belangrijke uitgangspunten zijn verantwoordelijkheid, transparantie, privacybescherming en menselijke controle. De wet classificeert AI-systemen op basis van risico’s en legt verplichtingen op voor elk risiconiveau. De verwachting is dat de AI Act op 1 januari 2024 van kracht zal worden, na afloop van de onderhandelingen.

Verder leren

Cursus Introductie in AI

Cursus AI en ChatGPT vanuit juridisch perspectief

Voetnoten

Alle boeken over AI

bekijk overzicht

Masterclass Privacy in Perspectief

Deze Masterclass helpt u in vier bijeenkomsten door middel van inzichten uit de wetenschap en praktijk betere oplossingen te vinden voor concrete privacy-issues. Voor professionals die de ambitie hebben privacy en persoonsgegevens nog beter te beschermen, te benutten en daarbij ook hebben voor andere organisatiebelangen en -doelen.

Bekijk masterclass