AP: zonder duidelijke waarden dreigt het Wilde Westen van generatieve AI

De nood is hoog. De impact van generatieve AI wordt steeds duidelijker, mede door de wildgroei aan applicaties die in hoog tempo op de markt komen. Veel toepassingen komen bovendien van Amerikaanse techbedrijven. Daardoor groeit de Europese afhankelijkheid en staat onze digitale autonomie onder druk. Dat gebeurt in een context van grote geopolitieke verschuivingen waarbij economische integratie steeds vaker wordt ingezet als drukmiddel.

Het gebruik van generatieve AI neemt ondertussen snel toe. Volgens het Centraal Bureau voor de Statistiek (CBS) gebruikt 23 procent van de Nederlanders AI-programma’s zoals ChatGPT. Bij jongeren ligt dat percentage aanzienlijk hoger. Dat maakt de impact van generatieve AI direct voelbaar in het dagelijks leven.

Stevige vangrails nodig

Tegelijk nemen de capaciteiten van generatieve AI steeds verder toe. Denk aan apps die mensen ongewenst op beeld uitkleden of aan chatbots die hulp zeggen te bieden bij psychische problemen. Daarbij gebruiken mensen chatbots ook steeds vaker als enige informatiebron. De AP vindt deze ontwikkeling zorgelijk, omdat organisaties generatieve AI vaak te snel inzetten, zonder vooraf voldoende aandacht te besteden aan de gevolgen voor mensen en samenleving.

‘Dit brengt nieuwe en complexe uitdagingen op het gebied van beheersing met zich mee’, zegt Aleid Wolfsen, voorzitter van de AP. ‘Generatieve AI biedt enorme kansen, maar we moeten de technologie zorgvuldig inzetten. Innovatie is welkom, maar wel voorzien van stevige vangrails.’ Volgens de AP is het daarbij essentieel dat AI-modellen in lijn met de Algemene verordening gegevensbescherming (AVG) en AI-verordening rechtmatig zijn getraind en rechtmatig worden ingezet.

Onwenselijke toekomstbeelden

In de visie beschrijft de AP drie onwenselijke toekomstbeelden. In een Wilde Westen-scenario groeit generatieve AI zonder duidelijke regels en in een scenario van gemiste kansen valt Europa stil doordat complexe en onduidelijke wet- en regelgeving leidt tot onzekerheid. In een bunker-scenario belemmert overmatige voorzichtigheid innovatie.

Generatieve AI is nog bestuurbaar. ‘Maar alleen als we nu kiezen voor waarden als uitgangspunt, en niet voor snelheid als norm’, zegt Wolfsen. Daarom pleit de AP voor een vierde koers: waarden aan het werk. De AP koerst daarmee op ruimte voor innovatie, met bescherming van democratie, grondrechten en onderling vertrouwen. ’Wanneer een technologie razendsnel wordt geïntegreerd in onderwijs, zorg, media en bestuur, zonder gedeeld normatief kader, ontstaat geen innovatie-ecosysteem maar een maatschappelijk experiment zonder protocol. Daarom moeten we nu keuzes maken’, aldus Wolfsen.

De AP vraagt organisaties die generatieve AI gebruiken om daar verantwoord mee om te gaan: transparant, met oog voor risico’s en met respect voor grondrechten. ‘Ook is het belangrijk dat de ontwikkeling en inzet van generatieve AI niet in handen komt van een paar grote partijen.

De visie is opgesteld met inbreng van bedrijven, experts en maatschappelijke organisaties en weerspiegelt daardoor ook inzichten uit de samenleving.