We staan voor de grote opgave om kunstmatige intelligentie (AI) in te bedden in de samenleving. Een eerste stap daarbij is te begrijpen wat AI is: over wat voor type technologie hebben we het eigenlijk en wat betekent dat voor de opgaven waar het overheidsbeleid voor staat? Dat is het vertrekpunt van de boodschap die de WRR geeft in het rapport ‘Opgave AI. De nieuwe systeemtechnologie,’ dat op 11 november 2021 verscheen.
In dit tweegesprek wisselen Emile Aarts (hoogleraar Computer Science in Tilburg en voorzitter van de werkgroep van de Nederlandse AI Coalitie over Menselijke AI, die zich bezighoudt met de ontwikkeling van het instrument van de ELSA Labs; zie onderaan tekstkader) en Corien Prins (voorzitter WRR, eerstverantwoordelijke voor het WRR-rapport en hoogleraar Recht en Informatisering in Tilburg) daarover van gedachten. Waar hebben we het over bij AI? Welke partijen spelen een rol? En hoe passen de ELSA Labs in dat plaatje? Eline de Jong (filosofe en als wetenschappelijk medewerker betrokken bij het WRR-rapport over AI) leidt het gesprek.
Lees hier het rapport van de WRR ‘Opgave AI. De nieuwe systeemtechnologie.’
Aarts onderscheidt twee lijnen binnen de kunstmatige intelligentie, smalle en gegeneraliseerde AI: “Bij smalle AI gaat het vooral om nieuwe applicaties. Die vormen zo’n 80 procent van de huidige AI. De gesprekken daarover zijn constructief en over deze lijn is het goed mogelijk afspraken te maken. Bij gegeneraliseerde AI is dat lastiger. Daarbij gaat het om kunstmatig gegenereerde intelligentie die uiteindelijk de menselijke intelligentie zal overstijgen. Sommigen zien dat als een volgende stap in de evolutie.”
Prins vult aan: “Deze twee lijnen hebben een verschillende tijdsdynamiek en inkleuring. De meeste discussies gaan over de 20 procent van de gegeneraliseerde AI: wat vermag het systeem en waar moeten we bang voor zijn? Daarom is de in ons rapport genoemde opgave van demystificatie van AI zo belangrijk. Alleen door duidelijk te maken waar we het over hebben, kunnen we een realistisch debat voeren over de technologie en de daarbij te zetten stappen, in plaats van het te hebben over doemscenario’s waarin de mens niets meer te zeggen heeft.”
Aarts: “Je legt de nadruk terecht op het zo vroeg mogelijk starten van de discussie, om beide lijnen met elkaar in verband te kunnen brengen en daar vervolgens op voort te bouwen. Met de Elsa Labs hebben we ruimte willen maken voor een experimenteeromgeving waarin we heel vroeg kunnen praten over de gevolgen van de technologie, maar ook over opschaling en de impact van AI in brede zin. Daarbij hebben we ervoor gekozen de nieuwe technologie leidend te laten zijn en te kijken naar inzichtelijke problemen. Het zoeken naar oplossingen stellen we zo lang mogelijk uit.”
Prins vraagt zich af of de ELSA Labs iets kunnen met de opgave van contextualisering die de WRR onderscheidt: hoe gaat de technologie werken? Aarts: “Die opgave is heel belangrijk voor ons. Ik zie twee rollen van AI. In de eerste plaats gebruiken we de technologie om de context van problemen beter te begrijpen, en in de tweede plaats zoeken we met AI en data naar oplossingen voor die problemen. Die twee rollen – descriptive en prescriptive analytics – zijn met elkaar verweven. Daarbij is het van belang om voor een multistakeholderanalyse te kiezen. De oplossingen waar je mee komt, moeten acceptabel zijn voor alle betrokken partijen; geen partij mag er slechter door worden. Neem een IC-unit. Naast de patiënt zijn daar artsen bij betrokken, verpleegkundigen, IT-ondersteuners, familie, enzovoort. Als je in die workflow iets wilt verbeteren, moet je dat toetsen tegen alle partijen die daarbij een rol spelen. Dat levert diepere inzichten op.”
Prins: “Bij je voorbeeld van de IC-unit heeft ook de patiëntenvereniging een rol. Ik denk dan ook aan een van de andere opgaven die we in het rapport onderscheiden, namelijk de opgave van engagement. Als je vanuit de stakeholders redeneert, moet je daar ook de partijen die individuele burgers vertegenwoordigen bij betrekken. De vakbond is, als vertegenwoordiger van werknemers die met AI worden geconfronteerd, een ander voorbeeld.”
Aarts: “Bij de ELSA Labs leggen we ook veel nadruk op het ontwikkelen van een gemeenschappelijk idee van hoe je wilt werken. Heb je zo’n idee niet, dan kan er veel fout gaan. Dat blijkt wel uit het schandaal van Facebook en Cambridge Analytica van enkele jaren geleden. Was de multistakeholderbenadering daar serieus genomen, dan was er minder mis gegaan. Ik ben er daarom trots op dat de Europese Commissie heel duidelijk heeft gekozen voor één bepaalde AI-benadering, namelijk die waarbij de mens centraal staat en die heel duidelijke grenzen stelt aan de toepassingen van AI.”
Prins is het met dit laatste eens: “Met die scherpe keuze kan de Europese Unie tegenwicht bieden aan de VS en China.” Zij signaleert verder een grote uitdaging voor de ELSA Labs: “Als de uitkomsten van de ELSA Labs op tafel liggen, hoe schaal je dan op? Bij maatschappelijke innovatie is dat immers minder makkelijk te doen dan bij de innovatie door de grote technologische bedrijven. We beschikken dan niet over welbekende instrumenten zoals een octrooirecht of economische incentives.”
Aarts: “De grote technologiebedrijven zijn inderdaad de motor achter technologische ontwikkeling. Waar wij over nadenken, is hoe er parallel aan die grote agendastellende industrie ook een agendastellende overheid kan ontstaan. Sommige departementen, zoals Binnenlandse Zaken, Justitie en Veiligheid, Defensie, en Onderwijs, Cultuur en Wetenschappen hebben een eigen innovatieagenda voor maatschappelijke kwesties, maar de middelen daarvoor zijn beperkt. Dat betekent dat ze keuzes moeten maken. Daarom vind ik de aanbeveling van de WRR om een AI-coördinatiecentrum op te richten zo geweldig. Het zou mooi zijn als dat centrum er kwam. Als de overheid op een bovenliggend niveau over innovatie kan spreken, is het makkelijker om tot een eigen strategie te komen en tegenwicht te bieden aan de leidende technologiebedrijven.”
Prins: “Dat coördinatiecentrum kan ook input geven aan het debat dat in de Tweede Kamer moet worden gevoerd. En als we via de ELSA Labs de krachten bundelen, kan iets ontstaan dat de WRR de Nederlandse AI-identiteit noemt. Daarbij zal de overheid bepaalde sectoren prioriteit moeten geven. We noemen als WRR in illustratieve zin de logistiek, land- en tuinbouw, zorg of onderwijs.”
Aarts: “Het coördinatiecentrum kan voor Nederland een nieuwe maner zijn om innovatie te structureren. Daarom ben ik zo blij met jullie rapport. Daarbij biedt de generatie Z die nu wordt opgeleid, overigens mooie kansen. Zij willen toegevoegde waarde voor de samenleving creëren, en hebben daarbij oog voor brede welvaart en stabiliteit. Als je die groep kunt opleiden om inhoud en uitvoering te geven aan de sociale agenda in relatie tot AI, dan heb je goede mensen om de noodzakelijke innovatie daadwerkelijk in gang te zetten. Daar speelt de vierde aanbeveling uit het WRR-rapport, over de noodzaak voor een stelsel van opleiding en certificering op het gebied van AI.”
Prins: “Deze generatie heeft iets in zich van dienstbaarheid aan een betere wereld. Het probleem met de technologie is echter dat je die bijna niet ziet. Willen we straks aan de keukentafel het gesprek voeren over AI zoals we dat nu over milieu doen, dan is er een belangrijke rol weggelegd voor het onderwijs.”
Aarts spreekt de hoop uit dat de aanbevelingen van de WRR handen en voeten krijgen: “Daar werken wij bij de ELSA Labs graag aan mee.”
Prins besluit: “Bij de WRR betekent de presentatie van een rapport nog niet het einde van een onderzoekstraject. Wij gaan zeker in gesprek als partijen met ons verder willen spreken over hoe zij in de eigen context met onze analyse en aanbevelingen aan de slag willen gaan.”
ELSA staat voor ‘Ethical, Legal and Societal Aspects’. Het doel van de ELSA Labs is ervoor te zorgen dat bedrijven, overheden, kennisinstellingen, maatschappelijke organisaties en inwoners gezamenlijk verantwoorde toepassingen van AI ontwikkelen. Daarbij gaat het om oplossingen voor zowel maatschappelijke als zakelijke problemen, waarbij eerlijkheid, rechtvaardigheid, veiligheid en vooral vertrouwenswaardigheid centraal staan. Vanuit het Nationaal Groeifonds krijgt de Nederlandse AI Coalitie middelen voor deze projecten. Er zijn nu zo’n vijftien volwassen voorstellen voor ELSA Labs, waaronder initiatieven op het gebied van Armoede en Schulden, Gezondheid en Samenleving, Slimme Steden, Publiek Bestuur en Recht, Energie, Voeding, Onderwijs, Media en Democratie, Defensie en Veiligheid.
