Interview met Martin Hemmer: "Op een verantwoorde manier inzetten van AI-tools is nuttig

Er wordt wel gesteld dat ChatGPT een bedreiging vorm voor banen. Zo was laatst in het nieuws dat de nieuwste AI-tool veel werk van advocaten uit handen kan nemen, maar deze beroepsgroep mogelijk ook kan vervangen. Wat is jouw idee daarbij? Of zal het zo’n vaart niet lopen?

“De afgelopen jaren werd vaak maar al te gauw geroepen dat een technologie “disruptive” zou zijn. Bij ChatGPT denk ik dat het werkelijk het geval is.

Hoewel AI zeker op korte termijn rechters en advocaten niet volledig zal vervangen, zal het werk wel substantieel wijzigen verwacht ik. ChatGPT is bijvoorbeeld immers goed in een belangrijke kwaliteit van een advocaat die voorheen typisch menselijk was: het omzetten van informatie in een overtuigend verhaal. ChatGPT kan dus ongetwijfeld helpen bij taken die eerder door mensen werden verricht. Ook zouden mensen ervoor kunnen kiezen om (als ze het eens kunnen worden over de feiten) een geschil op te laten lossen door AI-arbitrage in plaats van een rechter. Zolang het recht door mensen geschreven wordt en bol staat van teksten die onderhevig zijn aan subjectieve interpretatie, zullen rechters en advocaten nog wel een rol houden, lijkt me.”  

Als we het ChatGPT hebben, dan hebben we het vooral over de gevaren. Maar zijn er ook positieve kanten aan deze ontwikkeling die ons vooruit kunnen helpen, bijvoorbeeld in de zorg- en onderwijssector. Heb je in dat geval concrete voorbeelden of verwachtingen?

“Op veel gebieden is er sprake van personeelstekort. Zonder technologische vooruitgang zal dat tekort alleen maar groter worden. Het op een verantwoorde wijze inzetten van AI-tools lijkt mij dus nuttig. AI kan bovendien op zichzelf bijdragen aan technische vooruitgang door met oplossingen voor problemen te komen.”

Er is allerlei regulering en wetgeving op komst vanuit ‘Brussel’ die AI moet beteugelen en waar nodig versterken. In hoeverre is dat wetgevingspakket voldoende en waar bijt het andere wetten en verordeningen (denk aan DSA en DMA)?

“In Brussel wordt hard gewerkt aan de AI-Act. Men hoopt deze eind 2023 of begin 2024 te finaliseren. De komst van ChatGPT heeft ook bij de Europese wetgever echter weer tot discussie geleid. De AI Act introduceert regels op basis van risico-categorie. Grote vraag is in welke risico-categorie een technologie als ChatGPT moet vallen. Daar zijn de meningen over verdeeld.”

Hoe kijk je naar het verbod op ChatGPT in Italië en een onderzoek van de Franse toezichthouder naar de AI-tool. Kunnen we op basis van die ‘jurisprudentie’ ook iets soortgelijks in Nederland verwachten?

“Ik vind die verboden in ieder geval vanuit privacy-oogpunt wat voorbarig. Het gebruik van ChatGPT kan zeker tot gevoelige gegevensverwerkingen leiden, met name afhankelijk van de zieleroerselen die met ChatGPT worden gedeeld, dat wordt echter bepaald door de input, de prompts, die de gebruikers geven. De gebruiker zal daar bewust van moeten worden gemaakt. Dat tracht ChatGPT ook te doen. Bij mijn weten ontwikkelt ChatGPT bijvoorbeeld geen profielen van gebruikers voor commercieel gebruik op basis van de ingegeven prompts.”

ChatGPT wordt wel als een soort wondermiddel gezien, maar waar zitten de beperkingen?

“ChatGPT kan met heel veel overtuiging onjuiste antwoorden genereren.”

Wil je meer weten over ChatGPT en andere ontwikkelingen binnen AI en wetgeving? Bekijk dan het e-college van Martin Hemmer via deze link.