De Commission Nationale de l’Informatique et des Libertés (CNIL) start een onderzoek naar ChatGPT. De Franse privacywaakhond zegt dat het de afgelopen tijd meerdere klachten heeft ontvangen over de chatbot. Waarover de klachten gaan is onbekend.
CNIL bevestigt tegenover persbureau Reuters dat het onderzoek binnenkort van start gaat (1).
ChatGPT is een programma dat gebaseerd is op kunstmatige intelligentie. De chatbot kan voor uiteenlopende doeleinden worden ingezet, waaronder het controleren van de code die met een programmeertaal is geschreven of het schrijven van teksten. Nederlandse scholieren zien de potentie van ChatGPT en laten het programma huiswerkopdrachten maken. Docenten kunnen hier vrijwel niets tegen doen, omdat er geen manier is om een tekst die door kunstmatige intelligentie is geschreven eruit te pikken.
Vanzelfsprekend is ChatGPT hiervoor niet bedoeld. Minister van Economische Zaken en Klimaat Micky Adriaansens ziet daarentegen ook positieve kanten: kunstmatige intelligentie kan het onderwijs verbeteren. Ze vergelijkt het met de opkomst van de rekenmachine. “Zo hadden de rekenmachine en computers bijvoorbeeld ook veel gevolgen, maar worden deze nu veelvuldig gebruikt in de klas”, aldus de bewindsvrouw.
Een computerprogramma je schrijfopdrachten van school laten maken is één ding. ChatGPT kent meerdere en grotere risico’s. Zo waarschuwde Europol onlangs dat hackers en cybercriminelen ChatGPT kunnen misbruiken voor online fraude. Dan moet je denken aan phishing, Business Email Compromise of social engineering.
“Het vermogen van taalmodellen om taalpatronen te detecteren en reproduceren, vereenvoudigt niet alleen phishing en online fraude, maar kan in het algemeen ook gebruikt worden om de spreekstijl van specifieke personen of groepen te imiteren. Dit vermogen kan op grote schaal worden misbruikt om potentiële slachtoffers te misleiden en hun vertrouwen in de handen van criminelen te leggen”, zo schreef de Europese opsporingsinstantie in het rapport ‘ChatGPT – The Impact of Large Language Models on Law Enforcement’.
In Italië heeft de toezichthouder ChatGPT verboden. De Garante per la Protezione dei Data Personali (GPDP) zegt dat de chatbot onrechtmatig persoonsgegevens verzamelt en verwerkt. OpenAI, de ontwikkelaar van ChatGPT, is niet transparant genoeg welke data de chatbot verzamelt en wat er met deze gegevens gebeurt.
Verder ontbreekt er een filter om de leeftijd van gebruikers vast te stellen. Minderjarigen lopen zo het risico om ongeschikte antwoorden te krijgen als ze een vraag stellen aan ChatGPT. Tot slot geeft OpenAI geen helderheid op de vraag op welke juridische grondslag het gegevens verzamelt om de onderliggende algoritmes te trainen.
De toezichthouder heeft de ontwikkelaar twintig dagen de tijd gegeven om aan de Europese privacyregels te voldoen. Zo niet, dan riskeert het bedrijf een boete die kan oplopen tot 20 miljoen euro, of 4 procent van de wereldwijde omzet, afhankelijk van welk bedrag hoger is.
Een verbod op ChatGPT gaat CNIL een stap te ver. De Franse toezichthouder start op korte termijn echter wel een onderzoek naar de chatbot. De privacywaakhond zegt tegenover Reuters dat ze de laatste tijd meerdere klachten heeft ontvangen. De klachten gaan hoogstwaarschijnlijk over vermeende privacyinbreuk, maar dat wil de toezichthouder op dit moment niet bevestigen. Wanneer we de uitkomsten van het onderzoek kunnen verwachten, is eveneens onbekend.
In Italië is een verbod zoals gezegd al van kracht. De toezichthouders in Duitsland en Ierland kijken eveneens of een verbod wenselijk is. De Autoriteit Persoonsgegevens zegt de ontwikkelingen nauwlettend in de gaten te houden. De Spaanse privacywaakhond AEPD heeft de European Data Protection Board (EDPB) gevraagd om zich over deze kwestie te buigen. De leden van de Europese toezichthouders komen donderdag 13 april bijeen om zich hierover te buigen.
https://www.reuters.com/technology/french-privacy-watchdog-investigating-complaints-about-chatgpt-2023-04-11/
