Europol: ‘ChatGPT handige tool voor hackers’

Daarvoor waarschuwt Europol (1) in het rapport ‘ChatGPT – The Impact of Large Language Models on Law Enforcement’. Het doel van het rapport is om bewustwording te scheppen voor mogelijk misbruik van taalmodellen als ChatGPT. Daarnaast wil Europol een dialoog met techbedrijven op gang brengen over de gevaren van kunstmatige intelligentie en de ontwikkeling van veilige en betrouwbare AI-systemen bevorderen.

Negatieve en positieve kanten van kunstmatige intelligentie

De ontwikkelingen op het gebied van kunstmatige intelligentie volgen elkaar in hoog tempo op. De nieuwste versie van ChatGPT is in staat om kwalitatief hoogwaardige en professionele teksten te creëren. Software die teksten op plagiaat controleert, is amper in staat om te herkennen dat dergelijke stukken door een computerprogramma zijn geschreven.

Scholieren en studenten hebben ontdekt dat ChatGPT een uitstekend hulpmiddel is om huiswerkopdrachten te maken. Politieke partijen als D66 (2), VVD en GroenLinks (3) zijn bezorgd dat kunstmatige intelligentie een bedreiging vormt voor het onderwijs en onze privacy (4).

Minister Adriaansens van Economische Zaken en Klimaat zei onlangs dat het nu nog te vroeg is om ze zeggen welke bedreigingen AI vormt voor het onderwijs. Tegelijkertijd ziet ze ook positieve kanten (5): in haar ogen heeft kunstmatige intelligentie de potentie om het onderwijs te verbeteren. “Zo hadden de rekenmachine en computers bijvoorbeeld ook veel gevolgen, maar worden deze nu veelvuldig gebruikt in de klas”, zo zei de minister onlangs in de Tweede Kamer.

ChatGPT mogelijk misbruikt voor online fraude

Programma’s als ChatGPT kunnen ook door hackers en cybercriminelen misbruikt worden. In het rapport ‘ChatGPT – The Impact of Large Language Models on Law Enforcement’ schrijft Europol dat deze tool gebruikt kan worden om slachtoffers te maken.

Als voorbeeld noemt de instantie phishing (6) en Business Email Compromise (7). Taalmodellen als ChatGPT halen spel- en schrijffouten uit teksten. Tevens zorgt het ervoor dat teksten grammaticaal correct zijn en er professioneel uitzien. Kortom, het is mogelijk om een authentiek en geloofwaardig phishingbericht te schrijven, waardoor het aantal slachtoffers toeneemt.

Ook social engineering (8) is volgens de Europese handhavingsinstantie een probleem. “Het vermogen van taalmodellen om taalpatronen te detecteren en reproduceren, vereenvoudigt niet alleen phishing en online fraude, maar kan in het algemeen ook gebruikt worden om de spreekstijl van specifieke personen of groepen te imiteren. Dit vermogen kan op grote schaal worden misbruikt om potentiële slachtoffers te misleiden en hun vertrouwen in de handen van criminelen te leggen”, aldus Europol.

Europol vreest ‘grimmig vooruitzicht’ door continue ontwikkeling ChatGPT

Een ander doel waarvoor ChatGPT ingezet kan worden, is om de code van verschillende programmeertalen te controleren. Je kunt het programma zelfs gebruiken om malware (9) te laten maken, zoals malafide VBA-scripts of een neppagina van een bank voor phishingdoeleinden. Dat is in het bijzonder nuttig voor hackers en cybercriminelen die weinig tot geen verstand hebben van de technische aspecten van hacking.

“Hoewel de door ChatGPT geproduceerde tools nog steeds vrij eenvoudig zijn, biedt de actieve benutting ervan door bedreigingsactoren een grimmig vooruitzicht met het oog op onvermijdelijke verbeteringen van dergelijke tools in de komende jaren. Het vermogen van ChatGPT om natuurlijke taalprompts om te zetten in werkende code, werd snel misbruikt door kwaadwillende actoren om malware te creëren”, aldus Europol.

Cybersecuritybedrijf Check Point stelde onlangs eveneens dat hackers ChatGPT gebruiken om malware te maken. “Op dit moment zien we dat Russische hackers al bespreken en controleren hoe ze voorbij de geofencing kunnen komen om ChatGPT te gebruiken voor hun kwaadaardige doeleinden. Wij denken dat deze hackers hoogstwaarschijnlijk proberen ChatGPT te implementeren en te testen in hun dagelijkse criminele operaties. Cybercriminelen raken steeds meer geïnteresseerd in ChatGPT, omdat de AI-technologie erachter een hacker kostenefficiënter kan maken”, aldus de onderzoekers.

Europol adviseert om expertise uit te breiden

Om een vuist te vormen tegen de uitwassen van programma’s als ChatGPT, is het essentieel dat handhavings- en opsporingsinstanties zich hiervan bewust zijn. Politieagenten, rechercheurs en andere handhavers moeten inzetten op het ontwikkelen van vaardigheden die nodig zijn om taalmodellen als ChatGPT optimaal te benutten. Kennis opbouwen en bestaande expertise uitbreiden zijn daarbij onmisbaar.

1. https://www.europol.europa.eu/media-press/newsroom/news/criminal-use-of-chatgpt-cautionary-tale-about-large-language-models

2. https://www.vpngids.nl/nieuws/d66-bezorgd-om-kunstmatige-intelligentie-en-chatgpt/

3. https://www.vpngids.nl/nieuws/groenlinks-bezorgd-om-impact-van-ai-op-onze-privacy/

4. https://www.vpngids.nl/privacy/

5. https://www.vpngids.nl/nieuws/minister-adriaansens-ai-biedt-kansen-voor-het-onderwijs/

6. https://www.vpngids.nl/veilig-internet/cybercrime/wat-is-phishing/

7. https://www.vpngids.nl/veilig-internet/zakelijk/business-e-mail-compromise/

8. https://www.vpngids.nl/veilig-internet/cybercrime/wat-is-social-engineering/

9. https://www.vpngids.nl/veilig-internet/malware/