AP waarschuwt voor grote beveiligingsrisico’s bij AI-agents zoals OpenClaw

Het OpenClaw-platform biedt gebruikers aan een AI-assistent te installeren, die autonoom taken kan uitvoeren. Daartoe geeft de gebruiker volledige toegang tot diens computer en programma’s, waaronder e-mail, bestanden en online diensten. Het betekent dat de assistent vervolgens zelfstandig, zonder directe menselijke goedkeuring vooraf, in staat is om te handelen. Volgens de AP wordt dit type autonome AI-agent in de cybersecuritywereld gezien als een ‘paard van Troje’, omdat het een aantrekkelijk doelwit vormt voor misbruik.

Beveiligingsonderzoekers wereldwijd signaleren bij OpenClaw dat onder meer een aanzienlijk deel van de beschikbare plug-ins malware bevat, gericht op het stelen van bijvoorbeeld inloggegevens of crypto-tegoeden. Daarnaast is het platform kwetsbaar voor verborgen opdrachten in websites, e-mails en chatberichten. Dat kan leiden tot het overnemen van accounts, het uitlezen van persoonlijke gegevens en het stelen van toegangscodes. Ook zijn er kritieke kwetsbaarheden gevonden waarmee aanvallers op afstand volledige systemen kunnen overnemen.

Oproep aan gebruikers, organisaties en ouders

De AP roept gebruikers en organisaties op om OpenClaw en vergelijkbare AI-agents niet te gebruiken op systemen met privacygevoelige of vertrouwelijke gegevens. Denk bijvoorbeeld aan toegangscodes, boekhouding, klantbestanden, personeelsgegevens, privédocumenten of identiteitsbewijzen. De AP roept ook ouders op om te checken of hun kinderen dit doen op apparaten thuis. Ook adviseert de toezichthouder om terughoudend te zijn met externe plug-ins, strikte toegangscontroles toe te passen en inloggegevens en toegangscodes te vernieuwen bij risico op blootstelling.

Organisaties en individuele gebruikers blijven zelf verantwoordelijk voor naleving van de Algemene verordening gegevensbescherming (AVG). De ontwikkeling en het gebruik van open source-systemen ontslaat ontwikkelaar en gebruiker niet van de plicht om risico’s vooraf te beperken.

Europese wetgeving

Op Europees niveau pleit de AP ervoor te verduidelijken dat autonome AI-agents ook onder de AI-verordening vallen. Onder de AI-verordening worden producteisen gesteld aan de veiligheid van dit soort systemen, zodat onveilige toepassingen van de markt kunnen worden geweerd.

Beveiligingsrisico’s van OpenClaw

OpenClaw draait lokaal op de computer van de gebruiker. Dat betekent niet automatisch dat het systeem veilig is. Zonder goede beveiliging en risicobeheersing kan het gebruik leiden tot ernstige beveiligingsincidenten, datalekken en ongeoorloofde toegang tot persoonsgegevens.

Op basis van recente bevindingen van beveiligingsexperts uit de hele wereld, wijst de AP onder meer op de volgende risico’s:

Gebruikers kunnen OpenClaw extra functies geven door zogeheten plug-ins te installeren. Ongeveer een vijfde van die plug-ins blijkt malware te bevatten, die bijvoorbeeld inloggegevens of cryptotegoeden van de gebruiker kan stelen.

Het platform van OpenClaw is kwetsbaar voor verborgen opdrachten (indirecte promptinjectie), die verborgen kunnen zijn in ogenschijnlijk normale websites, e-mails of chatberichten. Een hacker kan daardoor:

Accounts van gekoppelde diensten overnemen (zoals Google, Facebook en Apple ID). De hacker krijgt van de gebruiker in feite een hoofdsleutel tot veel persoonlijke gegevens en toegang tot andere gekoppelde diensten.

E-mails uitlezen, agenda’s bekijken en lokale bestanden gebruiken, zoals persoonlijke documenten.

Toegangscodes van AI-modellen stelen, waarmee het gebruik van de AI-dienst kan worden overgenomen.

Kritieke beveiligingskwetsbaarheden. Hierbij kan een hacker op afstand, dus zonder fysieke toegang tot de betreffende computer, kwaadaardige opdrachten of code uitvoeren. Zo kan de aanvaller via OpenClaw (of een vergelijkbaar AI-systeem) de volledige controle overnemen, data stelen of malware installeren.

Datalekken. Ook kan een gebruiker OpenClaw onjuist installeren of instellen, waardoor persoonlijke gegevens publiekelijk zichtbaar kunnen worden.