Europese Commissie start onderzoek naar AI-chatbot Grok van X wegens verspreiding deepfakes

Het onderzoek volgt op alarmerende cijfers: in een periode van slechts elf dagen zou Grok de productie en verspreiding van ruim 3 miljoen niet-consensuele seksuele afbeeldingen hebben gefaciliteerd. Volgens de Europese Commissie heeft X mogelijk nagelaten om de systemische risico’s van het platform adequaat te beoordelen en te beperken. Dit heeft ernstige gevolgen voor het fysieke en mentale welzijn van slachtoffers en draagt bij aan gendergerelateerd geweld.

Systeemrisico’s en eerdere incidenten

Burgerrechtenorganisatie EDRi (European Digital Rights) verwelkomt het onderzoek, maar noemt de actie aan de late kant. Volgens EDRi-adviseur Jan Penfrat behandelt X de veroorzaakte schade als een “politiek spel” en schieten de huidige maatregelen van het platform tekort.

Het is niet de eerste keer dat Grok onder vuur ligt. Afgelopen zomer uitte de Commissie ook al zorgen over de chatbot toen deze antisemitische en extremistische content genereerde. De herhaling van dit soort incidenten wijst volgens toezichthouders op een patroon van niet-naleving van de Europese wetgeving.

Wat kunnen Nederlandse gebruikers doen?

Hoewel de Europese Commissie direct toezicht houdt op zeer grote platforms zoals X (zogenoemde VLOP’s), speelt de Autoriteit Consument & Markt (ACM) een belangrijke rol als schakel voor Nederlandse gebruikers.

Melden bij het platform: Gebruikers die illegale inhoud tegenkomen, moeten dit eerst melden bij het platform zelf. Platforms zijn onder de DSA verplicht om dergelijke meldingen tijdig en zorgvuldig af te handelen.

Melden bij de ACM: Als het melden bij X niet lukt, te ingewikkeld is of als er niet op de melding wordt gereageerd, kunnen Nederlandse gebruikers terecht bij de ACM. De ACM stuurt deze signalen door naar de Europese Commissie om het onderzoek te ondersteunen.

Hulp voor slachtoffers: Slachtoffers van seksuele deepfakes of online grensoverschrijdend gedrag kunnen aangifte doen bij de politie en voor praktische hulp terecht bij de organisatie Offlimits.

Toekomstige stappen

De Europese Commissie kan bindende maatregelen opleggen die X dwingen om strikte veiligheidswaarborgen in te bouwen voor Grok. Indien de overtredingen worden bevestigd, riskeert het platform bovendien een aanzienlijke boete. EDRi roept Europese instellingen en politici daarnaast op om hun aanwezigheid op X te heroverwegen en op zoek te gaan naar veiligere alternatieven in een publiek en soeverein sociaal web.