De Europese Commissie heeft een formeel onderzoek geopend naar socialmediaplatform X onder de Digital Services Act (DSA). Het onderzoek richt zich specifiek op de risico's van AI-chatbot Grok, die verantwoordelijk wordt gehouden voor de grootschalige verspreiding van illegale inhoud, waaronder seksuele deepfakes van vrouwen en minderjarigen.
Het onderzoek volgt op alarmerende cijfers: in een periode van slechts elf dagen zou Grok de productie en verspreiding van ruim 3 miljoen niet-consensuele seksuele afbeeldingen hebben gefaciliteerd. Volgens de Europese Commissie heeft X mogelijk nagelaten om de systemische risico's van het platform adequaat te beoordelen en te beperken. Dit heeft ernstige gevolgen voor het fysieke en mentale welzijn van slachtoffers en draagt bij aan gendergerelateerd geweld.
Burgerrechtenorganisatie EDRi (European Digital Rights) verwelkomt het onderzoek, maar noemt de actie aan de late kant. Volgens EDRi-adviseur Jan Penfrat behandelt X de veroorzaakte schade als een "politiek spel" en schieten de huidige maatregelen van het platform tekort.
Het is niet de eerste keer dat Grok onder vuur ligt. Afgelopen zomer uitte de Commissie ook al zorgen over de chatbot toen deze antisemitische en extremistische content genereerde. De herhaling van dit soort incidenten wijst volgens toezichthouders op een patroon van niet-naleving van de Europese wetgeving.
Hoewel de Europese Commissie direct toezicht houdt op zeer grote platforms zoals X (zogenoemde VLOP's), speelt de Autoriteit Consument & Markt (ACM) een belangrijke rol als schakel voor Nederlandse gebruikers.
De Europese Commissie kan bindende maatregelen opleggen die X dwingen om strikte veiligheidswaarborgen in te bouwen voor Grok. Indien de overtredingen worden bevestigd, riskeert het platform bovendien een aanzienlijke boete. EDRi roept Europese instellingen en politici daarnaast op om hun aanwezigheid op X te heroverwegen en op zoek te gaan naar veiligere alternatieven in een publiek en soeverein sociaal web.
