AP onderschrijft internationale oproep tegen misbruik van AI-gegenereerde beelden

In de verklaring spreken de toezichthouders hun ernstige zorgen uit over AI-systemen die realistische afbeeldingen en video’s kunnen maken van bestaande personen. Vooral nu dergelijke technologie steeds vaker is geïntegreerd in breed toegankelijke sociale mediaplatforms, neemt het risico toe op het verspreiden van niet-consensuele intieme beelden, gemanipuleerde video’s en andere schadelijke content. De ondertekenaars wijzen daarbij expliciet op de gevaren voor kinderen en andere kwetsbare groepen, die het doelwit kunnen worden van cyberpesten of uitbuiting.

De verklaring benadrukt dat organisaties die dit soort AI-systemen ontwikkelen of gebruiken, zich moeten houden aan geldende privacy- en gegevensbeschermingsregels. Het maken van niet-consensuele intieme beelden kan in veel landen bovendien strafbaar zijn.

De toezichthouders roepen bedrijven op om vanaf het ontwerpstadium stevige waarborgen in te bouwen tegen misbruik, transparant te zijn over de mogelijkheden en beperkingen van hun systemen en effectieve procedures in te richten voor snelle verwijdering van schadelijke beelden. Ook moeten extra beschermingsmaatregelen gelden wanneer kinderen in beeld kunnen komen.

Met haar steun aan deze internationale verklaring onderstreept de AP dat innovatie niet mag botsen met fundamentele rechten. Privacy, waardigheid en veiligheid moeten voorop blijven staan. Ook in een tijdperk van razendsnelle AI-ontwikkeling.