De European Data Protection Board (EDPB) en de European Data Protection Supervisor (EDPS) hebben een gezamenlijke opinie gepubliceerd over het voorstel van de Europese Commissie om de uitvoering van de AI-verordening te vereenvoudigen. Dit voorstel wordt ook wel de ‘Digital Omnibus on AI’ genoemd.
De EDPB en EDPS steunen het doel om regels werkbaar te maken voor organisaties en innovatie te stimuleren. Tegelijkertijd benadrukken zij dat vereenvoudiging niet mag leiden tot minder bescherming van fundamentele rechten, zoals het recht op privacy en gegevensbescherming.
Het voorstel verruimt het gebruik van bijzondere persoonsgegevens over bijvoorbeeld etniciteit of gezondheid voor het opsporen en corrigeren van discriminatie in AI-systemen (‘bias detection’ en ‘bias correction’).
De EDPB en EDPS vinden dat dit alleen mag in strikt afgebakende situaties, wanneer de risico’s van discriminatie ernstig zijn en er passende waarborgen gelden.
Het schrappen van de registratieplicht voor AI-systemen die aanbieders zelf niet aanmerken als systemen met een hoog risico, vinden de EDPB en EDPS onwenselijk. Dit ondermijnt transparantie en toezicht en kan misbruik in de hand werken.
De rol van de AI Office (Europese Commissie) als toezichthouder moet duidelijk worden afgebakend. Nationale toezichthouders moeten voldoende ruimte houden om op te kunnen treden en hun bevoegdheden moeten goed aansluiten op die van de AI Office.
Efficiëntere samenwerking tussen toezichthouders is welkom, maar procedures daarvoor moeten duidelijker worden gemaakt en centrale contactpunten mogen niet leiden tot verlies van bevoegdheden of onafhankelijkheid van nationale privacytoezichthouders.
Overheden kunnen AI-kennis stimuleren, maar organisaties die AI ontwikkelen of gebruiken blijven zelf verantwoordelijk voor voldoende kennis en zorgvuldigheid binnen hun organisatie.
De EDPB en EDPS uiten zorgen over het uitstellen van kernverplichtingen voor AI-systemen met een hoog risico. Zij pleiten ervoor om deze verplichtingen zo veel mogelijk volgens de oorspronkelijke planning te laten ingaan.
De Autoriteit Persoonsgegevens (AP) is een van de toezichthouders in de EDPB.
