AI Act: wat organisaties moeten doen voor verantwoorde AI-beheersing

Menselijk toezicht is verplicht

Organisaties die AI inzetten moeten actief maatregelen treffen. Passief gebruik is niet langer toereikend. Er moet beleid komen, toezichtprocedures moeten worden ingericht, medewerkers moeten worden getraind in AI-geletterdheid en verantwoordelijkheden moeten worden vastgelegd. Deze verplichtingen gelden niet alleen voor high-risk systemen, maar ook voor toepassingen die indirecte invloed hebben op mensen of processen. Denk bijvoorbeeld aan een chatbot die automatisch klantvragen afhandelt. Ook daar moet u zorgen voor controle en transparantie vanaf het begin.

Data moet kloppen, en dat is de verantwoordelijkheid van de gebruiker

De kwaliteit van AI-systemen valt of staat met de data waarop ze zijn getraind. Gebruikers moeten toezien op het gebruik van voldoende representatieve en relevante data. Dat betekent controleren of de data aansluit bij het beoogde gebruik en of verschillende perspectieven en doelgroepen voldoende zijn vertegenwoordigd. Denk bijvoorbeeld aan het vermijden van datasets die alleen gegevens bevatten van één specifieke leeftijdsgroep, geslacht of culturele achtergrond. Zo voorkomt u bevooroordeelde of eenzijdige uitkomsten.

Daarnaast moeten gebruikers de datakwaliteit toetsen aan de hand van de doelen waarvoor het systeem wordt ingezet. Bepaal vooraf welke uitkomsten het systeem moet ondersteunen, en controleer of de data daarvoor geschikt, volledig en actueel is.

Verplicht melden van incidenten

Incidenten waarbij het AI-systeem faalt, schade veroorzaakt of onverwachte uitkomsten genereert, moeten door de gebruiker gemeld worden aan zowel de aanbieder als de bevoegde toezichthouder. Afhankelijk van de AI die wordt ingezet, zijn verschillende toezichthouders bevoegd. Identificeer deze dus op voorhand. Tijdige melding voorkomt verdere schade, beperkt juridische aansprakelijkheid en beschermt de reputatie van de organisatie. Zorg dus voor een meldprotocol met aanwijzing van de toezichthouder per AI, duidelijke verantwoordelijkheden en training van medewerkers in het herkennen van incidenten.

Registratie in de Europese databank

Voor AI-systemen geldt dat gebruikers het feitelijke gebruik van deze systemen moeten registreren in een door de EU beheerde databank. Dit vergroot het toezicht op de markt en zorgt voor transparantie over waar en hoe AI wordt toegepast binnen de Unie.

Gebruikt u als organisatie bijvoorbeeld een GPT- of Copilot-oplossing? Dan is registratie meestal niet nodig bij eenvoudige toepassingen, zoals tekstsuggesties of e-mailondersteuning. Maar zodra AI wordt ingezet voor besluitvorming met impact op mensen, zoals personeelsselectie of beoordeling, dan is registratie wel verplicht. Het is dus belangrijk om het gebruik goed te analyseren en te bepalen of uw toepassing onder deze verplichting valt.

Bewustwording als eerste stap

De AI Act markeert een kantelpunt in de manier waarop organisaties omgaan met kunstmatige intelligentie. Niet alleen ontwikkelaars, maar ook gebruikers dragen verantwoordelijkheid voor een veilige, eerlijke en transparante inzet. Het treffen van maatregelen, het opleiden van personeel, het garanderen van menselijk toezicht en het naleven van meld- en registratieplicht zijn geen vrijblijvende keuzes, ze vormen de basis voor toekomstbestendige AI-toepassingen binnen een Europees kader.

Een proactieve houding beschermt niet alleen de eindgebruiker, maar versterkt ook het vertrouwen in technologie.