Europese verboden op ongewenste AI-toepassingen ingegaan

De gehele AI-verordening biedt kansen voor zowel ontwikkelaars als ondernemers en ook waarborgen voor Europese consumenten. Het gaat onder andere om basisafspraken over de werking van AI in producten en diensten, eisen aan (mogelijk) risicovolle toepassingen en de ondersteuning van ontwikkelaars zoals mkb’ers. Zo kunnen Europeanen vertrouwen op AI en ondernemers gerichter aan de slag met innovaties.

Minister Dirk Beljaarts (Economische Zaken): “We streven naar AI-modellen die werken volgens Europese normen en waarden. Niet alleen voor een veilige werking van de technologie. Zo kunnen we ook de kansen voor innovatie en ondernemers beter benutten. Vanaf vandaag verbieden we ongewenste risico’s van meerdere AI-systemen. Dat past bij de balans waarnaar we streven. Strenge regels waar nodig, maar géén onnodige regels voor bedrijven die laag-risico AI-systemen ontwikkelen en toepassen.”

Belangrijkste verboden

Naast het verbod op sociale scoring via de technologie, zijn ook AI-systemen niet meer toegestaan die emotieherkenning in het werk en onderwijs toepassen. Evenals AI-systemen die manipulatieve of misleidende technieken gebruiken, om in negatieve zin gedrag te veranderen. Hetzelfde geldt voor realtime biometrische identificatie op afstand in de openbare ruimte voor rechtshandhaving, met beperkte uitzonderingen. Ook het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten uitsluitend op basis van profilering is niet meer gedoogd in de EU.

Stapsgewijze invoering

De AI-verordening is op 1 augustus 2024 in werking getreden, maar de verschillende onderdelen zijn gefaseerd van toepassing. Dit geeft ontwikkelaars en aanbieders van hoog-risico AI gelegenheid om hun toepassingen te laten voldoen aan de nieuwe eisen.

2 februari 2025: bepalingen op verboden AI;
2 augustus 2025: eisen voor AI-modellen voor algemene doeleinden (general purpose AI);
2 augustus 2026: eisen voor hoog-risico AI-toepassingen en transparantieverplichtingen;
2 augustus 2027: eisen voor hoog-risico AI-producten; volledige AI-verordening geldt;
2 augustus 2030: eisen voor hoog-risico AI-systemen bij overheidsorganisaties die vóór augustus 2026 op de markt zijn gebracht.

Toezicht

Nationale toezichthouders gaan erop toezien dat de verboden voor bepaalde AI-systemen en de eisen voor hoog-risico AI en transparantie worden nageleefd. De Europese Commissie gaat toezicht houden op de grote AI-modellen die voor veel verschillende doelen gebruikt kunnen worden.