De Commissie stelt een risicogebaseerde aanpak voor met vier risiconiveaus voor AI-systemen, alsook een identificatie van risico's die specifiek zijn voor modellen voor algemene doeleinden:
Minimaal risico : Alle andere AI-systemen kunnen zonder bijkomende wettelijke verplichtingen conform de bestaande wetgeving worden ontwikkeld en gebruikt. De grote meerderheid van de AI-systemen die op dit moment in de EU worden gebruikt of wellicht zouden kunnen worden gebruikt, behoren tot deze categorie. Aanbieders van die systemen kunnen ervoor kiezen de vereisten voor betrouwbare AI toe te passen en niet-bindende gedragscodes na te leven.
Hoog risico : Een beperkt aantal AI-systemen die in het voorstel worden gedefinieerd en die de veiligheid van mensen of hun grondrechten mogelijk schaden (zoals beschermd door het Handvest van de grondrechten van de EU), worden als risicovol beschouwd. De verordening gaat vergezeld van een lijst van AI-systemen met een hoog risico, die kan worden herzien op basis van de ontwikkeling van AI-toepassingen in de praktijk.
Het gaat ook om veiligheidscomponenten van producten die onder sectorale wetgeving van de Unie vallen. Zij worden per definitie een hoog risico beschouwd als zij in het kader van de sectorale wetgeving aan een conformiteitsbeoordeling door derden moeten worden onderworpen.
Onaanvaardbaar risico : Een zeer beperkt aantal bijzonder schadelijke toepassingen van AI die in strijd zijn met de waarden van de EU omdat zij de grondrechten schenden en daarom verboden zullen worden:
sociale scoring voor de overheid en de particuliere sector;
uitbuiting van kwetsbaarheden van personen, gebruik van subliminale technieken;
biometrische identificatie op afstand in realtime in openbare ruimten door rechtshandhavingsinstanties, behoudens beperkte uitzonderingen (zie hieronder);
biometrische categorisering van natuurlijke personen op basis van biometrische gegevens om hun ras, politieke overtuiging, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuiging of seksuele geaardheid te deduceren of te infereren. Het filteren van datasets op basis van biometrische gegevens op het gebied van rechtshandhaving zal nog steeds mogelijk zijn;
individueel voorspellend politiewerk;
emotieherkenning op de werkplek en in onderwijsinstellingen, tenzij om medische of veiligheidsredenen (d.w.z. monitoring van het vermoeidheidsniveau van een piloot);
het niet-gericht scrapen van internet of CCTV-beelden voor gezichtsopnamen om databanken op te bouwen of uit te breiden.
Specifiek transparantierisico: Voor specifieke AI-systemen worden een aantal transparantieverplichtingen opgelegd, bijvoorbeeld wanneer er een duidelijk risico op manipulatie bestaat (bv. door het gebruik van chatbots). Gebruikers moeten zich ervan bewust zijn dat zij met een machine interageren.
Daarnaast wordt in de AI Act rekening gehouden met systeemrisico's die kunnen voortvloeien uit AI-modellen voor algemene doeleinden, met inbegrip van grote generatieve AI-modellen. Deze kunnen voor verschillende taken worden gebruikt en vormen intussen de basis voor veel AI-systemen in de EU. Sommige van deze modellen kunnen systeemrisico's met zich meebrengen als ze zeer krachtig zijn of op grote schaal worden gebruikt. Krachtige modellen kunnen bijvoorbeeld ernstige ongevallen veroorzaken of worden misbruikt voor vergaande cyberaanvallen. Veel personen kunnen worden getroffen als een model schadelijke vooroordelen in veel toepassingen verspreidt.
Dit is een vertaald bericht.
