AI-modellen voor algemene doeleinden, met inbegrip van grote generatieve AI-modellen, kunnen voor uiteenlopende taken worden gebruikt. Individuele modellen kunnen in een groot aantal AI-systemen worden geïntegreerd.
Het is belangrijk dat een aanbieder die op een AI-model voor algemene doeleinden wil voortbouwen, over alle nodige informatie beschikt om ervoor te zorgen dat zijn systeem veilig is en in overeenstemming is met de AI Act.
Daarom verplicht de AI Act aanbieders van dergelijke modellen om bepaalde informatie bekend te maken aan downstreamsysteemaanbieders. Deze transparantie maakt een beter begrip van deze modellen mogelijk.
Aanbieders van modellen moeten bovendien over beleid beschikken om ervoor te zorgen dat zij bij het opleiden van hun modellen het auteursrecht eerbiedigen.
Bovendien kunnen sommige van deze modellen systeemrisico's met zich meebrengen als ze zeer krachtig zijn of op grote schaal worden gebruikt.
Momenteel worden AI-modellen voor algemene doeleinden die zijn opgeleid met een totale rekenkracht van meer dan 10^25 flops geacht systeemrisico's in te houden, aangezien modellen die zijn opgeleid met een grotere rekenkracht doorgaans krachtiger zijn. Het (binnen de Commissie opgerichte) AI-bureau kan deze drempel actualiseren in het licht van de technologische vooruitgang en kan bovendien in specifieke gevallen andere modellen als zodanig aanwijzen op basis van verdere criteria (bv. aantal gebruikers of de mate van autonomie van het model).
Aanbieders van modellen met systeemrisico's krijgen daarom de opdracht om risico's te beoordelen en te beperken, ernstige incidenten te melden, geavanceerde tests en modelevaluaties uit te voeren, cyberbeveiliging te waarborgen en informatie te verstrekken over het energieverbruik van hun modellen.
Daarvoor wordt hen gevraagd samen te werken met het Europese AI-bureau om gedragscodes op te stellen als centraal instrument om de regels in samenwerking met andere deskundigen uit te werken. Een wetenschappelijk panel zal een centrale rol spelen bij het toezicht op AI-modellen voor algemene doeleinden.
Dit is een vertaald bericht.
