Aanvallen op AI-systemen: een aanvaller probeert aanpassingen te maken in je data, algoritme of model zodat het niet meer werkt zoals gewenst. Organisaties kunnen zich verdedigen tegen de verschillende manieren van aanvallen, door AI-systemen veilig te ontwikkelen. De Algemene Inlichtingen- en Veiligheidsdienst (AIVD) geeft daarvoor 5 principes.
Een automatische scanner voor de doorvoer van goederen die onbedoeld wapens doorlaat. Een op AI-gebaseerd malware-detectieprogramma dat verkeerde trainingsdata heeft gekregen en nu niet meer werkt. Aanvallers die gevoelige gegevens uit je AI-systeem weten te achterhalen. En dat alles zonder dat je het als eigenaar op tijd door hebt. Zomaar een paar voorbeelden van de mogelijk desastreuze gevolgen van gemanipuleerde AI-systemen.
AI-systemen kunnen organisaties helpen om processen sneller, slimmer en beter uit te voeren. Denk aan modellen voor beeldherkenning, spraaktechnologie of cybersecurity. Ontwikkelingen in AI gaan snel. Zo snel, dat het belangrijk is om nu direct AI-systemen veilig te ontwikkelen.
Deze 5 belangrijke principes helpen bij het nadenken over het veilig ontwikkelen en gebruiken van AI-modellen in je organisaties. Belangrijk dat security experts en AI experts met elkaar hierover in gesprek gaan.
Houd de datakwaliteit op orde.
Zorg voor validatie van je data.
Houd rekening met supply chain security.
Maak je model robuust tegen aanvallen.
Zorg dat je model controleerbaar is.
