AI Security White Paper

Met de groei van big data en dankzij drastische verbeteringen in computerkracht en continue innovatie in Machine Learning (ML) en Artificial Intelligence (AI) technologieën zijn oplossing zoals beeldherkenning, spraakherkenning en natuurlijke taalverwerking overal. Ondertussen heeft AI een aanzienlijke impact op computerbeveiliging: enerzijds kan AI worden gebruikt om defensieve systemen te bouwen, zoals detectie van malware en netwerkaanvallen. Anderzijds kan AI worden uitgebuit om aanvallen te lanceren. 

In sommige scenario's is de beveiliging van AI-systemen een kwestie van leven en dood. Dus het bouwen van robuuste AI-systemen die immuun zijn voor externe inmenging is essentieel. AI kan de veiligheid ten goede komen en vice versa.

Het belangrijkste doel van dit whitepaper is om de veiligheid van AI te onderzoeken m.b.t. de bescherming van de integriteit en vertrouwelijkheid van AI-modellen en gegevens, en zo voorkomen dat aanvallers resultaten wijzigen of gegevens stelen.