Aanval opGenAI Aanval met GenAI Verdediging vanGenAI Verdediging met GenAI Om de bovengenoemde invalshoeken verder te duiden, hebben de Algemene Inlichtingen- en Veiligheidsdienst en de Rijksinspectie Digitale Infrastructuur (AIVD & RDI, 2024) het GenAI cybersecuritykwadrant geïntroduceerd (zie figuur 13). Het kwadrant bestaat uit twee assen. De bovenste vlakken hebben betrekking op de offensieve aspecten van GenAI. Dit zijn dus de dreigingen die gepaard kunnen gaan met GenAI. De onderste as heeft betrekking op het verdedigen van GenAI-systemen en het gebruik van GenAI voor het verdedigen van systemen tegen cyberaanvallen, in het kader van cyberweerbaarheid en veilig gebruik. Op de linkerzijde van het kwadrant is het GenAI-systeem het doel van de aanval of verdediging; rechts wordt GenAI gebruikt als het middel voor de aanval of verdediging. Figuur 13. G enAI cybersecuritykwadrant (bewerkt van de AIVD en de RDI, 2024). Een eerste verkennend onderzoek binnen mijn lectoraat is reeds gestart naar cybersecurity van GenAI. Docent-onderzoeker Peter van Eck leidt het onderzoek binnen het zorgdomein samen met de Avans Hogeschool lectoraten van Ander de Keijzer en Janine Jansen, het DTC van het ministerie van EZ, zorgverzekeraar ONVZ en met hulp van Z-CERT, het expertisecentrum voor cybersecurity in de zorg. Het onderzoek richt zich primair op het kwadrant linksboven in figuur 13: aanval op GenAI. Hierbij gaat het om aanvallen die gericht zijn op het verstoren of misleiden van GenAI-systemen, inclusief pogingen om de trainingsdata te beïnvloeden of de GenAI op ongepaste wijze te manipuleren (AIVD & RDI, 2024). Vanuit het lectoraat werken ook Esger ten Thij, Renske Korenromp, Astrid van Erk, Roel de Beer en Bert Bambach mee aan dit onderzoek. De resultaten zullen dienen als basis voor verdere onderzoeksinspanningen om de veiligheid van GenAI te versterken en de ontwikkeling van veilige en betrouwbare AI-systemen te bevorderen. Digitale veiligheid van hard- en software 66
RkJQdWJsaXNoZXIy ODY1MjQ=