Cybersecurity van GenAI Met de toenemende integratie van AI in diverse aspecten van ons leven, rijzen ook nieuwe uitdagingen op het gebied van cyberweerbaarheid. AI-systemen worden steeds complexer en krachtiger, maar tegelijkertijd worden ze ook vatbaarder voor aanvallen en misbruik. GenAI wordt vaak breed ingezet in allerlei organisaties en op allerlei netwerken. Die omgevingen zijn niet altijd (technisch) goed afgeschermd voor intern gebruik of gesegmenteerd van andere operationele netwerken. Dit vergroot het aanvalsoppervlak voor cybercriminelen waardoor ook de risico´s op binnendringen, manipulatie en datalekken toenemen.74 Het grootschalig gebruik van AI-software brengt ook algemene cyberrisico’s met zich mee. Juist door (te) snelle invoering is de AI-programmatuur zelf niet in alle gevallen uitvoerig getest en op (onbewuste) fouten gecontroleerd. Ook de authenticiteit en integriteit van datasets en trainingsprogramma’s is niet altijd gewaarborgd.75 In lijn met de CRA en de Digital Services Act (DSA)76 die de EU oplegt, zijn hiervoor extra waarborgen nodig, zeker in bepaalde domeinen zoals de zorg, waar mensenlevens op het spel staan en veel vertrouwelijke data rondgaat. Het gebruik en de mogelijkheden van GenAI zijn zich nog volop aan het ontwikkelen en de impact op de samenleving kent nog vele onduidelijkheden. Er zijn in ieder geval vier relevante invalshoeken (NCTV, 2024b, p.44): 1. De algoritmen en de data waarmee de algoritmen worden gevoed, kunnen doelbewust worden gemanipuleerd. Dat kan bijvoorbeeld door cyberaanvallen. 2. Gebruikers kunnen (onbedoeld en onbewust) toegang krijgen tot zoekvragen en/of gevoelige informatie door de vragen die ze stellen, de informatie die ze invoeren of de informatie waarmee ze de applicaties voeden. 3. GenAI kan worden gebruikt voor cyberaanvallen. Zo kunnen met behulp van AI meer op een ontvanger toegesneden phishing-mails worden gemaakt. Verder kunnen kwaadwillenden GenAI gebruiken om snel en automatisch interessante doelwitten te detecteren en informatie daarover te verzamelen. Ook kan laagdrempeliger malware worden ontwikkeld. 4. GenAI kan worden ingezet ter verdediging tegen cyberaanvallen, door bijvoorbeeld onregelmatigheden te detecteren in data. 74 Zie ook: https://www.cybersecurityraad.nl/documenten/brieven/2023/12/22/ informerende-brief-aan-de-staatssecretaris-van-bzk-over-generatieve-ai-en-cybersecurity 75 Ibid. 76 https://www.digitaleoverheid.nl/nieuws/dsa-voor-alle-digitale-diensten-van-kracht/ Digitale veiligheid van hard- en software 65
RkJQdWJsaXNoZXIy ODY1MjQ=