Artificial Intelligence (AI) wordt tegenwoordig door bijna iedereen, bewust of onbewust, gebruikt. Dit zorgt ervoor dat het lastig is om het gebruik binnen de organisatie te verbieden aangezien mensen het alsnog gebruiken op hun eigen telefoon of laptop.
Shadow AI
Shadow AI is simpel weg het gebruik van AI door medewerkers zonder dat IT of management hier zicht op heeft. De organisatie denkt dan dat AI nog niet in gebruik is, maar in de praktijk is dat wel zo. Zo kan een medewerker een privé-account bij ChatGPT, Gemini of een andere AI-dienst gebruiken om documenten samen te vatten.
AI-agent
Een AI-agent is een vorm van AI die zelfstandig taken kan uitvoeren. Zo kan het bijvoorbeeld systemen doorzoeken, e-mails versturen of bestanden wijzigen.
Hoe groot het gevaar van een AI-agent is ligt aan meerdere factoren. Stel daarom de volgende vragen wanneer een AI-agent wordt ingezet:
- Welke informatie en systemen kan de agent bereiken? Hoe meer toegang, hoe groter het aanvalsoppervlak.
- Mag de agent alleen adviseren of ook zelfstandig handelen zonder menselijke goedkeuring?
- Impact wat kan er fout gaan als de agent een verkeerde actie uitvoert? Financieel verlies, dataverlies, reputatieschade?
Behandel een AI-agent als een digitale medewerker. Zorg dat het herkenbaar is welke agent een handeling uitvoert en geef alleen toegang tot informatie en functies die nodig zijn. Ook is het handig om ervoor te zorgen dat de agent geen aanpassingen kan doen zonder menselijke goedkeuring. Leg daarom vast welke informatie en systemen de agent gebruikt en wat hij uitvoert. Wanneer een agent niet meer goed werkt of veel fouten maakt moet het, net als een gebruikersaccount, snel worden uitgeschakeld.
Mogelijkheden en dreigingen
Binnen organisaties kan AI voor verschillende dingen worden ingezet. Zo kunnen medewerkers AI gebruiken voor teksten, vertalingen, analyses en bestanden. Ook koppelen organisaties AI steeds vaker aan mailboxen, documenten en bedrijfsapplicaties.
AI biedt niet alleen kansen, maar ook risico’s voor de digitale veiligheid. Aanvallers kunnen AI namelijk gebruiken om hun aanvallen sneller, efficiënter en op grotere schaal uit te voeren. Ook wordt AI gebruikt om organisaties en medewerkers te onderzoeken. Hierdoor kunnen phishing en andere vormen van fraude persoonlijker en overtuigender overkomen.
Ook wordt het lastiger om phishing te herkennen, omdat phishingberichten door AI minder spelfouten bevatten. Wat het nog lastiger maakt is dat veel klassieke phishingadviezen zich richten op rare zinnen, slechte vertalingen, spelfouten en onnatuurlijk taalgebruik. AI voorkomt dit en zorgt er dus voor dat de aanvallers overtuigender te werk kunnen gaan.
De inzet van AI kan dus op meerdere vlakken een dreiging vormen. Zo kunnen er op één dag meerdere AI-risico’s voorkomen.
Het risico dat AI vormt hangt af van de informatie, de toegang en wat de tool of een aanvaller met de informatie kan doen.
Welke informatie geef je aan AI
Niet alle informatie heeft hetzelfde risiconiveau. Het verkeerslichtmodel helpt bij een snelle afweging wanneer AI eventueel wel gebruikt zou kunnen worden. De benodigde mate van controle hangt af van de aard van de informatie en de autonomie van de AI. Zo verschilt de verwerking en opslag van gegevens per AI-tool. Het volgende eenvoudige model helpt om te bepalen wanneer AI kan worden gebruikt:
Goed AI-beleid
Ook is het goed om binnen een organisatie duidelijk te hebben waar en wanneer AI gebruikt mag worden. Hier helpt een goed AI-beleid mee. Dit is geen lange lijst met verboden, maar een duidelijke set spelregels die medewerkers houvast biedt bij het veilig en verantwoord inzetten van AI-tools. Kijk dus naar de werkzaamheden waar AI voor wordt ingezet en welke informatie er ingevoerd wordt.
- Welke AI-tools mag ik gebruiken?
- Voor welke werkzaamheden mag ik in AI inzetten?
- Welke informatie mag ik invoeren in AI-systemen?
- Wanneer moet ik toestemming vragen voordat ik AI gebruik?
- Mag AI gekoppeld worden aan andere systemen?
- Wanneer is menselijke controle over AI-output verplicht?
- Bij wie meld ik een nieuwe AI-toepassing?
- Wat doe ik als vertrouwelijke informatie per ongeluk is gedeeld?
Wat kan je vandaag doen?
Ook tegen aanvallers die AI gebruiken, blijven bestaande maatregelen effectief. Je hoeft in ieder geval niet ieder AI-aanvalsscenario te voorspellen. Zorg dat één overtuigende mail, stem of gestolen account niet genoeg is om grote schade te veroorzaken.
- Zorg voor een vier-ogenprincipe. Belangrijke acties vereisen goedkeuring van twee personen.
- Onafhankelijke verificatie. Dubbelcheck gevoelige verzoeken via een betrouwbaar kanaal.
- Security Awareness. Medewerkers trainen om dreigingen te herkennen en te voorkomen.
- Minimale rechten. Verleen alleen toegang aan medewerkers tot wat strikt noodzakelijk is voor hun rol binnen de organisatie.
- Vastleggen en controleren. Leg vast en analyseer systeemactiviteiten zodat fraude sneller gedetecteerd is.
AI biedt bedrijven veel mogelijkheden, maar brengt ook risico’s met zich mee omdat veel tuinbouwbedrijven afhankelijk zijn van digitale systemen. Hoewel deze systemen werkzaamheden versnellen, zijn ze niet altijd goed beschermd tegen cyberaanvallen. Met AI kunnen cybercriminelen sneller zwakke plekken vinden en overtuigende phishingmails opstellen. Organisaties kunnen de risico’s beperken met duidelijke afspraken over welke tools en informatie zijn toegestaan, beperkte toegangsrechten, menselijke controle en goede beveiligingsmaatregelen.
Foto: iStock/Pugun SJ
Bron: NCSC