AI handig hulpmiddel op de werkvloer? 'Risico op datalek is groot'

Het gebruik van AI-modellen als ChatGPT, Gemini en Claude dringt steeds verder door in ons dagelijks leven, óók op de werkvloer. Regels voor het gebruik zijn er vaak nog niet, waardoor organisaties nauwelijks zicht hebben op de informatie die werknemers in de modellen stoppen. Deskundigen waarschuwen voor de risico's die dat met zich meebrengt.

Werknemers in allerlei sectoren hebben inmiddels ontdekt hoe generatieve AI - zoals deze modellen worden genoemd - hun werk efficiënter kan maken. Een arts kan het gebruiken om snel een verwijsbrief op te stellen, een advocaat om een dossier samen te vatten, een journalist om een interview uit te werken. Maar deze handelingen zijn niet zonder risico. Persoonsgegevens, bedrijfsgeheimen of vertrouwelijke dossiers kunnen zo ongemerkt in openbare AI-systemen terechtkomen.

AI-gebruik door werknemers dat buiten het zicht gebeurt van de organisatie waarvoor ze werken, wordt 'Shadow AI' genoemd. "De grootste risico's zitten in medewerkers die willen werken met AI, maar niet goed weten hoe ze dat veilig moeten doen", zegt Jan van der Put. Hij is ethisch hacker en directeur van een cybersecuritybedrijf dat veel werkt voor de Rijksoverheid.

Volgens hem gaat het vooral mis bij organisaties die nog geen duidelijke afspraken hebben gemaakt over AI-gebruik. "Dan gaan werknemers zelf aan de gang met bijvoorbeeld ChatGPT en gooien ze daar data in waar mogelijk persoons- of bedrijfsgegevens in zitten, zonder dat ze zich dat realiseren. Of zich bewust zijn van de privacy-instellingen van het AI-model."

Gemeente Eindhoven en Amazon

"Denk aan BSN-nummers, aan Wmo-gegevens, gegevens over verslavingsgevoeligheid of financieel gevoelige data", zegt Remco van der Schoot, AI-onderzoeker aan de Hogeschool Utrecht. "Daardoor ontstond een datalek."

Ook technologiebedrijf Amazon legde het AI-gebruik onder werknemers aan banden, nadat bleek dat bedrijfsinformatie openbaar was geworden. "Als we data in een AI-model zetten, kan die data worden gebruikt om het model te trainen", legt Van der Schoot uit. "Dan kan het dus gebeuren dat die informatie publiek toegankelijk wordt, en dat is bij Amazon gebeurd. Interne documentatie werd teruggevonden in ChatGPT."

Kop in 't zand

Wat de onderzoeker betreft moeten organisaties serieus aan de slag met hun AI-beleid. "Je kunt niet je kop in het zand steken en dit negeren, want dat creëert op de lange termijn alleen maar meer problemen."

Volgens ethisch hacker Van der Put is het gebruik van AI-modellen helemaal verbieden uiteindelijk niet de oplossing. "Het beste wat je kunt doen, is wel íets faciliteren, zodat je ook kunt monitoren hoe het wordt gebruikt."

Dat kan bijvoorbeeld met speciale software. De Amerikaanse startup Unseen biedt software aan die het lekken van data via AI-modellen kan voorkomen. "Unseen kan je er bijvoorbeeld op wijzen als een werknemer vertrouwelijke data in een AI-systeem stopt", zegt mede-oprichter Frey Khademi. "Maar we kunnen de data ook automatisch anonimiseren."