Studenten adviseren Raad van State over verantwoord gebruik van AI

AI als hulpmiddel

Het begon met een studieproject over AI in de schuldhulpverlening. Tijdens dat project kwamen Max en Stijn in contact met Femke de Lange, docent HBO Rechten en coördinator van de minor Mensgerichte Digitale Overheid. Vanuit die minor werd gewerkt aan een adviesrapport voor de Raad van State. Als onderdeel van deze minor schrijven studenten een adviesrapport over hoe de overheid digitale middelen verantwoord kan inzetten.

Aanvankelijk gaven Stijn en Max een gastcollege bij de minor over de inzet van AI binnen de overheid. Maar hun rol groeide en uiteindelijk mochten zij ook een substantiële bijdrage leveren aan het adviesrapport.

Veilig en verantwoord

De Raad van State heeft een belangrijke rol binnen de Nederlandse overheid. Het orgaan adviseert regering en parlement over wetgeving en bestuur en is daarnaast de hoogste algemene bestuursrechter van het land. Dat betekent dat er dagelijks grote hoeveelheden documenten en dossiers worden verwerkt.

Max: "De werkdruk bij de Raad van State is hoog. Een groot deel van het werk bestaat uit het doorzoeken van dossiers en juridische documenten. We hebben gekeken of AI kan helpen bij het sneller doorzoeken daarvan en bij het analyseren van informatie. De vraag was niet alleen: kan het, maar vooral: hoe doe je het veilig en verantwoord?"

Tijdens het onderzoek kwam al snel een belangrijk thema naar voren: de afhankelijkheid van grote internationale technologiebedrijven. Veel overheidsorganisaties werken met systemen van Amerikaanse bedrijven, zoals Microsoft. En dat brengt ook risico’s met zich mee. 

"Als je met gevoelige data werkt, moet je goed nadenken over waar die data terechtkomt en wie er toegang toe heeft", vertelt Stijn. Een belangrijk punt daarbij is Amerikaanse wetgeving, zoals de CLOUD Act. Die wet kan Amerikaanse autoriteiten toegang geven tot gegevens van Amerikaanse bedrijven als Microsoft - óók wanneer het Nederlandse data betreft, die op Amerikaanse servers in Europa staan.

Max: "Dit betekent dat data van Nederlandse overheidsorganisaties in theorie ook toegankelijk zijn voor Amerikaanse autoriteiten. Voor een organisatie als de Raad van State, die met gevoelige documenten werkt, kan dat grote gevolgen hebben. Je moet niet willen dat zulke informatie uiteindelijk bij buitenlandse overheden terechtkomt."

Liever in eigen beheer

Een belangrijke conclusie uit het adviesrapport van Max en Stijn is daarom dat organisaties als de Raad van State technologie zoveel mogelijk in eigen beheer zouden moeten houden. Stijn: "Je wilt eigenlijk dat de technologie waar mogelijk ‘in-house’ blijft." 

Een voorbeeld daarvan is GPT-NL, een Nederlands taalmodel dat grotendeels is getraind op erkende Nederlandse data. "Het voordeel van zo’n model is dat het op Nederlandse servers draait en dat de data binnen een gecontroleerde omgeving blijft. Door zo'n model te koppelen aan interne systemen ontstaat een gesloten infrastructuur, waarin gegevens niet naar externe partijen worden verstuurd. Zo kun je AI gebruiken zonder dat je de controle over je data verliest", zegt Stijn.

De verleiding van bestaande systemen

Toch is het in de praktijk niet eenvoudig om voor zulke alternatieven te kiezen. Veel organisaties werken al jaren binnen het ‘ecosysteem’ van grote technologiebedrijven. Max: "Als je eenmaal in een ecosysteem zit, bijvoorbeeld dat van Microsoft, dan is het lastig om daarvan los te komen. Zelfs als een alternatief technisch goed werkt, betekent dat nog niet dat het eenvoudig is te implementeren." Dat heeft niet alleen met technologie te maken, maar ook met kosten en organisatie. "Er is op dit moment nog geen volledig plug-and-play alternatief. En als je het zelf wilt organiseren, vraagt dat grote investeringen." 

Volgens de studenten speelt ook mee dat veel organisaties denken: als we het bij een grote partij inkopen, dan zal het wel goed zitten. Een vanzelfsprekendheid die steeds vaker ter discussie wordt gesteld. "De vraag is of het gemak van een grote Amerikaanse partner opweegt tegen de mogelijke risico’s”, aldus Max.

OpenAI heeft contract met Amerikaanse defensie

Dat zulke risico's niet hypothetisch zijn, bleek onlangs toen OpenAI een contract sloot met het Amerikaanse ministerie van Defensie voor de inzet van AI op geclassificeerde militaire netwerken. Datzelfde OpenAI is voor bijna de helft in handen van Microsoft, het bedrijf waar veel Nederlandse organisaties dagelijks van afhankelijk zijn voor hun e-mail, documenten en cloud-omgeving.

Koudwatervrees

Naast technologische oplossingen is er volgens de studenten nog iets anders nodig: organisaties moeten durven experimenteren met AI. Max: "We merken vaak dat er koudwatervrees is." 

Zelf geven ze trainingen over AI-gebruik binnen organisaties. "Er is zoveel mogelijk dat mensen niet precies weten waar ze moeten beginnen. Het is belangrijk om pilots te draaien en te experimenteren met toepassingen, zonder ze meteen in kritieke systemen te integreren. Zo kunnen organisaties ervaring opdoen en ontdekken waar AI daadwerkelijk meerwaarde heeft.”

Gastles over verantwoorde AI

Voor het adviesproject gaven de studenten een gastles aan studenten van de minor Mensgerichte Digitale Overheid. Daarin stond verantwoorde AI centraal. Max: "We hebben laten zien waar algoritmes fouten kunnen maken en waarom ethiek zo belangrijk is bij technologiekeuzes." Om het onderwerp toegankelijk te maken, gebruikten ze praktische voorbeelden en visualisaties. "We hebben geprobeerd het inzichtelijk te maken met concrete voorbeelden en cartoons zodat iedereen de basisbegrippen beter begrijpt." 

Bij de gastles zaten studenten van verschillende studierichtingen, van rechten tot maatschappelijk werk. "Juist dat multidisciplinaire maakte het interessant, omdat iedereen vanuit een ander perspectief naar technologie kijkt”, zegt Max.

Ondernemen met AI

Naast hun studie werken Max en Stijn inmiddels ook aan hun startup Kaires. Vanuit de minor Ondernemerschap (opent in nieuw venster) zijn ze een start-up begonnen voor de retailsector. Hun service "ontzorgt retailers van hun muziekkeuzestress, zorgt voor een omzet-optimalisatie en sluit aan bij de gewenste klantbeleving." Volgens het duo laat hun start-up zien hoeveel mogelijkheden AI biedt. "Door AI is veel kennis toegankelijker geworden. We kunnen nu zelf toepassingen bouwen die vroeger alleen voor grote bedrijven haalbaar waren."

De mens aan de knoppen

Tegelijkertijd vinden de studenten dat AI niet volledig autonoom moet opereren. "Veel bedrijven gebruiken AI vooral om efficiënter te werken." Zelf kijken ze liever naar het uitgangspunt ‘human in the loop’: de mens moet aan de knoppen blijven. Juist daarom sprak de minor Mensgerichte Digitale Overheid hen zo aan. "Je ziet aan de ene kant systemen die zonder nadenken dingen kopiëren, maar ook zie je innovatie." Volgens hen ligt daar een opdracht voor Nederland. "We moeten hier echt zelf het voortouw nemen en niet alleen technologie gebruiken, maar die ook zelf ontwikkelen", aldus Max.