Veilige en verantwoorde inzet van AI binnen gemeenten: Verantwoorde Inkoop AI (VIA)
Project
Gemeenten maken steeds vaker gebruik van kunstmatige intelligentie (AI) om hun dienstverlening te verbeteren. Denk aan chatbots, automatische verwerking van formulieren of het signaleren van hulpvragen. Deze toepassingen bieden kansen, maar brengen ook risico’s met zich mee. Bijvoorbeeld op het gebied van privacy, gelijkheid en betrouwbaarheid. Het project Verantwoorde Inkoop AI (VIA) richt zich op de vraag hoe gemeenten AI op een verantwoorde manier kunnen inkopen en toepassen. Dit project wordt gefinancierd door Regieorgaan SIA.
Aanleiding
In de praktijk kopen gemeenten veel AI-toepassingen in bij externe partijen. Daardoor ligt een belangrijk deel van het risicomanagement bij het inkoopproces. Bestaande instrumenten, zoals modelcontracten en richtlijnen, bieden houvast, maar zijn vaak te algemeen en houden onvoldoende rekening met de specifieke context waarin AI wordt gebruikt.
De werking en impact van AI hangen sterk af van factoren zoals datakwaliteit, de gebruikers en de toepassing binnen de organisatie. Hierdoor zijn risico’s vooraf lastig te overzien en kunnen ongewenste effecten ontstaan, zoals discriminatie of onbetrouwbare uitkomsten. Gemeenten hebben daarom behoefte aan praktische manieren om deze risico’s beter te begrijpen en te beheersen.
Doel
Het doel van het project is het ontwikkelen van een socio-technische toolbox voor Verantwoorde Inkoop AI (stt-VIA). Deze toolbox helpt gemeenten om AI-toepassingen beter te beoordelen, risico’s te beheersen en tegelijkertijd innovatie mogelijk te maken.
De focus ligt op het ondersteunen van gemeenten bij het maken van keuzes die bijdragen aan publieke waarde, in lijn met wet- en regelgeving zoals de AVG en de Europese AI-verordening.
Aanpak
Binnen het project wordt gewerkt met een design science aanpak, waarbij oplossingen iteratief worden ontwikkeld en getest in de praktijk.
De toolbox combineert procesverbeteringen en technische instrumenten. Zo wordt gewerkt aan betere afstemming op gebruikers en het betrekken van stakeholders, maar ook aan tests voor bijvoorbeeld non-discriminatie en betrouwbaarheid.
Door te werken met concrete inkoopcasussen van deelnemende gemeenten wordt de toolbox direct in de praktijk toegepast en doorontwikkeld. Daarnaast wordt een testomgeving ontwikkeld waarin AI-toepassingen binnen de specifieke context van een gemeente veilig kunnen worden geëvalueerd.
Beoogde resultaten
Het project levert een praktische toolbox die gemeenten helpt om AI-toepassingen verantwoord in te kopen en te implementeren. Het biedt inzicht in risico’s en ondersteunt bij het maken van goed onderbouwde keuzes.
Daarnaast ontstaat er een werkwijze waarmee gemeenten AI-toepassingen kunnen testen en vergelijken binnen hun eigen context. Dit draagt bij aan betere besluitvorming en helpt gemeenten om te voldoen aan regelgeving.
Hogescholen
- Hogeschool Utrecht (penvoerder)
- Hogeschool van Amsterdam, Responsible IT
- Hogeschool Rotterdam
Praktijkpartners
- Gemeente Utrecht
- Gemeente Rotterdam
- Gemeente Eindhoven
- Vereniging van Nederlandse Gemeenten (VNG)
- Provincie Zuid-Holland
- ICTU
Netwerkpartners
- ROM Utrecht
Expertpartners
- NEN
- Data School
- Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK)
Dit project wordt gefinancierd door Regieorgaan SIA.