Moralis Machina wakkert ethische dialoog over AI aan
Nieuws
Op grote veranderingen kun je verschillend reageren. Je kunt ervoor wegrennen, afwachten of actie ondernemen. De Provincie Noord-Holland koos voor de laatste optie toen AI door de komst van ChatGPT eind 2022 een enorme vlucht nam en breed beschikbaar werd. “Deze vorm van Generatieve AI raakt het werk en de vaardigheden van onze organisatie”, vertelt Martijn Veerman. “Tegelijkertijd gingen collega’s ermee experimenteren. Aangezien overheden een bijzondere verantwoordelijkheid hebben voor de inzet van technologie - juridisch en maatschappelijk - is het belangrijk dat onze organisatie verantwoord met AI omgaat.” Daarom zette Martijn met collega’s een experimenteeromgeving op om gecontroleerd met AI te kunnen oefenen. “We wilden ervaren wat de impact op ons werk kan zijn.” Het experiment werd het startsein voor een bredere aanpak in samenwerking met de Hogeschool van Amsterdam, die resulteerde in een researcher-in-residence, workshops en kaartspel Moralis Machina.
“We realiseerden ons dat Generatieve AI meer is dan een handige schrijfhulp. Het raakt aan waarden als dataveiligheid, privacy, betrouwbaarheid en transparantie. Daarnaast wilden we onderzoeken wat voor soort taken het meest door AI geraakt wordt en hoe dat ons werk beïnvloedt”, aldus Martijn Veerman. Bij de Provincie Noord-Holland werkt hij als beleidsadviseur verantwoorde technologie. Door de komst van Generatieve AI zijn ethische kwesties belangrijk om te bespreken. Welke rol neem je als organisatie aan en welke koers ga je varen? Hoe kun je enerzijds voldoen aan wet- en regelgeving, en anderzijds richtlijnen bedenken die goed aansluiten op de praktijk? In een relatief vroeg stadium schafte de provincie de OpenAI Playground aan, “zodat we konden leren en experimenteren met geavanceerde AI-modellen binnen een gereguleerde en afgeschermde omgeving”, licht Martijn toe. “Zodoende konden we de hele organisatie betrekken en bevragen op hun AI-gebruik en de wenselijkheid daarvan.”
Via het netwerk van het toenmalige Amsterdam Smart City kwam Martijn in contact met de Hogeschool van Amsterdam en werd het experiment een gezamenlijk onderzoek. Hoe kunnen we samen praktische richtlijnen en een kader ontwikkelen, waarbinnen medewerkers van de Provincie Noord-Holland op verantwoorde wijze gebruik kunnen maken van Generatieve AI als ChatGPT? Daarbij staat de impact van de technologie op het werk centraal. Als researcher-in-residence sloot Sophie Horsman aan van de onderzoeksgroep Responsible IT. Een half jaar lang was zij iedere maandag op het provinciekantoor in Haarlem te vinden. “Ik wilde niet alleen vanaf de zijlijn toekijken, maar onderzoek doen daar waar het echte onderzoek plaatsvindt. Martijn en zijn collega’s hadden intern al veel gesprekken gevoerd, waarna we in teamverband interviews en workshops organiseerden”, legt Sophie uit. “Regelmatig komt iemand van buitenaf langs voor een presentatie en blijft het bij kennisoverdracht”, vult Martijn aan, “nu was er sprake van echte co-creatie. De praktijk van de overheid bundelden we met onderzoek; dat ging heel soepel en organisch.”
Workshops zorgen voor kritischer en genuanceerder beeld
Er werd gestart met een reeks workshops. In verschillende sessies experimenteerden collega’s van de Provincie Noord-Holland met AI en werkten zodoende aan hun AI-geletterdheid. Daarna volgde een ethische dialoog over de rol, transparantie en het gebruik van AI, gevolgd door een reflectie op de impact van de technologie op het werk. “Aan het onderzoek deden in eerste instantie vijf teams mee, maar het begon al snel uit de hand te lopen”, lacht Martijn. Uiteindelijk deden honderden collega’s mee. Hoe kijken verschillende teams tegen het gebruik van AI aan? Sophie: “Communicatiespecialisten hadden een andere focus dan bijvoorbeeld juristen. Waar het redigeren van teksten door AI voor communicatie handig kan zijn, is dat voor juristen een absolute no go aangezien je enorm moet oppassen met welke informatie je deelt. Waar de communicatieafdeling dan weer niets in zag, was teksten vanuit het niets genereren.” Het doel van de workshops was om ervaringen te delen, mensen bij elkaar te brengen en toe te werken naar een consensus.
Het is een risico wanneer ideeën en ervaringen binnen teams enorm uit elkaar liggen, en er niet met elkaar over gesproken wordt
Sophie Horsman
Docent-onderzoeker Responsible IT
“Aan het begin van de workshops was het sentiment binnen de deelnemende groepen sterk verdeeld”, geeft Martijn aan. “Sommige collega’s waren sceptisch en bezorgd over de gevolgen van deze technologie voor hun baan. Anderen waren enthousiast, positief, flink aan het experimenteren en wilden weten waar de grenzen liggen.” Door ervaring op te doen met AI-systemen in de workshops zagen Martijn en Sophie een verandering in houding optreden. Sophie: “Heel kritische collega’s werden genuanceerder en dachten: goh, toch handig die tool. De enthousiastelingen werden juist kritischer en kwamen erachter dat AI ondanks alle beloftes best wat fouten maakt.” Beide groepen schoven op naar het midden en konden elkaar daar vinden. Bespreekbaar maken wat wel of niet wenselijk is en waarom leidt tot meer eigenaarschap in een team. Er ontstaat een gevoel van controle over hoe zaken lopen en je eigen rol daarin. Een conclusie kan bijvoorbeeld zijn om AI niet of alleen voor een specifieke taak in te zetten.
Moralis Machina daagt deelnemers uit
Een ethische dialoog is belangrijk, maar kan snel abstract worden en ‘droog zijn’. Hoe kunnen we zo’n gesprek in een aantrekkelijk jasje steken, zodat het concreet, toegankelijk en leuk wordt? Met die gedachte in het achterhoofd ontwikkelden Sophie, Martijn en zijn collega’s Moralis Machina. Dit kaartspel daagt spelers uit om zich in te leven in scenario’s die de effecten van AI op het werk laten zien. Daarvoor nemen zij in het spel verschillende rollen aan. Denk aan die van redacteur, leeshulp, orakel of schrijver. Doel van het spel is bewustzijn creëren, kritisch denken bevorderen en gezamenlijke standpunten en oplossingen vinden.
Sophie: “Het spel kan een gespreksstarter zijn en zelfstandig gespeeld worden, al is het beter om een facilitator erbij te hebben. De teams die bij de provincie deelnamen, waren heel enthousiast over het spel en maakten er graag tijd voor vrij.” Sophie en Martijn merkten dat de ethische dialoog aan de hand van het spel enerzijds levendiger werd en anderzijds meer structuur kreeg. Ook was er meer grip op het onderwerp.
Wat dit project bijzonder maakt, is de aanpak ‘van onder op’. Normaal ben je misschien geneigd om regels te bepalen die top-down in de organisatie landen. Je hoopt dan dat mensen die vanzelf oppakken. Wij draaien het om: we lieten teams zelf ontdekken wat verantwoord AI-gebruik voor hen betekent. Die bottom-upaanpak is krachtig, omdat er richtlijnen ontstaan die gedragen worden door de mensen die ermee werken.
Martijn Veerman
Beleidsadviseur verantwoorde technologie Provincie Noord-Holland
Van kaartspel naar online game
De belangstelling voor Moralis Machina groeide. Niet alleen wilden meerdere teams binnen de provincie met het spel aan de slag, ook andere (overheids-)organisaties toonden interesse. Om het kaartspel breed toegankelijk te kunnen maken voor meerdere mensen, kwam er een website waarop je Moralis Machina ook online kunt spelen. Bij de Hogeschool van Amsterdam hadden Rick van Kersbergen en Tabish Nanhekhan daarvoor al een hoop werk verricht aan de technische kant, maar design en navigatie ontbraken nog.
Student Bahaa Salaymeh van de opleiding Communication and Multimedia Design mocht de klus freelance uitvoeren. “Ik vond het heel leuk om te ontwerpen, bouwen en (door-)ontwikkelen, en Moralis Machina online dezelfde ervaring te geven. Hoe ik dat heb gedaan? Door interactie en animaties toe te voegen. Zo heb ik draaibare kaartjes gemaakt die je kunt flippen en afleggen. De gebruikerservaring stond centraal: hoe zijn de website en het spel zodanig te begrijpen zonder dat veel uitleg nodig is.” Mocht je als speler toch meer informatie wensen, dan is die te vinden in een uitklapbaar menu. Bahaa heeft in het ontwerpproces ook advies gegeven over de vormgeving, de kleuren verbeterd en lettertypes toegevoegd.
Design moet een gevoel oproepen. Je wilt spelers zo goed mogelijk meenemen in het verhaal van het spel, waardoor zij meteen zin krijgen om het te spelen.
Bahaa Salaymeh
Student Communication and Multimedia Design
Hij begon met een nulmeting en verzamelde tijdens het proces meermaals feedback. “Ik heb de website vaak getest met mijn medestudenten die ook veel ervaring hebben in UX-design (red. User Experience). Deze klus geeft me nog steeds een trots gevoel. Het was een van de grotere opdrachten voor de HvA en Provincie Noord-Holland, en ik vind het heel leuk dat ik een creatieve oplossing kon bedenken voor hun wens om het spel ook online aan te bieden.”
Succesvolle samenwerking is opmaat naar meer
Ook voor Martijn en Sophie is de samenwerking in dit project goed bevallen. “Alles klopt, je kunt het project afsluiten met een website en een geproduceerd spel”, geeft Sophie aan. “Dat is niet altijd het doel van onderzoek, maar wel heel gaaf als het lukt en een voordeel van praktijkgericht onderzoek. Voor volgende projecten houd ik de meerwaarde van deliverables zeker in mijn achterhoofd.” Ook Martijn is enthousiast: “De samenwerking met Sophie ging heel natuurlijk en we vonden elkaar snel in de afstemming: wat bedoelen we, wat willen we en hoe pakken we het aan. De kracht van het onderzoek zit hem ook in de 'stapeling'. Als verschillende teams hun eigen ethische richtlijnen en oplossingen ontwikkelen, zie je organisatiebrede patronen ontstaan. Je krijgt inzicht: waar liggen de gedeelde dilemma's? Waar verschilt de praktijk per afdeling? Dat kun je zelf vooraf niet bedenken.”
Smaakt dit project en deze samenwerking naar meer? “Zeker!”, beamen beiden. “We zijn samen al bezig een nieuw project te verkennen”, vertelt Sophie. “Dat zou moeten gaan over Responsible AI in Governance.” Martijn: “We maken een logische, volgende stap. Die gaat over allerlei AI-systemen die de provincie als organisatie gebruikt; niet alleen taalmodellen. Hoe zorg je dat die nu en in de toekomst voldoen aan onze waarden en eerlijk, transparant en controleerbaar blijven? Dat vraagt ook om een ander gesprek, op strategisch niveau.”