Centre for Economic Transformation | CET

Fin-X

Naar een betekenisvolle uitleg van AI-toepassingen

Project

Uitlegbaarheid van de uitkomsten en werking van artificiële intelligentie (AI) toepassingen is een belangrijke voorwaarde om vertrouwen van consumenten en maatschappij in AI-toepassingen te borgen, zeker in de financiële sector.

Onderzoeksproject Fin-X

In dit project ontwikkelen we hulpmiddelen om uitkomsten van complexe AI-toepassingen om te zetten naar een begrijpelijke uitleg voor medewerkers zoals klantacceptanten en schadebehandelaren. Dat is van belang omdat deze medewerkers met de klant communiceren en in staat moeten zijn om die een uitleg te geven bijvoorbeeld als de schadeclaim van een klant wordt afgewezen, omdat die door een AI-toepassing als frauduleus is bestempeld.

Doel

Het project heeft tot doel een concrete bijdrage te leveren aan de implementatie van effectieve en mensgerichte AI-toepassingen door hulpmiddelen te ontwikkelen die interne gebruikers van die AI-toepassingen meer en beter inzicht geven in de werking en uitkomsten ervan.

Resultaten

Handreikingen (in de vorm van tools en instrumenten) die richting geven en ondersteunen bij het genereren, communiceren en evalueren van uitleg. De primaire doelgroep van de handreikingen zijn ontwerpers en ontwikkelaars van AI- en XAI-toepassingen.

Aanpak

Het project volgt een design science aanpak waarbij op basis van behoeften uit de praktijk en al beschikbare kennis artefacten worden ontwikkeld. De artefacten in dit project zijn de handreikingen die bij resultaten zijn beschreven.

Samenwerking met kennispartners

Hogeschool Utrecht (penvoerder), Floryn, FRISS, De Volksbank, EMS, Sygno, MavenBlue, Mogelijk, Deeploy, Datacation, BBO, Amsterdam Data Collective, BG.legal, De Nederlandsche Bank, Jheronimus Academy of Data Science, Verbond van Verzekeraars, Holland FinTech, ROM Utrecht, Vereniging Financieel Adviseurs, Human & Tech Institute.

Subsidieverstrekker

FIN-X is een project dat subsidie ontvangt van het Nationaal Regieorgaan Praktijkgericht Onderzoek SIA in het kader van de RAAK-mkb regeling september 2022 met als dossiernummer RAAK.MKB17.003.

Contact & informatie

Logo SIA Raak
Gepubliceerd door  Centre for Economic Transformation 25 april 2024

Project Info

Fin-X onderzoeksproject
Startdatum 01 apr 2023
Einddatum 01 apr 2025