Hoe begrijpelijk zijn de financiële beslissingen van een AI-systeem?
Wat als je schadeclaim wordt afgewezen, maar je niet begrijpt waarom? Of je hypotheekverzoek? Steeds vaker nemen AI-systemen zulke beslissingen bij financiële dienstverleners. Maar hoe leg je die beslissingen uit aan klanten?
Het project “Betekenisvolle uitleg van een AI-systeem” onderzoekt hoe beslissingen van AI begrijpelijk en navolgbaar kunnen zijn. Financieel experts van de HvA ontwikkelden, in samenwerking met de Hogeschool Utrecht, een checklist met ruim dertig criteria om de uitlegbaarheid van AI-systemen te toetsen. Ook zijn er prototypes van ‘goede’ AI-systemen ontworpen voor toepassingen in de financiële sector.
Het doel: transparante financiële besluitvorming, waarin professionals én klanten begrijpen hoe een beslissing tot stand is gekomen. Een stap richting verantwoord en mensgericht gebruik van technologie. Dat is precies waar ons team van financieel experts zich hard voor maakt.