System error, please restart: verantwoorde IT komt eraan

Nanda Piersma houdt lectorale rede en brengt boek uit

29 nov 2022 12:40 | Faculteit Digitale Media en Creatieve Industrie

Digitale systemen hebben de afgelopen veertig jaar een enorme vlucht genomen. De sterke groei en opschaling zijn gepaard gegaan met snelle oplossingen. “Op veel plekken hebben we ‘ducttape’ gebruikt”, constateert Nanda Piersma, lector Responsible IT aan de HvA en het Centrum Wiskunde en Informatica (CWI). Piersma betoogt in haar boek 'System error, please restart' en gelijknamige lectorale rede op 6 december hoe we desondanks verantwoorde ICT-systemen kunnen creëren. Dat kan door ontwerpers te helpen andere ontwerpkeuzes te maken.

Nanda Piersma betoogt in haar boek System error, please restart dat we IT-systemen op elkaar bouwen, terwijl de onderliggende structuur van de systemen nooit bedoeld was voor wereldwijde opschaling en gebruik in een andere context. “Als we het nog eens zouden doen, zouden we andere keuzes maken,” zegt Piersma.

Van banken tot commerciële bedrijven en overheid- overal werken we met systemen en methoden die nog stammen uit het verleden van de computer, terwijl er inmiddels andere, meer verantwoorde alternatieven beschikbaar zijn. Een voorbeeld: computerservers worden nog steeds luchtgekoeld met ventilatoren, wat veel energie kost. “Als we opnieuw computerservers zouden uitvinden, zouden we dan weer luchtventilatoren willen als koelsysteem, of zouden we energiezuinigere oplossingen zoeken?”

Ducttape

In de huidige situatie zijn ICT-systemen dus -figuurlijk gezien- opgeschaald met hulp van ‘ ducttape’. Dat leidt tot niet-verantwoorde oplossingen; zoals apps die in de regel data verzamelen, vaak door derde partijen. Vanwege het kapitalistische businessmodel van veel IT-bedrijven is bovendien vaak geen ruimte om opnieuw te beginnen, en een verantwoord systeem te bouwen.

Andere ontwerpkeuzes

Toch is de overgang naar verantwoorde ICT binnen handbereik, stelt Piersma. Haar boektitel System error, please restart (een term uit de computergeschiedenis) staat symbool voor die actuele opgave van haar onderzoeksteam: namelijk verantwoorde ICT creëren; zeker nu kunstmatige intelligentie in opkomst is. Hoe kun je nu andere ontwerpkeuzes maken, om wél verantwoorde IT te bouwen? In haar boek formuleert Piersma nieuwe kaders, die duidelijkheid moeten verschaffen aan IT’ers en ontwerpers.

Digitale Integriteit

Allereerst, stelt Piersma, kun je bij het ontwerpen werken vanuit het principe van ‘digitale integriteit’. “Als bloed bij je wordt afgenomen, heb je daar in de regel toestemming voor gegeven. Maar digitaal worden continu persoonlijke data gebruikt en geanalyseerd, zonder dat je dit überhaupt weet. Deze data worden nu ook verwerkt als dit niet nodig is.” Om een festivalticket te kopen zijn je naam en adres bijvoorbeeld niet nodig, maar de online webshop vraagt die nu eenmaal vanuit gestandaardiseerde invoervelden.

Digitaal comfort

Een tweede belangrijk ontwerpprincipe, waarmee ontwerpers rekening kunnen houden, is digitaal comfort. Piersma: “Sommige apps zijn makkelijk te downloaden en handig in gebruik, maar zorgen toch voor een stemmetje in je achterhoofd dat zegt: is dit wel veilig? Wat gebeurt met mijn persoonlijke data? Ze komen in je persoonlijke ruimte, en dat voelt niet prettig.”

Als ontwerper kun je ook focussen op dat diepere gevoelsmatige comfort van gebruikers, in plaats van alleen op gebruiksgemak. Meer controle op data is belangrijk. “Geef mensen controle over hun eigen IT-systeem: wie ziet mijn data, wat kan ik zelf zien, kan ik dingen blokkeren of regelen? We moeten systemen dichter bij de mensen brengen. Als je deze richtlijnen aan ontwerpers geeft, komen er ook andere ontwerpen uit.”

De menselijke maat

Een andere richtlijn is de menselijke maat. “We gebruiken tegenwoordig overal kunstmatige intelligentie voor, ook voor problemen die allang zijn opgelost op andere manieren. Dat leidt soms tot oplossingen die bovendien onverantwoord zijn. Camera's met beeldherkenningsalgoritmes inzetten om aantallen reizigers in een trein, of in een supermarkt te tellen? Daar zijn andere methodes voor. De NS monitoren trouwens de drukte aan de hand van gewicht van de treinstellen; een prima oplossing.”

Nanda Piersma is ook wetenschappelijk directeur van het Centre of Expertise Applied A.I. en SER-kroonlid

Het streven naar verantwoorde IT vraagt uiteindelijk dan ook een andere houding van gebruikers, stelt Piersma. Die hebben hoge verwachtingen, en gaan ervan uit dat alle systemen goed werken. Gebruikers moeten gaan beseffen dat ICT en ‘clouddiensten’ niet zozeer abstract en high tech zijn, maar dat die direct impact hebben op onze fysieke leefwereld. “De cloud is geen wolk, maar een centrum in de grond dat gekoeld moet worden.”

Toekomstbestendig

Tot slot noemt Piersma toekomstbestendigheid als ontwerpprincipe: duurzaam en robuust bouwen voor de lange termijn. “Zorg ervoor dat het werkt en blijft werken, ook als de toepassing op een ander computersysteem wordt gebruikt.” De donutprincipes van Kate Raworth passen hier uitstekend bij: met de keuzes in het IT-ontwerp de belasting van de aarde minimaliseren en de sociale context respecteren.

Dát zijn de vier achterliggende principes waarmee ontwerpers anders kunnen gaan ontwerpen. “Een wezenlijk verschil met een ethisch kader waarmee je checkt of je alle boxen hebt afgevinkt.”

De mensen zullen veranderen

“We hebben lang genoeg geroepen wat er allemaal niet deugt”, besluit Piersma. “Mijn team gaat aan de slag om te onderzoeken hoe we het anders kunnen doen, om juist dat duwtje te geven in de richting van wél verantwoord. Mijn slottheorie is: de technologie is er vaak al. Het zijn de mensen en samenleving die het moeten gaan implementeren. De mensen zullen de veranderingen gaan zien en omarmen. En de IT’ers zijn nu ook aan zet om met andere ontwerpkeuzes digitale systemen anders te programmeren.”

Piersma gelooft niet dat verantwoorde IT betekent dat alles opnieuw hoeft. “Geloof me, we worden er niet blij van als straks onze bank-app niet meer blijkt te werken omdat we helemaal opnieuw zijn begonnen. Een handige oplossing is bijvoorbeeld een datakluis, waarin je je eigen data bij je houdt, en je anderen toestemming geeft om bepaalde data te gebruiken. Met een datakluis geef je een webshop uitsluitend een kluisnummer door en het artikel dat je wil kopen. De vervoerder geef je jouw adres en aan de bank geef je de opdracht om te betalen. Dat is heel iets anders dan dat elke webshop al jouw gegevens verzamelt en doorgeeft aan de bank en de vervoerder.”

Foto: HvanA