Als eerste van Nederland biedt Hogeschool Utrecht een professionele masteropleiding die de technische en ethische aspecten van kunstmatige intelligentie combineert. En blijkt hard nodig.
‘Kunstmatige intelligentie kan ons leven makkelijker maken, maar het is niet zonder risico’s, zegt Huib Aldewereld. Privacyschending, onbetrouwbaarheid of discriminatie bijvoorbeeld. Aldewereld is hoofddocent van de nieuwe master Human-Centered Artificial Intelligence (AI). Een master die volgens hem hard nodig is. ‘AI is complex. Door al vroeg in het maakproces te kijken naar mogelijke gevaren en deze te identificeren, voorkomen we schandalen en problemen.’
Schandalen
Amazon had een vacaturerobot die vrouwen discrimineerde. Zelfrijdende auto’s herkenden mensen met een donkere huidskleur minder goed. Bij de toeslagenaffaire bepaalde een AI-systeem welke aanvragen extra gecontroleerd moesten worden. Aanvragers met een dubbele nationaliteit liepen meer kans eruit gepikt te worden door het AI-algoritme, omdat zij volgens het systeem een ‘risicogeval’ waren. Aldewereld: ‘Er komen steeds meer schandalen naar buiten omdat bedrijven niet genoeg nadenken over vooroordelen of fouten van hun AI-systemen.’
Eerste van Nederland
De HU is de eerste Nederlandse onderwijsinstelling die een studie aanbiedt waarin de combinatie van ethiek en AI centraal staat. ‘Ik hoop dat andere universiteiten dit gaan overnemen’, zegt Aldewereld. ‘Ethiek moet niet als een verplicht nummertje in een hoekje van het curriculum worden verstopt, maar worden verweven in praktijkopdrachten. We moeten studenten stimuleren en helpen om techniek en ethiek te koppelen.’
Elf studenten volgen de master Human-Centered Artificial Intelligence, die in september is gestart. ‘Een kleine club, maar prettig voor het proefdraaien van de master. Zo kunnen we kijken of die aansluit op het niveau van de studenten.’ Tijdens de eenjarige master werken ze met opdrachtgevers, waarbij ethiek is geïntegreerd in de technische vraagstukken.
Verkeerde diagnose?
Eén van de opdrachtgevers is DigiDok. Studenten ontwerpen voor hen een AI-systeem voor huisartsenposten. Patiënten hoeven zo niet uren aan de telefoon te wachten om iemand van de huisartsenpost te spreken. In plaats daarvan vullen ze een online enquête in over hun medische klachten. Het systeem vergelijkt die klachten met eerder voorgekomen klachten en hun diagnoses. Op die manier voorspelt het welke behandeling de patiënt nodig heeft en ondersteunt het de huisarts in zijn administratieve last. Aldewereld: ‘De studenten leren zo’n systeem te ontwikkelen en programmeren. Ze zoeken naar patronen om goede diagnoses te kunnen geven.’
Daarnaast adviseren ze de klant over hoe hij moet omgaan met ethische aspecten. ‘Als zo’n systeem concludeert dat iemand met een verzwikte enkel wel kan wachten tot maandag, moeten we dat dan aannemen? Of moet er toch een dokter naar kijken? Er kan ook een ander medisch probleem zijn.’ De studenten onderzoeken waar huisartsenposten op moeten letten. ‘Het gevaar is wel dat een huisarts alleen naar de diagnose kijkt die bovenaan het lijstje uitkomt. Dus dit systeem zal enkel een hulpmiddel zijn.’
‘Hoeveel waarde moet je hechten aan de voorspellingen van zo’n sensor?’
Een ander project is voor opdrachtgever Royal HaskoningDHV. Hun vraag: Kun je aan de hand van energiegegevens voorspellen wanneer mensen de meeste energie verbruiken? Want dan kun je de energieopwekking daarop aanpassen. Maar ook dit geeft een ethisch dilemma. Aldewereld: ‘Als je per huishouden data verzamelt over hun energieverbruik, kunnen systeemontwikkelaars zien wanneer iemand thuis is. Moet je dat willen?’
Het laatste project gaat over een systeem voor een fabriek die penicilline produceert. Kun je op basis van sensoren zien of het proces goed loopt? Of het medicijn de juiste kwaliteit heeft? ‘Als er toch slechte penicilline door de “selectie” komt, kan dat onveilig zijn. Hoeveel waarde moet je dan hechten aan de voorspellingen van zo’n sensor?’
Toekomst
De Europese Commissie is bezig met een nieuwe AI-wetgeving. AI-systemen worden hierin gecategoriseerd per risico. Systemen met een hoger risiconiveau moeten aan meer voorwaarden voldoen. Waarschijnlijk treedt de wet in 2024 in werking. ‘Dat duurt nog even, maar de invloed van die wet zal groot zijn. Daarom moeten studenten weten wat wel en niet mag. Zo kunnen ze dit al toepassen in de nieuwe systemen die ze maken. En ze moeten dit aan hun opdrachtgevers kunnen uitleggen.’
Volgens Aldewereld ligt er nog een wereld voor ons open met AI. ‘We zullen nog ontdekken dat we steeds meer kunnen automatiseren. En ik hoop dat we daar verstandig mee omgaan.’
Europese samenwerking
Voor de ontwikkeling van de master heeft de HU een Europese subsidie ontvangen. De master wordt ook aangeboden op de Technologische Universiteit van Dublin, de Universiteit van Napels Federico II en de Technologisch & Economische Universiteit van Boedapest.
Aldewereld: ‘We werken veel samen met die universiteiten. In januari komen alle masterstudenten een week naar de HU. Dan bespreken ze hun afstudeeronderwerpen met elkaar. En zo zien de HU-studenten dat zij niet de enige zijn die hier fulltime mee bezig zijn.’
De Master Human-Centered Artificial Intelligence staat open voor studenten die een bachelor HBO-ICT hebben gedaan.
