Say what? Ethiek en wetenschapsfilosofie is niet het eerste waaraan je denkt in het hbo. Toch gaat Kees Greven het vandaag proberen: Lesgeven aan een groepje nieuwsgierige studenten Kunstmatige Intelligentie.
Bij binnenkomst krijgt Kees Greven een applaus. Daarna moet hem iets van het hart. ‘Ik heb slechte ogen, dus kijk niet raar op als ik af en toe op mijn mobiel moet kijken wat er op de powerpoint staat. En vingers zie ik niet. Dus als je een vraag hebt, roep hem door het lokaal!’
Ons wereldbeeld kantelt
‘Kijk, dit is een Newton-pendel’, vertelt Kees terwijl hij een aantal instrumenten tevoorschijn haalt. ‘Het wereldbeeld van de negentiende eeuw ging ervan uit dat dingen alleen op elkaar reageren als ze direct met elkaar in contact komen.’ Hij pakt een van de ijzeren balletjes en laat het los. Zodra het tegen de stil hangende balletjes komt, beweegt het balletje aan het andere uiteinde op magische wijze omhoog.
‘Toen veranderde dat.’ Het licht gaat uit. ‘Aan het einde van de negentiende eeuw werd elektriciteit ontdekt. Nu konden dingen op afstand met elkaar reageren.’ Hij houdt een lampje boven een tesla-spoel; een transformator die iets weg heeft van een gasbrander op elektriciteit. Het lampje brandt zonder de spoel aan te raken. ‘Wat eerst magisch leek, vond zijn weg naar de wetenschap. Met AI gebeurt eigenlijk hetzelfde. Niet zo lang geleden was het nog sciencefiction, nu is het aan de orde van de dag. Ons wereldbeeld is opnieuw aan het kantelen.’ De klas is doodstil.
De powerpoint vertoont een abstract schilderij met allerlei blauwe kubussen. ‘Waarschijnlijk denken jullie bij het woord wetenschapsfilosofie gelijk: What the fuck is dat? Maar zodra je er meer over weet, zie je hopelijk het complete plaatje. Net zoals bij dit schilderij.
Gut feelings
Kees laat een tekening zien van Escher, met zwarte raven. ‘Op het eerste gezicht zie je alleen zwarte raven’, gaat Kees verder. ‘Maar als je goed kijkt zie je ook witte raven ertussen zitten. Die vaardigheid, namelijk om iets op een andere manier te bekijken, is voor AI heel moeilijk. Als we haar trainen met een foto van een zwarte raaf en zeggen: dit is een zwarte raaf, dan zal ze er nooit iets anders van kunnen maken. Maar hoe weten we dat het altijd zwarte raven zullen blijven? Hoe zorgen we voor ander inzichten?’
‘Hoe zouden we kunnen bewijzen dat alle raven écht zwart zijn?’, luidt de vraag. ‘Dat is moeilijk’, zegt een student. ‘De foto waarop de AI getraind is kan net zo goed op een klein eiland in het midden van de Stille Oceaan zijn genomen. Vervolgens detecteert ze een Nederlandse meerkoet als een zwarte raaf.’
Witte mannen
‘Hier zien jullie drie witte dode mannen. Een beetje cliché, maar om de wetenschapsfilosofie te begrijpen zijn ze helaas onmisbaar.’ Op de powerpoint staan de filosofen Karl Popper, Michel Foucault en Thomas Kuhn, alle drie strak in pak. ‘Popper stelde dat alle kennis falsifieerbaar moet zijn. Volgens hem moet een theorie zo opgebouwd zijn dat ze ontkracht kan worden. Niets is zeker; we kunnen namelijk altijd vanuit een foute theorie vertrekken, net zoals met de zwarte raven op het eiland. “God bestaat” is dus geen goede theorie, want die kan je niet ontkrachten. Het zou kunnen, maar het is niet wetenschappelijk.’
Ethiek is geen onderwerp waar ze veel mee te maken krijgen op de opleiding, blijkt al snel uit de zaal. ‘Hier is weinig wetenschappelijk’, roept iemand ‘Docenten zeggen gewoon: “Dit is de manier waarop het gaat, dit is snel, dus doe het maar.” Iedereen volgt zijn gut feeling.’
‘Vervolgens hebben we Foucault’, gaat Kees verder, ‘die beroemd is van de bekende uitspraak “Kennis is macht, macht is kennis”. Dat is ook het geval bij data. Denk bijvoorbeeld aan de gezondheidsapp Fitbit, die jouw dagroutine bepaalt. Mijn collega heeft een app die zijn ‘stressbatterij’ aangeeft. “Van mijn horloge moet ik nu even rusten”, zegt hij dan.’ Een student kan zich vinden in het verhaal: ‘Als een gezondsheidsapp is getraind op slechte data, kan een patiënt zo maar verkeerde medicijnen voorgeschoteld krijgen. Ik zou er alleen nooit bij stilstaan als ik een app maak, daar zijn de bedrijven niet van gediend.’
Moeilijk toepasbaar
Waarom is ethiek zo moeilijk toe te passen in de AI-wereld? Student Dave: ‘Ik denk dat ik moeilijk aan een baan kom als ik de werkmethodes in twijfel trek. Je opdrachtgever heeft er geen zin in dat je tijd besteedt aan filosoferen, die wil gewoon dat je snel werk levert. Toch vind ik het een boeiend onderwerp, ik heb er nog nooit zo over nagedacht!’
Kees vindt het bijzonder hoe geïnteresseerd de studenten waren. ‘Het thema is natuurlijk best abstract en filosofisch, maar blijkbaar is er behoefte aan op het hbo. Het blijft verstandig om ethische en wetenschapsfilosofische vragen te stellen. Wat is het goede om te doen? Wat is gedegen onderzoek?’
Kees Greven is junior onderzoeker bij het lectoraat Onderzoekend Vermogen.
