Een VU-student is niet gediscrimineerd door tentamensoftware, vindt het College voor de Rechten van de Mens. Tijdens de coronalockdown maakte hoger onderwijs gebruik van tentamensoftware zoals Pocornie. De student diende een klacht in omdat haar gezicht niet goed herkend werd vanwege haar donkere huidskleur. Daardoor kostte inlogproces haar veel tijd. Ze moest haar tentamens bovendien met een felle lamp op haar gezicht maken, anders kreeg ze de melding ‘room too dark’ of ‘no face found’.
De VU beweert dat studenten met een donkere huidskleur niet zijn gediscrimineerd. Volgens de universiteit gaf de softwareleverancier aan dat de software evengoed werkt bij studenten met een donkere huidskleur. Ook kon de VU met behulp van gegevens over het inlogproces aantonen dat deze student niet meer problemen ondervond dan haar medestudenten.
Het College voor de Rechten van de Mens vindt het een belangrijke zaak. De student is er namelijk voor het eerst in geslaagd vermoedens van algoritmische discriminatie aannemelijk te maken. Vergelijkbare AI-software kan in een andere situatie wel degelijk tot discriminatie leiden, betoogt het College in haar nieuwsbericht.
