Mensenrechtenraad bezorgd over algoritmen in het onderwijs

Digitale systemen die door scholen worden gebruikt, kunnen leiden tot ongelijke behandeling van leerlingen.

Dat blijkt uit een verkennend onderzoek van het College voor de Rechten van de Mens. De raad is daarom van mening dat de overheid onderwijsinstellingen moet helpen risico’s op ongelijke behandeling te voorkomen.

Basisscholen gebruiken bijvoorbeeld digitale systeemalgoritmen om taal- en rekenoefeningen automatisch aan te passen aan het gedrag van leerlingen. Ook worden algoritmen gebruikt om leerlingen te analyseren, om te voorspellen of een leerling dreigt uit te vallen of extra ondersteuning nodig heeft. Ook kunnen ze gebruikt worden om fraude met bijvoorbeeld ChatGPT te herkennen.

Hoewel digitale hulpmiddelen leerlingen kunnen helpen zich te ontwikkelen, hebben vooroordelen ook invloed op het onderwijs, waarschuwt het College voor de Rechten van de Mens. Als digitale systemen niet goed worden getest, kunnen ze de vooroordelen van mensen versterken en verspreiden. Dit kan op zijn beurt leiden tot discriminatie en ongelijkheid van kansen.

Een systeem kan bijvoorbeeld moeite hebben om het niveau van een kind adequaat in te schatten, omdat een kind met ADHD of dyslexie anders leert of andere woorden gebruikt. Of het systeem geeft het kind het label ‘zwak’, maar verwijdert dit niet als het kind beter is gaan leren.

Voordat scholen digitale systemen gaan gebruiken, moeten ze daarom nadenken of die technologie bijdraagt ​​aan goed onderwijs, zegt het College voor de Rechten van de Mens. “Scholen moeten en kunnen eisen stellen aan softwareleveranciers op het gebied van gelijke behandeling, privacy, autonomie en transparantie”, aldus de raad. Het ministerie van OCenW moet scholen helpen, zegt de raad, door bijvoorbeeld onderzoek naar de effecten van digitale systemen te stimuleren.