Algoritmen in het onderwijs leiden tot ongelijke behandeling van studenten

Basisscholen gebruiken bijvoorbeeld digitale systeemalgoritmen om taal- en rekenoefeningen automatisch aan te passen aan het gedrag van leerlingen. Ook worden algoritmen gebruikt om leerlingen te analyseren, om te voorspellen of een leerling dreigt uit te vallen of extra ondersteuning nodig heeft. Ook kunnen ze gebruikt worden om fraude met bijvoorbeeld ChatGPT te herkennen.

Vooroordelen

Hoewel digitale hulpmiddelen leerlingen kunnen helpen zich te ontwikkelen, hebben vooroordelen ook invloed op het onderwijs, waarschuwt het College voor de Rechten van de Mens. Als digitale systemen niet goed worden getest, kunnen ze de vooroordelen van mensen versterken en verspreiden. Dit kan op zijn beurt leiden tot discriminatie en ongelijkheid van kansen.

Een systeem kan bijvoorbeeld moeite hebben om het niveau van een kind adequaat in te schatten, omdat een kind met ADHD of dyslexie op een andere manier leert of andere woorden gebruikt. Of het systeem geeft het kind het label ‘zwak’, maar verwijdert dit niet als het kind beter begint te leren.

Draagt ​​bij aan goed onderwijs.

Voordat scholen digitale systemen gaan gebruiken, moeten ze daarom nadenken of die technologie bijdraagt ​​aan goed onderwijs, zegt het College voor de Rechten van de Mens. “Scholen moeten en kunnen eisen stellen aan softwareleveranciers op het gebied van gelijke behandeling, privacy, autonomie en transparantie”, aldus de raad. Het ministerie van OCenW moet scholen helpen, zegt de raad, door bijvoorbeeld onderzoek naar de effecten van digitale systemen te stimuleren.

Door: ANP