Ruimte creëren voor waardigheid en empathie: onderzoek naar algoritmen bij overheidsbeslissingen

Overheidsbeslissingen lijken voor burgers steeds moeilijker te begrijpen en worden steeds complexer. De oorzaak lijkt de groeiende invloed van kunstmatige intelligentie te zijn. Een fascinerende ontwikkeling voor Melanie Fink. Ze ging de uitdaging aan en begon te onderzoeken wat er mis is in de relatie tussen openbaar bestuur en burgers. Een complex vraagstuk, ontdekte Fink. Het heeft ook internationale gevolgen. Algoritmische beslissingen kunnen ingrijpend zijn voor Nederlandse burgers, maar ook voor migranten aan de buitengrenzen van de Europese Unie.

Onbegrijpelijke beslissingen

Fink geeft het voorbeeld van een asielzoeker die wordt afgewezen. De motivatie voor deze beslissing kan een algoritmische basis hebben. Zo is berekend dat het een gevaar kan opleveren voor de openbare orde. Hij vindt het moeilijk om deze reden te begrijpen en kan zich er niet tegen verdedigen. Omdat niemand je kan vertellen hoe een computerprogramma welke gegevens combineert. En dat is iets nieuws in de geschiedenis van het openbaar bestuur. Fink: ‘Het openbaar bestuur gaat ervan uit dat degene die een besluit ontvangt, de redenen daarvoor begrijpt. Zelfs als hij het er niet mee eens is. Maar door het gebruik van algoritmen in procedures nu en in de toekomst is dit geen realiteit meer.’

Ontmenselijkende werking van automatisering

Fink noemt gevallen waarin automatisering de complexiteit van een mensenleven reduceert tot een reeks gegevens die ontmenselijkend zijn. Iets dat ook gebeurde met de algoritmische profileringspraktijken waarmee autoriteiten verdachte ontvangers van kinderopvang en sociale bijstand ontdekten. Fink: ‘Mensen hebben het gevoel dat de processen niet eerlijk zijn. Uiteindelijk ondermijnt dit ook het vertrouwen in bestuurlijke en gerechtelijke procedures.’

Samenwerking tussen mens en machine.

Fink wil onderzoeken hoe je de mens weer een rol kunt geven in beslissingen, maar toch de voordelen van automatisering kunt behouden. Een algoritme kan immers inschatten hoe waarschijnlijk het is dat iemand fraude pleegt en in aanmerking komt voor asiel of een uitkering. Het bespaart ook kosten voor de overheid. “Dit roept vragen op”, zegt Fink. ‘Wat kunnen mensen doen en wat laten we aan de machine over? In welke gevallen? Welke mensen, juristen, zijn geschikt voor de taak om invulling te geven aan het aspect van de menselijke waardigheid in overheidsbesluiten waarbij een algoritme betrokken is?

Uitbreiding van de motiveringsplicht

In het Europees recht, de specialiteit van Fink, is het gebruikelijk om besluiten te motiveren. In de loop van de tijd zijn juristen, juristen en regeringen zelf deze verplichting tot motivering alleen gaan zien als een garantie dat er argumenten zijn waartegen in beroep kan worden gegaan. “Natuurlijk is dit belangrijk”, zegt Fink. ‘Je kunt je immers niet verdedigen tegen een besluit als je de redenen niet kent. Maar de verplichting om te motiveren kan veel meer betekenen. Het kan een brug vormen tussen overheden en burgers en er zo voor zorgen dat iemand zich als mens gezien of gehoord voelt.’

De motiveringsplicht vormt de basis van Finks onderzoek naar de vraag hoe overheid en bestuur betere beslissingen kunnen nemen. “Het project richt zich op de toegang tot de rechter, een onderwerp dat mij zeer interesseert”, zegt hij. ‘Dit op een manier die nieuw voor mij is. Mensen moeten eerst vertrouwen hebben in de procedures. Een noodzakelijke voorwaarde is dat ze zich behandeld voelen als een mens die begrijpt hoe en waarom de overheid iets heeft besloten.’

Foto: Igor Omilaev via Unsplash