Geef mensen controle over de AI-systemen die impact hebben op hun leven

Aan het begin van zijn PhD richtte Kars Alfrink zijn onderzoek op ‘smart city’-systemen: dingen in de stad efficiënter en effectiever laten werken met behulp van technologie. Deze soms ingewikkelde systemen zijn vaak ontwikkeld door publiek-private organisaties, maar worden vaak niet begrepen door burgers. De overheid en haar aanbieders willen dat mensen deze systemen accepteren en vertrouwen. Transparantie zou daarbij moeten helpen.

Mogelijkheid om deel te nemen aan de besluitvorming.

Naast laadpalen voor elektrische voertuigen analyseerde Kars ook andere publieke AI-systemen, zoals auto’s met camera’s of auto’s met scanners. Ze worden vooral gebruikt om geparkeerde auto’s te controleren door de kentekenplaten te scannen. Deze technologie kan ook worden gebruikt om andere belangrijke publieke objecten te detecteren, zoals afvalbeheer of straatverlichting. Vanwege zijn interesse in conflicten en hoe hij deze constructief kan aanpakken, begon Kars ‘betwistbaarheid’ te bestuderen, waarbij gekeken wordt naar de mogelijkheid om in beroep te gaan tegen een AI-gestuurde beslissing. In eerder onderzoek merkte hij op dat betwistbaarheid al als een wenselijke eigenschap in AI-systemen werd beschouwd. Er is echter weinig gedaan om de theorie te vertalen in bruikbare inzichten voor ontwerpers van AI-systemen.

Kars Alfrink wil burgers daarom de mogelijkheid geven om enige controle te behouden over publieke AI-systemen die worden gebruikt om zaken over hen te beslissen, zoals het scannen van auto’s. “Als mensen het om wat voor reden dan ook niet eens zijn met een beslissing, of het nu een vergissing is of een andere kijk op de feiten hebben, moeten ze de kans krijgen om erover te praten en er vragen over te stellen.” controle.”

Recht op autonomie

Na literatuuronderzoek ontwikkelde Kars een raamwerk dat elementen bevat die de betwistbaarheid van AI-systemen kunnen vergroten. Een voorbeeld van zo’n element is een tool waarmee je in beroep kunt gaan tegen een beslissing op basis van AI. Die elementen kunnen worden toegevoegd aan het ontwikkelingsproces van het AI-systeem. Deze elementen koppelde hij vervolgens aan groepen mensen die vaak in aanraking komen met AI-systemen. En het was allemaal gekoppeld aan de ontwikkelingsfasen van een AI-systeem. Kars werkte vervolgens samen met een informatieontwerper om dit te vertalen naar een visuele uitleg die ontwerpers als hulpmiddel kunnen gebruiken.

Dit plan helpt de potentiële schade te voorkomen die publieke AI-systemen aan de menselijke autonomie toebrengen. Hij schrijft: “Transparantie is essentieel voor de betwistbaarheid, maar transparantie alleen is niet voldoende. Om de betwistbaarheid van systemen lokaal en mondiaal te vergroten, moeten we kenmerken en best practices implementeren die de betwistbaarheid gedurende de gehele ontwikkelingscyclus van AI-systemen bevorderen.

Kars legt uit dat betwistbaarheid een manier is voor overheden om de kwaliteit van systemen voortdurend te verbeteren. “Een meer normatief argument is dat de autonomie van mensen wordt gerespecteerd door ervoor te zorgen dat systemen twijfelachtig zijn”, zegt hij. Kars wijst op een recent rapport van de Wetenschappelijke Raad voor het Regeringsbeleid: “Mensen die het gevoel hebben dat zij de regie over hun leven hebben, zijn doorgaans gelukkiger en gezonder, leven langer en staan ​​ook positiever tegenover de maatschappij in hun leven.” “. En nu het recht op autonomie is vastgelegd in verschillende mensenrechtenwetten, zegt hij, is ontwerpen met het oog op betwistbaarheid een praktische manier om het evenwicht tussen autonomie en AI-systemen te waarborgen.

Samenwerking

Kars is al ruim 15 jaar werkzaam in de designwereld. Hij wijst erop dat het een hele transitie was van een sector met intensieve samenwerking naar een meer ‘individueel’ doctoraat. Wel wil hij de mogelijkheden van samenwerking binnen een doctoraatsproject benadrukken. Hij werkte nauw samen met veel mensen, waaronder ontwerpers, ambtenaren en creatieve professionals, en ontving financiële en netwerksteun van het AMS Instituut. “Het was voor mij een interessant traject en het was leuk om gaandeweg meer samen te werken in het kader van het onderzoek.” Alfrink is momenteel postdoctoraal onderzoeker bij de sectie Knowledge Design and Intelligence van de faculteit IO.