Menselijke vrijheid in het tijdperk van AI, door Filippo Santoni De Sio

Filippo Santoni De Sio is een academisch filosoof en professor, gespecialiseerd in interdisciplinair werk in de ethiek van technologie, met een bijzondere interesse in de ethiek van AI.

Zijn drang om nieuwe wegen in te slaan op dit gebied bracht hem ertoe te schrijven Menselijke vrijheid in het tijdperk van AIgepland voor release in maart 2024. De aanstaande release van het boek bood een ideale gelegenheid om Filippo te interviewen en te leren wat hem inspireerde om het boek te schrijven, zijn achtergrond, zijn onderzoeksinteresses en zijn toekomstige onderzoeksrichtingen.

Interview

Auteurs: Beatriz Lafuente Alcázar en Helma Dokkum

Wie ben je en wat bracht je naar Delft?

Twaalf jaar geleden begon ik als postdoc in Delft en nu ben ik universitair hoofddocent. Ik ben betrokken bij AI-ethisch onderzoek op verschillende gebieden, zoals robotica, defensie en transport. Een rode draad in mijn werk is morele verantwoordelijkheid: ik ben gepromoveerd op de filosofische grondslagen van strafrechtelijke aansprakelijkheid en werk nu aan morele verantwoordelijkheid voor het gedrag van onder meer AI-systemen.

Voordat ik naar Delft kwam, heb ik in Turijn geschiedenis van de filosofie gestudeerd en daarna de richting van meer toegepaste ethiek opgezocht. Sinds mijn verhuizing naar Delft begon ik vragen te onderzoeken over de morele verantwoordelijkheid van de mens in relatie tot het ontwerp en het gebruik van opkomende technologieën. Daarnaast ben ik associate editor van het Journal of Ethics.

Wat inspireerde je om het boek te gaan schrijven?

Wat mij het meest inspireerde was de noodzaak om het reeds verrichte werk te synthetiseren en nieuwe wegen voor onderzoek te openen. Een boek schrijven is iets anders dan het meer dagelijkse academische werk. Ik groeide, deed meer ervaring op en raakte betrokken bij steeds meer samenwerkingen en activiteiten. Ik slaagde er niet in de tijd te nemen om te gaan zitten en na te denken over het grotere verhaal. Ik wilde mezelf toestaan ​​tijd te vinden voor lange reflecties over grotere filosofische uitdagingen. Het werkte (te) goed: ik besteedde meer tijd aan schrijven dan verwacht. Het bleek echter ook waardevoller werk dan ik aanvankelijk dacht. Ik ben erg blij met hoeveel ik heb kunnen dekken.

Kun je voorbeelden geven van deze grotere filosofische uitdagingen?

Er zijn verschillen in de concepten van vrijheid. Ik wilde nadenken over hoe ze met elkaar verband houden en hoe deze verschillende concepten van vrijheid op verschillende gebieden kunnen worden toegepast. Een voorbeeld is de vrijheid met betrekking tot personeelsbeheer in de zogenaamde deeleconomie, of de vrijheid van mensen met betrekking tot grote digitale platforms die eigendom zijn van particuliere technologiebedrijven. Het laatste deel van het boek gaat over democratische theorieën. Ik wilde ze verbinden met AI en design, ook vanuit het perspectief van mondiale democratie en dekolonialiteit.
Een andere belangrijke filosofische uitdaging voor ontwerp voor democratie is het feit dat zowel de ontwerptheorie als de democratische theorieën historisch gezien de mens centraal hebben gesteld. Een grote vraag is hoe we de belangen van de planeet systematischer kunnen betrekken in ons democratische ontwerp en onze democratische praktijken (meer-dan-menselijke democratie en meer-dan-menselijk ontwerp).

Democratie en AI: enkele belangrijke termen. Wat bedoel je? En waarom is dat zo

Om Churchill te citeren: democratie is misschien geen ideale regeringsvorm, maar alle andere zijn erger.
Democratie is een lastig begrip om te definiëren, het omvat veel verschillende waarden en principes. Het is belangrijk om te identificeren welke elementen cruciaal zijn om te behouden, wat een aanzienlijke filosofische uitdaging vormt. Met de opkomst van de technologie hebben we gezien hoe AI en technologie de mensenrechten kunnen ondermijnen, bijvoorbeeld in gevallen waarin autoritaire regeringen worden ondersteund door technologie, waarvan het Cambridge Analytica-schandaal een voorbeeld is.

Cambridge Analytica gebruikte Facebook-gegevens om mensen te targeten voor politieke campagnes. In het boek herken ik deze belangrijke zorg. We moeten de negatieve impact van AI en technologie begrijpen, en waarom dit een probleem is voor de democratie. In mijn boek praat ik echter ook over de positieve kant van AI, over de noodzaak om de principes van democratie te begrijpen en daarvoor digitale technologieën te ontwerpen. Dit is wat ik probeer te behandelen in het laatste deel van het boek, waardoor een meer inclusieve en evenwichtige discussie ontstaat. Digitale technologie kan bijvoorbeeld worden gebruikt voor meer inclusieve discussies door het gebruik van digitale platforms zoals sociale media. Eén ding is echter duidelijk: als we willen ontwerpen voor democratie, moeten we weten wat de richting ervan moet zijn.

Hoe kunnen we deze uitdagingen overwinnen?

In mijn boek behandel ik twee benaderingen: ontwerppraktijken die deze uitdagingen helpen aanpakken, en democratische theorieën. Ik praat over ethische kwesties in ontwerp en benaderingen om deze te ondersteunen. Tijdens het schrijfproces heb ik samengewerkt met collega’s uit de industriële ontwerptechniek, die mij kennis hebben laten maken met verschillende ontwerpmethodieken. Deze benaderingen – zoals participatief ontwerp en sociaal ontwerp – kunnen complementair zijn aan waardegevoelig ontwerp en zijn zeer inzichtelijk voor het ontwerpen van waardenconforme systemen, maar ook voor beleidsvraagstukken die verband houden met technologie. In het boek onderzoek ik verder hoe deze benaderingen kunnen worden gebruikt.

Ik heb het ook over democratische theorieën. In het boek analyseer ik de dimensies van de machtsstrijd van de democratie, de esthetische betrokkenheid en dekoloniale praktijken, en doe vervolgens voorzichtige uitspraken over hoe technologie deze dimensies van de democratie kan ondersteunen. Het laatste deel van het boek is praktisch een kaart van hoe ontwerpbenaderingen democratisch ontwerp kunnen ondersteunen.

Dan heb je het ook over Meaningful Human Control (MHC). Is dat iets wat we nu veel horen?

Samen met mijn collega’s Jeroen van den Hoven en Giulio Mecacci heb ik deze term geïntroduceerd in de filosofische wereld, maar hij werd al veel gebruikt in internationaalrechtelijke debatten over autonome wapensystemen. We hebben er een meer filosofische inhoud aan gegeven. Wij geloofden dat dit concept op AI en technologie zou kunnen worden toegepast als een ontwerppraktijk in plaats van alleen maar een regelgevingsconcept, en dat het op veel meer domeinen zou kunnen worden toegepast.

We hebben binnenkort een multidisciplinair onderzoekshandboek over betekenisvolle menselijke controle over AI-systemen en zijn bezig met de oprichting van een Delft Centre for Meaningful Human Control, gecoördineerd door David Abbink, complementair aan het Delft Centre for Digital Ethics, met een sterke technische focus, dat de werelden verenigt. . van filosofie en technologie nog verder.

Hoe voelt het als het boek klaar is voor publicatie?

De avond voordat ik dit verhaal deelde tijdens de retraite, stuurde ik om één uur ‘s nachts de nieuwste versie naar de redacteur. Het leek alsof het ene hoofdstuk eindigde en het andere begon. Het schrijven is voorbij en nu kan ik genieten van de energie die het mij gaf. Het gevoel van afsluiting is geweldig, maar tegelijkertijd voelt het alsof het boek meer een opening is voor nog veel meer mogelijkheden voor onderzoek en samenwerking. Ik hoop opnieuw contact te maken met mensen en de discussies voort te zetten die voortkomen uit de thema’s van het boek.

Welke onderwerpen wilt u in de toekomst behandelen?

Er zijn twee richtingen die ik wil blijven verkennen. Enerzijds ben ik geïnteresseerd in verschillende benaderingen die kunnen worden gebruikt om ethische kwesties vanuit ontwerp aan te pakken. Ik zou graag verder willen onderzoeken hoe deze benaderingen kunnen worden gebruikt en toegepast. Aan de andere kant wil ik dieper ingaan op de democratische theorieën die ik in het laatste deel van het boek presenteer.
Verder ben ik op het gebied van artistiek engagement betrokken geweest bij projecten die kunst, empathie en ethiek combineren. Ze richten zich op het gebruik van podiumkunsten als een manier om studenten te betrekken, niet alleen op een rationeel niveau. Het introduceren van podiumkunsten bij studenten met een technische achtergrond en deze combineren met filosofie zorgt voor een zeer interessante dynamiek. Het doel is om studenten te helpen de wereld door andere ogen te zien, door kunst te gebruiken om onze zintuigen te onderwijzen. Dat is een dynamiek die ik verder wil verkennen.

Wat zijn je verwachtingen van het boek?

Toen ik begon met het schrijven van het boek, deed ik dat om bovengenoemde redenen, maar nu stel ik me voor dat het boek ook zou kunnen dienen als introductie tot de AI-ethiek en een waardevol onderzoekshandboek zou kunnen zijn. De breedte van de onderwerpen die ik behandel en de stijl die ik gebruik behouden de academische nauwkeurigheid, maar maken het ook toegankelijker dan onderzoeksartikelen, ook voor mensen buiten de filosofie.
Ik ben erg benieuwd naar de reactie van het publiek. Ik ben benieuwd hoe waardevol het is voor mensen buiten de academische wereld. Het boek kan relevant zijn voor beleidsmakers of in het algemeen voor iedereen die de interactie tussen ethiek en technologie wil begrijpen, hoewel het nog steeds een academisch boek is.

Wil je iets toevoegen?

Ik wil heel graag alle geweldige bijdragen van mijn collega’s erkennen. Deze projecten zijn ook een collectieve inspanning en het boek is het resultaat van vele gesprekken en ontmoetingen die ik heb gehad met collega’s en vrienden. Ik ben daar zo dankbaar voor.

Hoe meer mensen we kunnen interesseren voor AI-ethiek, hoe beter! Wilt u meer weten? Binnenkort organiseren zij een onderzoekscolloquium over TBM

Het boek ‘Human Freedom in the Age of AI’ kan vooraf worden besteld en zal verkrijgbaar zijn via deze link.