Menselijk toezicht nodig voor AI-wapensystemen

Wapensystemen uitgerust met kunstmatige intelligentie, zogenaamde ‘autonome wapensystemen’, worden steeds vaker op het slagveld gebruikt. Ze bieden veel voordelen. Denk bijvoorbeeld aan radargestuurde drones in Oekraïne.

Maar deze wapensystemen kunnen ook veiligheidsrisico’s met zich meebrengen. Dit komt omdat de verantwoordelijkheid voor hun beslissingen, acties en effecten niet altijd duidelijk is. Volgens Verdiesen moet dit duidelijk gemaakt worden in het besluitvormingsproces. Een machine mag immers geen beslissingen nemen over leven en dood. “De structuur die ik heb gecreëerd kent verantwoordelijkheid toe voor de acties van het wapensysteem. Dit gebeurt door het aanwijzen van een toezichthouder. Dit verkleint de kans op onbedoelde gevolgen.”

Verdiesen maakte die structuur toepasbaar in een simulatieomgeving. Hij identificeerde en programmeerde een reeks criteria die belangrijk zijn bij militaire operaties. Dit kunnen bijvoorbeeld de grenzen van een operatiegebied zijn. Of gebieden die je moet vermijden. Maar ook de weersomstandigheden. Afhankelijk van de structuur kan een menselijke toezichthouder beoordelen of een autonoom wapen aan die criteria voldoet. Mocht dit niet het geval zijn, dan kunnen wij onderzoeken wat er mis is gegaan, zodat we dit in de toekomst kunnen voorkomen.

Duidelijke regels

De verdediging is blij dat Verdiesen op dit onderwerp is gepromoveerd. Kunstmatige intelligentie zal alle militaire operaties beïnvloeden. Om deze reden vindt de organisatie het belangrijk dat hierover heldere internationale afspraken worden gemaakt. Volgens Defensie vormt het proefschrift van Verdiesen een waardevolle bijdrage aan het nationale en internationale debat over dit onderwerp.

Verdiesen begon haar carrière in 1995 bij de Koninklijke Landmacht en werd ingezet in Bosnië en Afghanistan. Deze zomer wordt ze tegelijkertijd gepromoveerd tot kolonel bij de Algemene Directie Beleid en tot hoofd van de afdeling Wetenschap en Technologie.