De introductie van Copilot is in strijd met een aantal publieke waarden van de gemeente Groningen

De gemeente Groningen moderniseert haar bedrijfsvoering. De inzet van generatieve AI biedt kansen met het oog op het verwachte vertrek van gepensioneerden de komende jaren. Maar dit moet wel verantwoord en veilig gebeuren. Mede daarom heeft het college de ethische commissie om advies gevraagd.

digitale assistent

Concreet onderzoekt de gemeente of Microsoft’s Copilot als digitale assistent een integraal onderdeel kan vormen van het nieuwe Office-pakket dat wordt geïmplementeerd. M365 verbindt diverse Kantoorapplicaties binnen de gemeente Groningen. Voor de transitie naar M365 is een meerjarenprogramma opgesteld waarin alle soorten projecten zijn opgenomen.

De gemeente beschouwt Copilot als veilig vanwege contractuele afspraken met Microsoft. Alternatieve vormen van generatieve AI, zoals ChatGPT, zijn (nog) niet expliciet verboden, maar het gebruik van Copilot wordt wel aanbevolen.

‘Schurende waarden’

De commissie stelt in haar advies dat de plannen van de gemeente in strijd zijn met een aantal publieke waarden die eerder in het Groningse ethische afwegingskader zijn vastgelegd. Wordt de generatieve AI-hype voldoende genegeerd? En het zijn de basisprincipes, zoals databeheer, die voldoende zijn om het potentieel van generatieve AI volledig te realiseren. Dit is in strijd met het uitgangspunt: ‘De gemeente laat zich niet meeslepen door overdrijvingen, kijkt onbevangen naar wat nodig is en durft nieuwe oplossingen kritisch in vraag te stellen.’

‘Wat gebeurt er met de omkeerbaarheid van werkprocessen als Copilot wordt geïntegreerd? Kunnen medewerkers voldoende begrijpen wat Copilot precies doet als ze helpen en zo eigenaarschap behouden over hun werk? En hoe bepaal je wanneer het wel of niet moet worden ingezet? Volgens de commissie moeten Groningers erop kunnen vertrouwen dat de gemeente controle heeft over de gebruikte technologie.

Gerechtigheid

Ook Groningers kunnen rekenen op technische oplossingen waar de burger profijt van heeft. ‘Is er voldoende informatie over hoe het gebruik van Copilot de interactie met bewoners kan beïnvloeden? En is Copilot voldoende toegankelijk voor alle medewerkers, of versnelt het de scheiding tussen digitaal ‘krachtig’ en ‘niet-kunnen’?

De commissie vraagt ​​zich ook af of de ecologische impact van het gebruik van generatieve AI zoals Copilot voldoende duidelijk is. En of de privacy van Groningers goed gewaarborgd is als medewerkers het gebruik van alternatieven voor Copilot (zoals ChatGPT, Claude of Bard) alsnog toestaan.

Verkenning en implementatie

Het gemeentebestuur vindt dat de gemeente te snel handelt. Feitelijk bevindt de gemeente zich nog in een verkennende fase, maar worden er al stappen gezet voor de implementatie ervan. Heeft de gemeente een duidelijk doel voor ogen en is Copilot de beste manier om dit te bereiken?

Volgens de commissie bestaat er op organisatorisch niveau geen duidelijk standpunt over de inzet van generatieve AI. “Op dit moment lijkt de verantwoordelijkheid voor de inzet van generatieve AI vooral bij medewerkers te liggen. Maar de organisatie blijft primair verantwoordelijk als er iets misgaat.’

Tenslotte adviseert de commissie om een ​​exitstrategie te formuleren. Kan de inzet van GenAI in bepaalde werkprocessen op een gegeven moment teruggedraaid worden? Er moet ook rekening worden gehouden met de grotere afhankelijkheid van Microsoft.

Dit artikel verscheen eerder in iBestuur, de zustertitel van AG Connect