Vragen van een conferentie over generatieve AI in Maassluis

Maassluis 14-06-2024 – Uit een recent artikel in Eenvandaag blijkt dat ruim driekwart van de Nederlandse gemeenten ChatGPT in een of andere vorm gebruikt.

---

Deze vorm van generatieve AI kan zeer nuttig zijn voor de gemeente, omdat is aangetoond dat het de hoge werkdruk van ambtenaren verlicht.

Er zijn echter ook risico’s verbonden aan het gebruik van dit soort programma’s. De AP heeft kritiek op de privacyrisico’s die dit met zich meebrengt. Bovendien merkt de AP op dat er vragen zijn over de manier waarop de gegevens waarop het model is gebaseerd, zijn verzameld. Er zijn ook risico’s als het om ethiek gaat. Een taalmodel kan bijvoorbeeld onjuiste informatie of schadelijke inhoud bieden. Een ander probleem is dat het moeilijk of onmogelijk is om te begrijpen waarom een ​​specifiek antwoord wordt gegeven. Dit betekent dat sommige taken, zoals besluitvorming, niet met deze technologie kunnen worden uitgevoerd.

De ethische commissie van de gemeente Groningen heeft onlangs advies uitgebracht aan die gemeente. Dit advies biedt een uitstekende start voor een (generatieve) AI-visie en -beleid voor de gemeente Groningen. In het licht van de onlangs aangenomen Europese wet op AI zal de gemeente Maassluis moeten weten welke AI zij gebruikt. Dit roept de vraag op hoe generatieve AI een plek heeft in Maassluis.

D66 Maassluis stelt u daarom op grond van artikel 51 van het Reglement van Orde de volgende vragen:

1. Maken ambtenaren, leveranciers en/of regionale samenwerkingsverbanden van Maassluise gebruik van generatieve AI-programma’s zoals ChatGPT?

2. Wordt generatieve AI structureel ingezet in processen binnen de gemeente?

3. Is er binnen de gemeente toezicht op de inzet van generatieve AI en zo ja, hoe is dit toezicht georganiseerd?

4. Bent u het eens met de kansen en risico’s die generatieve AI de gemeente biedt?

5. Zo ja, welke kansen en risico’s van generatieve AI ziet u voor de gemeente Maassluis?

6. Heeft de gemeente Maassluis een visie en/of beleid op de inzet van generatieve AI of AI in het algemeen?

7. Zo nee, bent u het dan met D66 eens dat Maassluis een visie en/of beleid rondom generatieve AI moet ontwikkelen?

8. Wat vind je van de ethische commissie, zoals die in Groningen, of soortgelijke initiatieven om technologie verantwoord in te zetten in de gemeente?

Hoogachtend,

Jesse de Jong-Paalvast

D66 Maassluis