Bewoners-in-the-Loop: meebeslissen over AI in stad

Co-Creatie Cyclus voor de Slimme Stad

Technologie in de publieke ruimte is voortdurend in ontwikkeling. Parkeerscanauto's gaan naast parkeerplaatsen ook kapotte lantaarnpalen herkennen en telefonisch ingediende klachten over de openbare ruimte worden voortaan automatisch gesorteerd. Toepassingen van technologie worden bedacht, gemaakt, ingezet - en veranderen daarna verder, samen met de stad eromheen. Er worden nieuwe functies bedacht, of mensen lopen vast in interacties die (nog) niet goed bij de werkelijkheid passen.

Toch behandelen gemeenten de inzet van technologie vaak als een project: iets met een begin en een eind, een oplevering en een afronding. In Bewoners-in-the-loop: samen beslissen over AI in de stad, zien we de ontwikkeling en implementatie van stedelijke technologie juist als een continu proces. Om hiermee om te gaan, ontwikkelden wij de Co-Creatie Cyclus voor de Slimme Stad: een proces waarin definiëren, maken en evalueren elkaar voortdurend opvolgen.

Verschuivende waarden vragen om een doorlopend gesprek

Publieke waarden, zoals privacy, rechtvaardigheid en transparantie, vormen in theorie het kader voor de implementatie van stedelijke technologieën. Maar die waarden zijn geen vaststaand gegeven. Ze vragen om continue betrokkenheid: een doorlopend publiek gesprek over wat ze precies betekenen in de context van de opgave. Wat betekent privacy bij het vormgeven van een scanauto of een slim verkeerslicht? Wat betekent transparantie precies. Is het voldoende om een algoritme voor beeldherkenning in de publieke ruimte te registreren in een register? Of moet het ook op een begrijpelijke manier worden uitgelegd? Moet de manier waarop het werkt inzichtelijk gemaakt worden, en zo ja: op welk detailniveau dan? Kortom, een beroep op publieke waarden zal in de meeste gevallen al snel leiden tot een reeks aan vragen. Wat vinden we belangrijk? Wat doet de technologie? En kloppen die twee ook met elkaar?

De methoden die we in tentoonstelling, workshop en handboek hebben uitgewerkt, richten zich op betrokkenheid van bewoners bij het beantwoorden van die vragen. Bewoners moeten kunnen begrijpen wat een systeem doet en weten hoe ze feedback kunnen geven of aan de bel kunnen trekken.