De kansen en risico’s van Smart Cities zijn twee kanten van dezelfde munt

Met gebruik van data, artificial intelligence (AI) en slimme digitale platformen die met elkaar verbonden zijn, worden overheden nu meer in staat gesteld om grote hoeveelheden gegevens te gebruiken om Smart City toepassingen te realiseren.

Zelf geloof ik dat dit vooral positieve effecten zal hebben op de samenleving en ons stapsgewijs dichterbij een ideale maatschappij met een hoge kwaliteit van leven voor haar burgers zal brengen. Moet dit potentieel ten koste gaan van onze ondernemingsvrijheid, de individuele rechten van burgers en ons vermogen om ons eigen lot in handen te nemen? Het is misschien niet de meest optimistische, maar wel degelijk een maatschappelijk relevante kant van dezelfde munt. In deze studie, uitgevoerd door Capgemini Invent in samenwerking met Netexplo, wordt een leidraad gegeven over de omvang van deze risico’s.

Volgens de auteurs zijn er over het algemeen drie mogelijke factoren die tot een dystopie, een samenleving waar men niet in wil wonen, kunnen leiden. Ten eerste, de afhankelijkheid van techgiganten en hun platforms. Een handvol particuliere spelers krijgt namelijk geleidelijk een meer dominante positie in en buiten hun sector door middel van acquisities, waardoor ze meer toegang krijgen tot persoonlijke gegevens. Stapsgewijs komen zij dichter bij een monopoliepositie, waarbij men steeds afhankelijker van hen wordt. Zo ziet bijvoorbeeld een winkelier hun succes sterker groeien met platformreviews en ziet een hotel of restaurant hun klantaantallen veranderen op basis van beoordelingen op reisplatforms. Deze platforms vragen een hoge commissie voor boekingen en beïnvloeden organisaties aanzienlijk in vergelijking met het gemiddelde ministerie van huisvesting.

Ten tweede, het is mogelijk dat een totalitair regime ontstaat waarbij alwetende overheidsinstellingen beschikken over genationaliseerde databanken die gebruikt worden om massatoezicht en sociale controlemaatregelen uit te voeren. Een befaamd AI voorbeeld is het sociaal beoordelingssysteem dat in 2014 werd ingevoerd in verschillende Chinese provincies, waarbij het gedrag van burgers voortdurend wordt geëvalueerd door middel van een sociale kredietscore met potentiële impact op hun vrijheden. Een ander voorbeeld is de documentaire ‘The Great Hack’ over het Facebook-Cambridge Analytica-dataschandaal waarbij de Amerikaanse verkiezingen van 2016 werden beïnvloed en daarmee de waarde van het democratische proces in twijfel werd getrokken.

Ten derde, algoritmen kunnen leidend worden in samenlevingen door sociale vooroordelen en publieke manipulatie, ook wel een ‘algocracy’ genoemd. Neem bijvoorbeeld de stad Durham in het Verenigd Koninkrijk, waar een algoritme geïmplementeerd is dat het risico op recidive van criminelen kan voorspellen. Dit type programma zou ook een bron kunnen zijn voor het oordelen op ras, huidskleur en/of geslacht en strafblad. Zeker als een steeds kleinere elite het intellectuele eigendom van algoritmen kan domineren met een beperkte groep van ingenieurs en ontwikkelaars die werken aan de ontwikkeling van zulke algoritmen.

De centrale vraag hierbij is dan ook hoe het verzamelen, gebruiken en delen van gegevens van burgers het best kan worden georganiseerd binnen de sociale, politieke en economische belanghebbenden. Om deze vraag te beantwoorden pleiten de auteurs voor een visie op ‘Terri­tory Data Trust’ als kader om veilig gebruik van gegevens in te voeren op basis van een infrastructuur voor gegevensverstrekking, een ethische en wetsconforme structuur, duidelijke veiligheidsregels en een nieuwe vorm van bestuur.

Om dit te realiseren dient het mogelijk te zijn om de gegenereerde gegevens te verzamelen, te analyseren en te vergelijken op een gedeeld en transparant platform voor belanghebbenden. Echter zijn deze gegevens vaak beperkt – of helemaal niet – beschikbaar, omdat deze zich bevinden in systemen van organisaties. Data moet daarom beschouwd worden als gedeeld erfgoed dat voor iedereen beschikbaar is. Om dit transparant en toegankelijk te maken zijn wel ethische principes en duidelijke regels tussen burgers, bedrijven en overheden nodig. Dit vraagt vervolgens om audits op deze databanken om potentieel misbruik van gegevens, zowel door de overheid als door particuliere instanties en algoritmes, te voorkomen. Aansluitend dient het gebruik van AI gereguleerd te worden, zoals de Europese Unie gedaan heeft op basis van zeven criteria die in algoritmen kunnen worden geïntegreerd om sociale vooroordelen te voorkomen.

Cybersecurity dient ook een vorm van publieke service te worden. Over de laatste decennia is door het toenemende aantal cyber aanvallen dit steeds meer het middelpunt van de bezorgdheid van de burgers, de overheidsinstellingen en de economie geworden. Maar wie moet deze veiligheid garanderen en op welke schaal (regionaal, nationaal, Europees of mondiaal)? Dit vraagt om richtlijnen en duidelijke regels in een wettelijk kader om de toepassing te garanderen. Kortom resulteert dit in duidelijke sancties en strafrechtelijke procedures voor personen en entiteiten die betrokken zijn bij cyberaanvallen.

Zoals genoemd in ons recente rapport over Smart City projecten in de G40 hangt het succes van projecten mede af van burgerparticipatie. Ook de auteurs van dit artikel benadrukken het belang van de meer centrale positie van de burger in het ontwikkelings- en besluitvormingsproces van Smart City oplossingen. Zoals nu bijvoorbeeld gebeurt in Arlon (België) met CitizenLab, een burgerraadplegingsplatform dat de behoeften, meningen en ideeën van de burgers verzamelt en gebruikt voor maatschappelijke oplossingen.

Deze visie kan het vetrekpunt vormen voor het vormen van ecosystemen op nationaal, regionaal en lokaal niveau die gebouwd zijn op een solide data infrastructuur met de bijbehorende cyberveiligheid op één transparant platform. Dit stelt ons vervolgens in staat om ook op de lange termijn meer gepaste Smart City toepassingen te ontwerpen richting een ideale maatschappij.

Auteur

Nick van den Boogaart – Senior Consultant

Innovation & Strategy – Capgemini Invent