Maxim Februari stelt in een recente column in het NRC: “De corona-app heet onderdeel te zijn van een ‘exit-strategie’, maar is in werkelijkheid deel van een ‘intro-strategie’. Er wordt een nieuwe manier van besturen geïntroduceerd”[1]. Maxim snijdt hier een wezenlijk punt aan. Een punt wat nog niet prominent aan de orde is geweest in de discussie rondom de Corona app.
Hugo de Jonge wil door middel van de inzet van een app te voorzien in datgene waarin de GG en GD nu niet voldoende kan voorzien, contact tracing. De GG en GD heeft onvoldoende capaciteit om dit adequaat en snel te doen. Software en data en niet de artsen en verpleegkundigen van de GG en GD gaan dus bepalen wat wij wel of niet zouden moeten doen in deze Corona tijd. Met techniek een capaciteit en budgetprobleem oplossen. De verantwoordelijkheid die normaal ligt bij dokters en verpleegkundigen wordt nu uitbesteed aan een app. In hoeverre kan en mag een app die verantwoordelijkheid krijgen?
De snelle keuze voor technologische oplossing van een capaciteit en kosten probleem aan de ene kant en de aantrekkelijkheid van beschikbare technologie aan de andere kant omzeilt de algemene vraag van de legitimering van de geautomatiseerde administratieve staat. Wanneer is dat geoorloofd? Hoe ver mag aansturen van gedrag met data en software gaan en aan welke eisen moet dat voldoen? Wanneer mag (big)data worden gebruikt om te besturen, hoe zit het met automatische besluitvorming bij het verlenen van een uitkering, mag ik een taak van een overheidsdienst zomaar automatiseren als dat goedkoper is, moet ik als ambtenaar snappen hoe mijn slimme software werkt, mag ik een slimme auto technisch dwingen om niet harder dan 130 te rijden, mag de inzet van software een oplossing voor een capaciteitsprobleem zijn of moet het middel mijn functioneren versterken? Er zijn legio vragen te bedenken.
In de discussie mis ik de vraag of de keuze voor een app door de overheid legitiem is of kan zijn. Die legitimiteit hangt samen met de eisen die volgens ons [de maatschappij] moeten gelden voor de geautomatiseerde administratieve staat als geheel. Zonder een duidelijk alomvattend ethisch normenkader voor de inzet van software en data door de overheid bij het besturen van de maatschappij blijven we bij “incident management”. We voeren er een rechtszaak over of iemand stelt kamer vragen. De consequentie hiervan is dat de overheid kan kiezen voor een app of een algoritme tenzij een kamerlid of een organisatie als burgerrechten organisatie hiertegen in het geweer komt. Geld of politiek is daarbij vaak een beperkende factor.
Het ideaal zou echter moet zijn keuzes voor software en algoritmen vooraf worden getoetst aan het door mij voorgestelde normenkader. Ik denk aan “algemene beginselen van behoorlijk elektronisch bestuur” die door iedere burger kunnen worden ingeroepen en waar de toepassing aan kan worden getoetst.
Het wordt tijd dat de Regering zich ondubbelzinnig en publiekelijk committeert om een brede maatschappelijke discussie aan te gaan over de voorwaarden waaronder we ons als maatschappij laten besturen door software en data. We zijn in een nieuw tijdperk van het sturen van gedrag door automatisering. Dat tijdperk kunnen we alleen zonder kleerscheuren doorkomen met gemeenschappelijk gedragen [ethische] normen zoals de door mij voorgestelde Algemene Beginselen van Behoorlijk Elektronisch bestuur.
Wanneer mag de overheid bestuur gedrag van burgers reguleren met software of data en met welke middelen? Welke waarborgen moeten hieraan worden gekoppeld? Deze vragen gaan voor de vraag of het gekozen technische middel privacy vriendelijk is. Tijdsdruk en crisisbeheersing rechtvaardigen nu om de aanvang van de discussie uit te stellen. Afspreken dat we het gaan doen en wanneer lijkt mij een redelijke minimale voorwaarde voor een besluit tot doorgaan met “de app”. Als we dit niet doen dan zie ik niet hoe we met zijn allen een griep app tegenhouden of een snelheidsbegrenzer in onze Connected Cars.
[1] https://www.nrc.nl/nieuws/2020/04/12/gruwelijk-misverstand-privacy-is-het-punt-niet-a3996597
[2] https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3553590