Overheid, Datahonger en de gevaarlijke illusie van zekerheid

Waarom data en algoritmen handig zijn

Het behoeft geen verdere uitleg dat zowel de publieke en private sector, al jaren bezig zijn met het op astronomische schaal verzamelen van gegevens. Vooral gegevens over personen zijn waardevol.
Hoe meer data men van iemand heeft, des te beter men inschattingen over die iemand kan maken. Voor private partijen kan dit bijvoorbeeld handig zijn om te kijken welk soort advertentie bij wie aanslaat. Een reclame voor maandverband zal bij een 70 jarige vrouw in een verzorgingstehuisminder waarschijnlijk minder aanslaan dan bij een 30 jarige vrouw met 2 kinderen op school.
Voor een overheid, is data over personen bijvoorbeeld nuttig om publieke voorzieningen efficiënter te verdelen. Zo is het handig om te weten in welke wijken veel kinderen wonen en wat de gemiddelde financiële draagkracht van bewoners is, om bijvoorbeeld te kunnen bepalen waar het beste een speeltuin geplaatst kan worden.
Gegevens als leeftijd en gemiddelde financiële draagkracht van buurtbewoners, geven voor beantwoording van zo’n vraag geen zekerheid, maar wel een bepaalde aanwijzing. Op basis van vooronderstellingen, kan men hierover aannames doen. Als “A” & “B” dan is waarschijnlijk ook “C”. Dergelijke formules, die op data losgelaten kunnen worden, worden ook wel algoritmen genoemd. Deze algoritmen kunnen zeer handig zijn om snel in een grote hoeveelheid data bepaalde verbanden naar boven te halen. Het met algoritmes geautomatiseerd zoeken naar verbanden binnen grotere hoeveelheden data, wordt ook wel “datamining” genoemd.

Foute assumpties: De keerzijde van datamining

Eerder noemden we het voorbeeld van maandverband reclame die beter zou aanslaan bij een vrouw van 30. Men kan er vanuit gaan dat een vrouw van 30, die al 2 kinderen heeft gehad, nog menstrueert en dus een potentiele klant voor maandverband is. Dit blijft echter een vooronderstelling en geen zekerheid! Stel dat de vrouw van 30 als gevolg van kanker onlangs haar baarmoeder heeft moeten laten verwijderen; Dan is een specifiek aangeboden reclame van maandverband alles behalve effectief. Pijnlijk, maar de persoonlijke gevolgen van zo’n inschattingsfout zijn hier nog enigszins te overzien.
De gevaren worden groter in de publieke sector: De overheid is een zeer machtige partij en de beslissingen die zij neemt hebben vaak grote gevolgen voor betrokkenen. Zorgvuldigheid is dan dus extra geboden. Verkeerde aannames van de overheid kunnen het leven van mensen immers volledig overhoop gooien.
Denk bijvoorbeeld aan de recente belasting toeslagenaffaire, waarbij grote groepen mensen vanwege assumpties over hun afkomst en sociale status, automatisch als fraudeur werden bestempeld. Dit betekende voor vele duizenden mensen , enorme financiële en emotionele rampspoed. Mensen werden als het ware op basis van aannames over data, uit voorzorg gestraft, hetgeen uiteraard ingaat tegen de in een rechtstaat essentiële presumptie van onschuld, die zegt “dat je onschuldig bent, tenzij het tegendeel is bewezen”.

Assumpties als basis voor handhaving en bestraffing.

In een streven naar efficientie, maakt de overheid steeds meer gebruik van data om meer preventief op te treden. Als het bijvoorbeeld gaat om voorspellen van kansen op overstromingen, zal dit zeker toegevoegde waarde hebben. Het is lastig om daar op tegen te zijn.
Maar zodra data gebuikt wordt om gedrag van mensen te voorspellen in het kader van “veiligheid”, begeven we ons snel in moreel grijs gebied. Vooral omdat “veiligheid” een uiterst subjectief begrip is en de drang daarnaar voornamelijk voort komt uit een zekere angst, waarvan je je kunt afvragen in hoeverre die reëel of proportioneel is. (Over de rol van angst in het uithollen van “vrijheid” in een collectieve drang naar “veiligheid” gaan andere artikelen op deze website verder in.)
Zo kreeg de Nederlandse Politie onlangs een waarschuwing van Amnesty International over “Sensing-project Roermond”. Een proef voor “massasurveillance” en “voorspellend politieoptreden”. In Roermond registreert de politie diverse gegevens van reizigers in de regio en laat er algoritmen op los om criminaliteit te voorspellen/selectiever politie in te kunnen zetten. Met hartslagmeters, bewakingscamera’s en kentekenregistratie verzamelt de politie er een grote hoeveelheid gegevens van reizigers en bezoekers in het gebied. Over deze gegevens worden deels geautomatiseerd assumpties gedaan, die politie-inzet sturen.
Zo bleek volgens Amnesty dat auto’s met een Oost-Europees kensteken, met meerdere inzittenden die ook nog eens vanuit een specifieke windrichting aankwamen, automatisch gezien werden als “verhoogd risico op winkeldiefstal”. Inzittenden werden daarop vaker door de politie gecontroleerd dan anderen.
Voor velen is het lastig voor te stellen hoe onrechtvaardig het kan voelen om onterecht extra gecontroleerd te worden door de politie vanwege factoren waar men persoonlijk weinig tot niets aan kan doen. Los van dit discriminatie aspect komt ook onschuldpresumptie al snel onder druk te staan. De uitgangspositie is immers niet meer dat je “onschuldig” bent, maar dat je, op basis van de gekozen algoritmes, een “risico” bent.
In science fiction worden dergelijke ontwikkelingen wel eens tot in het extreme doorgetrokken. Denk bijvoorbeeld aan de film “minority report”, waarin toekomstige misdaad voorspeld kon worden en mensen preventief konden worden veroordeeld om de samenleving “veilig” te houden. Los van de vraag over de wenselijkheid van zo’n systeem, is het zeer onwaarschijnlijk dat dergelijke systemen zelfs theoretisch waterdicht te krijgen zijn. De menselijke component, die alleen al gaat over de keuze wat er gehandhaafd moet worden, de strafmaat en mogelijke selectiviteit en misbruik van het instrument, maken het streven naar een dergelijk handhavingsinstrument een weinig bemoedigend.

De fundamentele onzekerheid.

Data vertelt veel over mensen, en hoe meer data je hebt, des te meer het kan vertellen, maar het blijven aannames die geen echte zekerheid bieden. Weet je wat voor voedingsmiddelen iemand koopt, dan kun je aannames doen over diens dieet, maar bijvoorbeeld niet of dat dieet het gevolg is van keuze of (medische) noodzaak. En zo kun je bij vrijwel elke assumtie die op basis van data gemaakt wordt, wel een vraag bedenken die niet beantwoordt kan worden. Door slimme rekenformules, algoritmen, kan men op basis van grote hoeveelheden data bepaalde aannames doen die in veel gevallen kloppen, maar nog steeds geen zekerheden geven.
Het roept echter de aloude vraag op, of je, als je over alle aanwezige data beschikt, de toekomst kunt voorspellen. Los van de vraag of het praktisch haalbaar is om zo’n berekening te maken, lijkt de wetenschap die eerste vraag vooralsnog negatief te beantwoorden.
Zo blijkt het tot nu toe voor wetenschappers onmogelijk, om in het kleinst meetbare deeltje, plaats op tijdstip vast te stellen. Wetenschappers stellen zelfs dat er sprake is van een fundamentele onzekerheid.
Aangezien die fundamentele onzekerheid onderdeel is van de bouwsteen van alles om ons heen, is de enige zekerheid die we lijken te hebben, de zekerheid dat niet alles is te voorspellen.
Deze wetenschap zegt in feite dat de eindeloze drang naar data uiteindelijk geen zekerheid zal bieden over de toekomst. Er zijn altijd factoren waar wij (nog) geen weet van hebben, die de uitkomst kunnen veranderen.

Aan ons de keuze: Door naar Kafka? Of een positieve ommekeer?

Dat het verzamelen van data uiteindelijk nog geen absolute zekerheid kan geven, zal weinig afdoen aan de waarde van data verzameling en datamining voor adverteerders in de private sector of voor de publieke sector in het voorspellen van maatschappelijke ontwikkelingen waar beleid op moet worden aangepast. Zodra de fundamentele onzekerheid echter beleidsmatig doorsijpelt in overheidsoptreden dat rechten van individuele burgers kan schenden, komt de rechtstaat fundamenteel onder druk te staan.
Uiteindelijk zal beleid dat bedoeld is om ons te beschermen tegen mogelijk kwalijk handelen van anderen, ook ons zelf negatief raken. Zoals eerder al eens aangegeven, is dat de wederkerigheid van vrijheid.
Accepteren we onschuldige slachtoffers van het geweldsmonopolie als “collateral damage” in een repressieve drang naar het uitbannen van criminaliteit? Of streven we naar een handhaving van de onschuld presumptie, met als risico dat sommige “overtreders” de dans ontspringen?

De huidige, op data gebaseerde, risico gestuurde aanpak van de overheid gaat al uit van het eerste principe, getuige de vele duizenden mensen die onterecht door de overheid in een financiële, emotionele en juridische nachtmerrie zijn gestort, op grond van hun etniciteit onevenredig vaak door de politie worden staande gehouden, etc. Deze onschuldige slachtoffers zijn “Collateral damage” van risico gestuurde handhaving.
Aangezien zekerheid ook met meer data niet te verkrijgen is, moet een oplossing voor dergelijke misstanden niet gezocht worden in het verzamelen van nog meer data. Hierdoor groeit alleen de illusie van zekerheid, waardoor het nog lastiger zal worden voor onschuldige slachtoffers, om gehoord te worden of hun gelijk te halen. Een Kafkaiaanse nachtmerrie die alleen maar verder afstaat van een goed functionerende rechtstaat.
Als we echt willen voorkomen dat onschuldige burgers slachtoffer worden van een repressieve overheid, moeten principes als onschuldpresumptie weer centraal stellen en de neiging om mensen te zien als risico loslaten. Dit vereist echter wel dat we goed naar ons zelf kijken en onszelf oprecht de vraag stellen hoe wij zelf zouden handelen, onder dezelfde omstandigheden als de mensen die we veroordelen.
Verreweg de meeste mensen die eerlijk naar zichzelf toe zijn, zullen dan begrijpen dat het “kwaad” veelal in omstandigheden zit.
Daarnaast is het van het grootste belang dat wij onze angst weten te relativeren. Daar waar angst een belangrijke signaalfunctie kan hebben, is een staat van constante angst een grote bedreiging voor onze ratio. We schieten door angst van ons mensenbrein in ons reptielenbrein, in overlevingsmodus, waardoor we gemakkelijker beslissingen nemen waar we later spijt van krijgen. Despoten die vrijheidsbeperkende maatregelen willen doordrukken, krijgen dit meestal gemakkelijk voor elkaar in tijden van angst. Dictaturen floreren bij angst, vrije samenlevingen floreren bij liefde. Angst verkoopt echter goed en een mediahype rond angst is eerder regel dan uitzondering. De perceptie van angst, is als gevolg hiervan bij de meeste mensen groter, dan de eigen omgeving zou rechtvaardigen. Dit alleen al maakt dat het middel tegen de angst waarom gevraagd wordt, niet in verhouding zal staan tot de daadwerkelijke dreiging.
Zodra we onze angsten in perspectief kunnen zetten en inzien dat “het kwaad” voor een groot gedeelte in de omstandigheden zit, zal het gemakkelijker worden om de focus in de toekomst te richten op het creëren van positievere omstandigheden voor iedereen. Omstandigheden die het minder interessant maken voor mensen om anderen iets aan te doen. Zoals, zingeving, rechtvaardigheid, een prettige leefomgeving, een gevoel van gelijkwaardigheid, etc.

Aangezien het leven nu eenmaal niet zeker is, kunnen we dan niet beter werken aan een samenleving, waarin we die onzekere tijd op een aangename manier met elkaar delen?