We bouwen onze eigen gevangenis

Toen Steven Spielberg in 2002 de film Minority Report presenteerde, noemde we dit een sciencefictionfilm. Achttien jaar later is dit niet meer futuristisch maar is het de realiteit van de ingeslagen weg.

Voor wie de film niet kent in het kort: het gaat over een politie-eenheid die met hulp van algoritmen en Big Data (heel veel Big Data) misdaad voorkomt door mensen te arresteren die “van plan zijn” een misdaad te gaan plegen. Dus even voor de duidelijkheid: er vinden arrestaties plaats voordat de misdaad heeft plaatsgevonden.
Zover zijn we in Nederland nog niet, maar Predictive policing is vandaag wel algemeen Nederlands politiebeleid. In Nederland wordt gesproken over het Criminaliteits Anticipatie Systeem (CAS). Klinkt goed, want we willen criminelen vangen.

De berichtgeving hierover in de media is sinds 2017 wat opgedroogd en dit is meestal een teken dat er achter de schermen grote vooruitgang in dit proces plaats vindt. De ambities zijn hoog, de technische ontwikkelingen gaan snel, sneller dan ons begrip hierover en de Big Data berg groeit exponentieel. Dat hierbij het bestaande recht niet altijd al te nauw genomen wordt, is inherent aan de doelstellingen: snuffelen, verzamelen, ongemerkt surveilleren.

 

Exhibitionisme

Er worden altijd dezelfde argumenten gebruikt: meer data, meer burgers preventief en intensief monitoren zal tot meer veiligheid leiden.
De gevolgen van deze ontwikkeling is verwoestend. Onze rechtstaat zal volledig ontmanteld worden en over de kop gaan. Voor de burger zal een ondoorzichtig, willekeurig juridisch Wilde Westen overblijven.

Zorgwekkend hieraan is vooral dat bijna iedere burger vol overgave actief aan deze ontwikkeling meewerkt.
Door het onbezonnen gebruik van smartphones en social media, het ongereflecteerde digitale geklik, de gemakzuchtige omgang met allerlei apps en het exhibitionistisch pingedrag(!) leveren we de zo begeerde data waarmee een nieuw tijdperk gebouwd wordt.
Een tijdperk waarin de menswaardigheid een randverschijnsel wordt, individuele vrijheid een illusie. Een tijdperk waarin de meesten van ons zullen baden in zelfgenoegzaamheid en verblind zijn door een geestelijke ontwikkelingsstagnatie.

 

Fake nieuws

Uit recente berekeningen van het CBS blijkt dat, wanneer we alle burgers preventief in de gevangenis opsluiten, de criminaliteit met nagenoeg 100% zal afnemen.
Dat is geweldig! Maar natuurlijk nonsens, het geeft wel de vrijheidsberoving weer waar we op afstevenen. Vrijheidsberoving door digitale waarschijnlijkheden en een heilig geloof in onwaarheden die de door mensen geprogrammeerde algoritmen ons voorspiegelen.

 

Is dit de wereld die je wilt?

We geven in 4 stappen een schets van een ontwikkeling die plaats zal gaan vinden. Hierbij is het geen vraag óf, maar wanneer het zover is. Want we weten maar al te goed: waar nieuwe data beschikbaar komen, waar nieuwe technieken ontwikkeld worden, zullen ook behoeften ontstaan deze te gebruiken.

Stap 1: CAS
Computersystemen voorspellen de plaats en het tijdstip van zakkenrollerij, straatroof, geweld, diefstal en inbraken. Het is zonder twijfel zeer fascinerend dat deze voorspellingen überhaupt gedaan kunnen worden. Volgens ontwikkelaars van deze techniek, bereikt men inmiddels rond de 80% waarschijnlijkheid dat de voorspellingen kloppen. Overbodig te melden dat deze score zich steeds verder zal verhogen.
Maar we mogen nooit vergeten dat het om waarschijnlijkheden gaat en dus nooit de 100% kan bereiken en niets met waarheid te maken heeft!

Stap 2: Wie komt als dader in aanmerking?
Dit is een logische en een legitieme vraag. Natuurlijk is de politie gebaat bij een aanwijzing hierover. Bij de hierboven reeds vermelde exponentieel groeiende Big Data Berg, zal men ook aan deze vraag tegemoet willen en kunnen komen. Een algoritme zal binnenkort de opsporingsdiensten namenlijsten van mogelijke daders presenteren. Uw naam staat hier wellicht ook bij en u zult genoodzaakt worden uit te leggen waarom u niet de dader bent.

Bij deze voorspellingen zullen steeds vaker data gebruikt gaan worden van commerciële bedrijven zoals bijvoorbeeld Google, Facebook maar ook de NS of Netflix. Hiermee wordt een eerste stap genomen om commerciële bedrijven (officieel) te laten anticiperen aan criminaliteitsbestrijding. Voor ons als burger, maar ook voor de opsporingsdiensten, zal het altijd een geheim blijven hoe de door deze bedrijven geleverde data tot stand zijn gekomen. Deze bedrijven zullen, waarschijnlijk op basis van aangetoonde successen, hiervoor hun provisie opstrijken.

Stap 3: De digitale aanklacht
De boven beschreven opsporingsmogelijkheden zijn al een feit. Deze zullen verder geoptimaliseerd en doeltreffender worden. We zullen scores van 95% en nog hoger bereiken. Dit geldt in het bijzonder voor het aanwijzen van mogelijk verdachte personen.
Er zal enige tijd moeten verstrijken, de resultaten zullen nog geloofwaardiger worden en dan, dan zullen de meeste mensen verlangen naar deze illusie van veiligheid, rechtvaardigheid en efficiëntie. De (terechte) bedenkingen worden van tafel geveegd.

Het zal met een “proef” beginnen, waarbij computers de aanklacht zullen gaan formuleren en produceren. Deze stap is niet zo groot. Immers, opsporen doen we al op basis van waarschijnlijkheden die door algoritmen berekend worden.
Nu wordt het voor de verdachte al aardig lastig, want we hebben inmiddels ook de omgekeerde bewijslast ingevoerd. Niet de openbare aanklager moet de schuld bewijzen maar de verdachte moet zijn onschuld bewijzen. Dit is veel efficiënter en is – om alvast aan te wennen – nu al in de drugsbestrijding en belastingontduiking ingevoerd.

Voor de verdachte gaat het moeilijk worden. Deze wordt namelijk geconfronteerd met, laten we zeggen, 1200 pagina’s aan (persoonlijk) materiaal, die met elkaar het indicatieve bewijs onderbouwen. In de kop van de aanklacht staat: 97,8% waarschijnlijkheid. Dit wordt niet “eventjes” zeggen dat je onschuldig bent.

Digitaal gaat er niets verloren. Je wordt geconfronteerd met zaken die 15, 20 of 30 jaar geleden een rol in je leven speelden. Dit is een probleem want misschien, heel misschien kan je je hieraan nog herinneren, maar details ben je al lang vergeten. Met grote waarschijnlijkheid is je houding t.o.v. de opgesomde feiten inmiddels verandert. Jij bent veranderd en je hebt je verder ontwikkelt. De digitale wereld kent echter geen levende ontwikkeling.

Hier ontstaat een juridisch en moreel probleem. Dit probleem is tegelijkertijd ook het doel van predictive policing. Namelijk: het voorspellen van criminaliteit zodat de politie kan optreden vóórdat er is gehandeld. In het huidige rechtssysteem is een voorwaarde voor strafbaarstelling dat de verdachte strafbaar gehandeld moet hebben. Er zal een verschuiving plaatsvinden van de handeling naar de intentie. In plaats van strafbare handelingen wordt afwijkend handelen de graadmeter. Hier komen we dus aan bij de gedachten politie.

Stap 4: De rechtspraak
De volgende stap is dan ook niet meer zo groot: in de rechtsspraak zullen algoritmen hun intrede doen. Rechters zijn mensen en mensen kunnen vermoeid zijn, kunnen zich vergissen, maken fouten en oordelen altijd vanuit subjectieve opvattingen, bovendien zijn ze duur.

De roep zal klinken naar een “objectievere”, efficiëntere en betrouwbaardere rechtsspraak. Tevens geen wachtlijsten meer en veel goedkoper. Want in de toekomst zouden algoritmen met een waarschijnlijkheid van 98% of meer, het “betere” vonnis kunnen vellen. Een aanzienlijk hogere score dus dan een rechter van vlees en bloed.

Men is dan inmiddels wel vergeten of neemt het op de koop toe, dat een algoritme niet objectief is en slechts waarschijnlijkheden produceert, geen waarheden. Ook heeft een algoritme niets met moraliteit te maken, iets wat essentieel is in de rechtsspraak.
De meeste data die de algoritmen voorgeschoteld krijgen om te verwerken, stammen van commerciële bedrijven. Hierbij zal het zowel voor de burger en opsporingsdiensten nooit herkenbaar worden welke data tot dit resultaat gevoerd hebben.

 

Is dit de wereld waarin je wilt leven?

Zo ja, dan is dat een keuze, u hoeft verder niets te doen.
Zo nee, waarom voedert u dan dagelijks deze systemen met uw data? Door uw exhibitionistisch gedrag levert u vrijwillig uw levensgewoonten, uw gedrag, uw voorkeuren, smaak persoonlijke data & bewegingsprofiel. Bovendien verkoopt u ook nog eens dagelijks uw vrienden en kennissen door het gebruik van Gmail, Hotmail en dat soort lugubere datarovers.

Waarom doet u dat?

Wanneer ons denken er ver genoeg aan gewend (gemanipuleerd) is, zullen we de zaken zoals hierboven beschreven gaan toejuichen en met groot enthousiasme omarmen. Dan is het te laat iets te ondernemen. Welkom in de wereld van George Orwell.

Een goede indruk over de stand van zaken betreffende Big Data & Algoritmen geeft dit uitstekende interview van Tegenlicht met Harvard-hoogleraar Shoshana Zuboff.
Helaas wordt ook bij deze reportage vooral de commerciële kant benadrukt. Tussen de regels door hoor je wel dat het eigenlijk over het beheersen van ons denken en over de manipulatie van ons gedrag gaat.

 

Op WakkerMens: Big Data en algoritmen
Nieuwsbrief WM: De slimme meter kan je weigeren
Ars Aequi, juridische uitgeverij: Predictive policing: De opkomst van een gedachtenpolitie?
Bits off Freedom: Hoe de politie haar buitenwettelijke surveillancenetwerk uitbreidt
NRC: Hoe de politie misdaad opspoort nog voordat die heeft plaatsgevonden
NU.nl: Politiesysteem-gaat-misdaad-voorspellen
NRC: SyRI via de rechter verboden