Wetenschappers luiden de noodklok: Big Data heeft een tegenmacht nodig

Maurits Martijn & Dimitri Tokmetzis
gepubliceert bij De Correspondent

In juni 2012 meldt de 36-jarige Rus Alexander Dolmatov zich bij een asielzoekerscentrum. Dolmatov is in zijn moederland gearresteerd bij een demonstratie tegen president Vladimir Poetin. Hij vreest voor zijn leven.

blank
Foto: Anouk van Kalmthout
(voor De Correspondent)

In december 2012 bepaalt de dat de asielzoeker niet in Nederland mag blijven. Dolmatovs advocaat gaat in beroep. Alleen: INDiGO, het systeem dat de IND gebruikt, registreert dit niet. Het vakje dat in dit geval moet worden aangevinkt, werkt niet. Een softwarefout. Volgens INDiGO is Dolmatov ‘verwijderbaar.’

Een paar weken later bellen medewerkers van het asielzoekerscentrum de politie. Dolmatov is dronken, verward en suïcidaal. De agenten brengen hem naar een opvanglocatie in Dordrecht. Hierna wordt Dolmatov overgebracht naar het Detentiecentrum Rotterdam om te worden uitgezet. Zijn advocaat wordt niet ingelicht. Vier dagen daarna vinden medewerkers Dolmatov dood in zijn cel.

De Inspectie Veiligheid en Justitie later een vernietigend oordeel. ‘Het onzorgvuldig handelen […] is niet alleen toe te schrijven aan het handelen of nalaten van functionarissen, maar ook aan de afhankelijkheid van – en het vertrouwen in – de systemen, procedures en formulieren,’ schrijft de Inspectie. En die bevatten te vaak ‘summiere, onduidelijke en soms zelfs onjuiste informatie’ – terwijl ze ook nog eens ‘onderling onvoldoende accuraat en actueel op elkaar aansluiten.’ En, last but not least: deze ‘systeemomissies’ zijn bekend.

Het cruciale rapport dat zo’n dramatische fout al had voorspeld

Eén vakje dat niet aangevinkt kon worden en gebrekkige communicatie tussen verschillende overheidsinstanties. Het klinkt als een ongelukkige samenloop van omstandigheden. Maar in retrospect leest een cruciaal rapport dat twee jaar voor Dolmatovs dood werd geschreven als een angstaanjagende voorspelling van de zelfmoord.

Dennis Broeders en Corien Prins waren beiden in 2011 co-auteur van dit rapport, van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR). Na jaren onderzoek kwamen zij tot de conclusie dat het erbarmelijk is gesteld met de manier waarop de Nederlandse overheid omgaat met de privégegevens van alle Nederlanders. De overheid voert handige digitale ontwikkelingen in, zoals online belastingaangifte en DigiD. Tegelijkertijd tuigt zij honderden digitale databases en applicaties op om maatschappelijke problemen op te lossen, zoals het

Maar wat daarbij over het hoofd wordt gezien, stelden de auteurs, is de samenhang tussen deze systemen. Losse databases en systemen zijn aan elkaar gekoppeld. Informatie stroomt van de ene database naar de andere, van het ene overheidsorgaan naar het volgende.
Niemand is verantwoordelijk voor het geheel aan datastromen. Er is geen enkel overzicht, geen overkoepelende visie, te weinig transparantie en veel te weinig mogelijkheden voor burgers om grip te krijgen op hun privégegevens. En bij het verzamelen en koppelen van informatie worden fouten gemaakt. Fouten mét consequenties.

De dood van Dolmatov is een tragische uitzondering, de fouten die eraan ten grondslag lagen, zijn systemisch.

Van burgers die onterecht geregistreerd staan als crimineel en dit maar niet weten te herstellen tot Nederlanders die uitgeschreven worden uit het bevolkingsregister en daardoor geen aanspraak meer kunnen maken op hun rechten. Van zzp’ers die per abuis als fraudeurs bestempeld worden door een foutieve databasekoppeling tot Alexander Dolmatov.

Die fouten, waarschuwden de auteurs in iOverheid, zijn geen uitzonderingen. ‘Over de hele linie moet de assumptie dat informatie juist is vervangen worden door het besef dat de informatie op onderdelen hoogstwaarschijnlijk niet accuraat, verouderd en soms zelfs misbruikt en gemanipuleerd zal zijn.’ En de burger? Die raakt verstrikt in die informatiestromen. De dood van Dolmatov is een tragische uitzondering, de fouten die eraan ten grondslag lagen, zijn systemisch.

blank
Foto: Anouk van Kalmthout
(voor De Correspondent)

Voor ons, journalisten die over onderwerpen als privacy en overheidssurveillance schrijven, was iOverheid in 2011 een enorme eyeopener. We schrokken van de harde lessen die de auteurs erin trokken. Voor waar wij nu aan werken, putten wij gretig uit de inzichten uit iOverheid. Wij zijn benieuwd hoe de auteurs terugkijken op het rapport en wat er in hun ogen de afgelopen jaren is veranderd.

We ontmoeten Dennis Broeders en Corien Prins in Villa Augustus, een oude Dordtse watertoren die tegenwoordig dienstdoet als hotel en restaurant. Prins is hoogleraar recht en informatisering aan de Tilburg University en decaan van de rechtenfaculteit. Broeders is bijzonder hoogleraar Technologie en Samenleving aan de Erasmus Universiteit Rotterdam. Het is een plek waar beiden warme herinneringen aan bewaren. Hier kwamen zij jaren geleden samen om te werken aan hun rapport.

Corien Prins (1961) – kort haar, scherpe blik – trapt af met een anekdote. Enkele maanden geleden sprak zij met een hoofdcommissaris van de politie. Hij vertelde dat hij verwachtte dat grote delen van de informatie over burgers die de politie in 2020 tot haar beschikking heeft, afkomstig zijn van digitale observatie. Deze data worden voornamelijk aangeleverd door de private sector. De hoofdcommissaris zei tegen Prins dat hij vanuit de ideeën over de iOverheid wilde nadenken over de grenzen daarvan en de manier waarop hij zijn organisatie hiervan kon doordringen. Binnen de politie is het rapport invloedrijk geweest, concludeert Prins. ‘Alleen heeft de politiek zich er weinig van aangetrokken.’

Dennis Broeders (1974) – jongensachtig uiterlijk – vult aan: ‘Dat enorme techno-optimisme, waarbij voor ieder probleem een database moet worden opgericht en informatie moet worden uitgewisseld, is nog steeds alive and kicking. Ict zit bij de meeste politici gewoon nog in de instrumentendoos. We hebben pennen, potloden, paperclips én ict.’

Terwijl het belangrijkste inzicht van hun rapport juist was: deze iOverheid groeit en groeit maar, semi-autonoom, database voor database. ‘Dat besef ontbreekt volledig,’ zegt Broeders. ‘Er is niemand die zegt: deze databases met gevoelige medische informatie gaan gekoppeld worden aan andere databases, wat vinden wij daar eigenlijk van?’

Vijf jaar later: de enorme rol van Big Data

Vijf jaar later is er bovendien een cruciale technologische ontwikkeling bij gekomen: Big Data. Speelde deze ontwikkeling in hun iOverheid-rapport nog geen noemenswaardige rol, recent richtten hoogleraren hun aandacht op Big Data. Waar Big Data precies voor staat, daar over verdeeld, maar in essentie gaat het over enorme hoeveelheden gegevens die worden geanalyseerd en waaruit lessen worden getrokken over het gedrag van grote groepen mensen. De afgelopen jaren heeft de Nederlandse overheid allerlei Big Data-toepassingen omarmd. Van inlichtingendiensten die er terroristen mee pogen op te sporen tot en het ministerie van Sociale Zaken die er mee proberen te detecteren.

Foto: Anouk van Kalmthout
(voor De Correspondent)

Een Big Data-overheid, ontdekken wij tijdens het gesprek met de twee professoren, is een iOverheid on steroids. Broeders en Prins sommen enkele fundamentele problemen op.

Zo vereist de analyse van grote datasets kennis van statistiek en algoritmes. Juist in Big Data-sets zitten bijvoorbeeld veel vuile en incomplete data – ‘ruis’, in de woorden van Broeders. Daar kun je voor compenseren als je iets wilt zeggen over groepen mensen, maar die conclusies zijn niet zomaar door te trekken naar individuen. En dat is precies wat politici wel graag willen, zegt Broeders. ‘Er kan veel goeds uit Big Data-analyses komen, mits je rekening houdt met de beperkingen. Maar ga dat maar eens aan een politicus uitleggen. Voordat je bij het woord ‘ruis’ bent aanbeland, is het gesprek al klaar.’ Een terrorist opsporen met datamining? Nee dus. ‘Er zijn te weinig data om een betrouwbaar profiel te maken, een terrorist is een té grote uitzondering. Maar die kennis hindert een hele hoop mensen niet.’

Corien Prins: ‘Er is de laatste jaren heel veel wetenschappelijke kennis opgebouwd over Maar de wetenschappelijke wereld zit niet aan tafel als dergelijke systemen worden opgetuigd. De techniek die wel aanschuift in Den Haag bestaat uit dezelfde bekende commerciële bedrijven die dit soort systemen altijd voor de overheid bouwen.’

Lees verder

Plaats een reactie

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.