Vertrouwen en Big Data: ‘opening the black box’

In deze bijdrage zal ik ingaan op het belang van vertrouwen voor het gebruik van Big Data-analyses. Ik zal eerst een algemene definitie van vertrouwen geven, om dan te kijken hoe vertrouwen onder invloed van technologische systemen vorm krijgt. Vervolgens kijken we naar het belang van vertrouwen om de kansen die Big Data biedt te verwezenlijken. Ten slotte breng ik in kaart waar mogelijke valkuilen en risico’s op de loer liggen als het gaat om het verlies van vertrouwen door Big Data-toepassingen.

Wat is vertrouwen?

Vertrouwen heeft een belangrijke functie in ons dagelijks leven. Simpel gezegd: zonder vertrouwen zouden we ’s ochtends niet eens uit bed kunnen komen, overweldigd door alle mogelijke scenario’s die zich zouden kunnen ontvouwen in de nabije toekomst. Vertrouwen maakt het mogelijk om te handelen ondanks de onzekerheid inherent aan dat handelen, en het wordt dan ook gekenmerkt door een bepaalde mate van fictie. Vertrouwen is ‘doen alsof ’. We weten niet precies wat ons te wachten staat, maar onze positieve verwachtingen maken dat we handelen alsof we dat wél weten. In die zin is vertrouwen een ambivalent verschijnsel. Het lost een sociaal probleem op – zonder vertrouwen zouden we immers verlamd raken door de onzekerheid – zonder het probleem effectief te elimineren.1 De onzekerheid wordt immers door het schenken van vertrouwen niet plotsklaps omgezet in zekerheid. Eerder is vertrouwen het op een positieve manier aanvaarden van de aanwezige onzekerheid.2

Door te varen op vertrouwen hoeven we niet alles tot in de details na te lopen en kunnen sociale interacties soepel verlopen. We hoeven niet te blijven zoeken naar extra waarborgen en zekerheden. Dit bespaart ons niet alleen een hoop tijd en moeite, maar schept bijvoorbeeld ook de mogelijkheid tot innoveren. Vertrouwen impliceert dat we de ander zien als een autonoom persoon; als iemand die een bepaalde mate van vrijheid kent in zijn denken en handelen. Door iemand vertrouwen te schenken ontstaat er ruimte voor nieuwe ideeën en creativiteit. In een samenleving waar actoren – van overheidsinstanties tot bedrijven – steeds meer gebruikmaken van technologie in hun interactie met respectievelijk burger en klant, wordt het stellen van vertrouwen in niet alleen de actoren maar ook de gebruikte technologie steeds belangrijker.

De informatiesamenleving

Wie had gehoopt dat technologie het leven overzichtelijker en eenvoudiger zou maken – en dus vertrouwen minder noodzakelijk – komt van een koude kermis thuis. De context waarbinnen vertrouwen vorm krijgt is de afgelopen decennia drastisch veranderd. De opkomst van het internet heeft niet alleen een nieuwe online wereld geopend waarin we met elkaar relaties aanknopen (sociaalnetwerksites), winkelen (e-commerce), nieuws tot ons nemen (blogs, Twitter, Google) en via tal van ICT-netwerken de relatie overheid-burger vormgeven (iOverheid3), maar ook de ‘wereld van de dingen’ kan zich allang niet meer onttrekken aan internettechnologie. Steeds meer gebruiksvoorwerpen – koelkasten, slimme energiemeters, auto’s – zijn verbonden met het internet (Internet of Things) en allemaal leveren ze nieuwe, door computers te lezen en verwerken, data op die voorheen niet voorhanden of slechts zeer moeizaam te ontsluiten was. Het resultaat is een complexe informatiesamenleving met een zee van data die, als we de datawetenschappers mogen geloven, een schat aan nieuwe kennis herbergt.

De potentie van Big Data lijkt dan ook zeer groot. Door slimme algoritmes, gekoppeld aan voldoende computerkracht, los te laten op grote databestanden moet nieuwe kennis vergaard worden en moet het mogelijk worden om betere voorspellingen te doen in tal van maatschappelijke domeinen. Zo zet men data-analyse in om ziektes te ontdekken in een vroegtijdig stadium, om te detecteren wie er fraude pleegt met de zorgkostendeclaraties, en om in kaart te brengen in welke stadsdelen meer criminaliteit verwacht kan worden. Op basis van Big Data-analyses kunnen medische behandelingen die voorheen voor iedereen hetzelfde waren, gepersonaliseerd worden. Ook op het wat meer alledaagse vlak zet personalisering door middel van Big Data verder door. Zoekresultaten worden op internet door Google afgestemd op het individu en onlinewinkels worden zo ingericht dat ze passen bij de voorkeuren van de klant.

Bij deze gesofisticeerde, grootschalige data-analyses worden verbanden gelegd tussen gebeurtenissen en feiten die op het oog weinig met elkaar te maken hebben, maar toch voorspellende waarde blijken te bezitten. Het gaat er dan ook niet zozeer om te begrijpen waarom iets gebeurt, maar om te voorspellen dat iets gebeurt. De aandacht verschuift van causaliteit naar correlatie. Hoewel voorspellingen op basis van Big Data-analyses natuurlijk altijd een bepaalde mate van waarschijnlijkheid kennen, hoeft dit – als die waarschijnlijkheid hoog genoeg is – voor vele toepassingen geen probleem te zijn om toch naar tevredenheid te functioneren.

Vertrouwen in een datagestuurde infrastructuur

In die informatiesamenleving is vertrouwen niet meer iets wat zich uitsluitend tussen personen afspeelt, maar iets wat in steeds grotere mate wordt bemiddeld door technologie. Meerbepaald de datagestuurde infrastructuur,4 die ontstaat omdat Big Data steeds meer toepassingsgebieden kent, bemiddelt tal van interacties. Vertrouwen krijgt hierdoor een tweeledig karakter.5 Er moet niet alleen vertrouwen in de ander worden gesteld (of dat nu een overheid, bedrijf, hypotheekadviseur of arts is) maar ook in de technologie die de interactie met die ander mogelijk maakt. De interdependentie van de actoren en de bemiddelende technologie maakt dat de complexiteit toeneemt. De nood aan vertrouwen wordt daardoor groter maar komt tegelijkertijd ook moeizamer tot stand.

Nu spreekt het voor zich dat om vertrouwen te hebben in een technologie deze eerst en vooral naar behoren moet werken. Niets is zo ontmoedigend als een apparaat of softwareprogramma dat niet doet wat je ermee voor ogen had. Bovendien kan een weigerende technologische toepassing in negatieve zin afstralen op de partij die achter de technologie zit. Zo is de slecht functionerende website werk.nl van het UWV voor cliënten één van de redenen om de dienstverlening van deze instantie een laag waarderingscijfer toe te kennen.6

Naast het al dan niet goed functioneren van een technologische toepassing, is er nog een andere – misschien wel belangrijkere – invloed van technologie op het tot stand komen van vertrouwen. De datagestuurde infrastructuur beïnvloedt namelijk ook de manier waarop we de wereld ervaren en hoe we in die wereld handelen. Dit komt niet alleen door de wijze waarop technologie onze – offline en online – omgeving vormgeeft (de slimme energiemeter die ‘leert’ hoe we met energie omgaan in ons huis, of de online boekwinkel die op basis van eerder aankoopgedrag een nieuw boek aanbeveelt), maar ook omdat deze technologische instrumenten onze verwachtingen over wat we mogelijkerwijs kunnen bereiken in die wereld aanscherpen.7 Met andere woorden: een datagestuurde infrastructuur is niet louter een efficiëntieslag of een neutraal middel ten behoeve van nieuwe en betere kennis. Het beïnvloedt ook de wijze waarop we de ander waarnemen en hoe we met die ander omgaan. Zo zal een bedrijf dat of een instantie die gebruikmaakt van door data gestuurde beslissystemen, die klant of burger in toenemende mate zien als een verzameling van datapunten. Deze data vormt immers de grondstof voor de relatie en stuurt tot op bepaalde hoogte de interactie. Aangezien in data-analyses gekeken wordt naar correlatie en niet zozeer naar causaliteit, betekent dit dat de redenen en intenties van de klant of burger niet leidend zijn in de relatie. Doorslaggevend voor de interactie wordt de kansberekening. De vraag hoe de burger en klant zich zal gedragen wordt belangrijker dan de reden waarom hij zich zo gedraagt.

Risico’s voor vertrouwen

De wijze waarop het gebruik van Big Daa de interactie tussen partijen beïnvloedt hoeft niet noodzakelijk een probleem te vormen voor de totstandkoming van vertrouwen. Wanneer een online boekwinkel op basis van een data-analyse van mijn eerdere aankopen me een kookboek aanraadt waarin ik niet ben geïnteresseerd, dan hoeft dit mijn vertrouwen in die boekwinkel niet te schaden. Als de boekwinkel de reden van mijn aankoop had geweten – een cadeau voor mijn moeder – en dus niet op basis van correlatie maar van causaliteit mij een aanbieding had gedaan, dan was deze ongelukkige suggestie – ik heb een hekel aan koken – mij waarschijnlijk bespaard gebleven. Maar omdat datgene wat hier op het spel staat niet zo belangrijk is en ik vaak genoeg wél interessante suggesties krijg, is het feit dat de boekwinkel op basis van mijn gedrag in plaats van op basis van mijn beweegredenen een aanbeveling doet, niet van grote invloed op mijn vertrouwen in die winkel. Bovendien, als het merendeel van de boeksuggesties wel geschikt is en ik daardoor nieuwe boeken ontdek die ik zelf niet zo snel op het spoor zou zijn gekomen, dan kan dit mijn vertrouwen in de diensten van die boekhandel zelfs vergroten.

Wanneer er echter meer op het spel staat – en vertrouwen dus alleen maar aan belang wint – is er een aantal aspecten van een datagestuurde infrastructuur die dat vertrouwen wel degelijk kunnen ondermijnen. Zonder echt in te gaan op specifieke toepassingen, maar gebaseerd op de algemene werking van Big Data, benoemen Neil Richards en Jonathan King drie paradoxen van Big Data, namelijk die van de transparantie, de identiteit, en de macht.8 Aan de hand van deze paradoxen wordt duidelijk op welke manier vertrouwen in het geding kan komen.

Door Big Data-analyses moet de wereld transparanter en dus inzichtelijker worden, maar hoe deze analyses tot stand komen onttrekt zich in grote mate aan het oog van burgers en klanten. In interacties waar Big Data-analyses worden toegepast, wordt het voor hen zelden duidelijk welke rol deze precies spelen. Om zich echter te kunnen verhouden tot de technologie en er dus vertrouwen in te kunnen stellen, moet deze zichtbaar en tot op een bepaalde hoogte toegankelijk zijn.

Het niet-transparante gebruik van Big Data maakt het bovendien moeilijker in te schatten wat de intenties van de actor achter de Big Dataanalyses zijn. De intenties van een bedrijf dat of een overheidsinstantie die gebruikmaakt van data-analyses zullen immers deels bepaald worden door de mogelijkheden die deze techniek biedt. Vertrouwen komt moeizamer tot stand wanneer intenties slecht zijn in te schatten.

Een tweede paradox die zich voordoet is die van de identiteit. Big Data belooft nieuwe kennis op te leveren over wie we zijn en wat we zullen doen. Deze kennis is echter altijd gebaseerd op een kansberekening. Big Data zegt iets over wie we mogelijkerwijs zijn, maar het risico bestaat dat de kennis die Big Data oplevert wordt gewaardeerd als zekere kennis, die dus niet langer iets zegt over wie we mogelijkerwijs zijn, maar kortweg over wie we zijn. ‘Ik ben’ en ‘ik houd van’ worden dan ‘jij bent’ en ‘je zult houden van’.9 De identificerende werking van Big Data zet dan het dynamische karakter van de persoonlijke identiteit onder druk. Zoals we gezien hebben is vertrouwen een erkenning van wederzijdse autonomie. Wanneer datagestuurde interacties echter geen ruimte meer laten voor de autonomie van de persoon, bijvoorbeeld door mensen stiekem te verleiden bepaald gedrag te vertonen, verliest vertrouwen zijn functie en betekenis.

De derde paradox is die van de macht en volgt logisch voort uit de twee vorige paradoxen. Wanneer het gebruik van Big Data niet transparant is voor de burger of klant en Big Data bovendien op een zeer persoonlijk niveau ingrijpt, dan leidt dit tot een machtsvraagstuk. Enerzijds belooft Big Data ons een krachtig middel te leveren voor het vergaren van nieuwe inzichten, anderzijds lijken deze inzichten niet bij iedereen evenredig terecht te komen. Big Data leidt onherroepelijk tot winnaars en verliezers10 en het is te verwachten dat met name zij die de data bezitten – en niet zozeer zij die de data voortbrengen – deze zullen mijnen op zoek naar kennis, en deze kennis vervolgens zullen aanwenden om macht te verkrijgen en te bestendigen.11 Vertrouwen kan niet afgedwongen worden. Wanneer burgers of klanten zich niet kunnen onttrekken aan Big Data-analyses en dus in feite overgeleverd zijn aan de geautomatiseerde beslissystemen die hun interactie met bedrijven en de overheid vormgeven, komt vertrouwen onder druk te staan.

Conclusie

Big Data-analyse heeft duidelijk de potentie om op vele maatschappelijke terreinen vooruitgang te boeken en het leven van mensen te verrijken. Desalniettemin is het belangrijk om ook stil te staan bij mogelijke ongewenste bijeffecten van door Big Data gestuurde acties. In deze bijdrage heb ik gekeken hoe de algemene werking van Big Data bepaalde risico’s inhoudt voor de totstandkoming van vertrouwen. Vertrouwen is nodig om te kunnen leven met de onzekerheden inherent aan een complexe, informatiegestuurde samenleving. In een maatschappij waar men kan handelen op basis van vertrouwen floreren kernwaarden als persoonlijke ontwikkeling, (keuze)vrijheid en creativiteit. Dit vertrouwen kan door het gebruik van Big Data onder druk komen te staan doordat de techniek (1) zich aan het oog onttrekt, (2) mogelijk de autonomie van burgers en klanten inperkt, en (3) machtsongelijkheid in de hand werkt.

Een eerste, belangrijke stap om ervoor te zorgen dat Big Data-analyses deze waarden niet in het geding brengen is het zichtbaar maken van Big Data-gebruik. Om zich kritisch te kunnen verhouden tot Big Data moeten burgers en klanten namelijk eerst en vooral weten dát de interactie gestuurd wordt door data-analyse. Vervolgens zouden er mogelijkheden moeten zijn voor burgers en klanten om inzicht te hebben in de wijze waarop bepaalde Big Data-beslissingen tot stand komen en om waar nodig bij te sturen. De zichtbaarheid van Big Data houdt echter niet op bij burgers en klanten. Ook voor ambtenaren en andere professionals die werken met Big Data-analyses zouden deze technieken nooit mogen verworden tot een black box waaruit kant-en-klare adviezen komen rollen. Ook, en misschien wel juist, zij die met Big Data-analyses werken moeten zich daarvan niet afhankelijk voelen, maar zich erdoor gesterkt voelen in het uitvoeren van hun taak. Dit kan alleen wanneer er genoeg ruimte is voor de professional om de Big Data-analyse te wegen in relatie tot andere informatie en door dus nooit uitsluitend op grond van Big Data te handelen.

Kortom, wie de vruchten van Big Data wil plukken zal niet alleen moeten zorgen voor een goed functionerende technologie, maar ook oog moeten hebben voor de manier waarop een datagestuurde infrastructuur onze kijk op de wereld en onze medemensen verandert.

© 2009-2025 Uitgeverij Boom Amsterdam
ISSN 0167-9155

De artikelen uit de (online)tijdschriften van Uitgeverij Boom zijn auteursrechtelijk beschermd. U kunt er natuurlijk uit citeren (voorzien van een bronvermelding) maar voor reproductie in welke vorm dan ook moet toestemming aan de uitgever worden gevraagd:

Behoudens de in of krachtens de Auteurswet van 1912 gestelde uitzonderingen mag niets uit deze uitgave worden verveelvoudigd, opgeslagen in een geautomatiseerd gegevensbestand, of openbaar gemaakt, in enige vorm of op enige wijze, hetzij elektronisch, mechanisch door fotokopieën, opnamen of enig andere manier, zonder voorafgaande schriftelijke toestemming van de uitgever. Voor zover het maken van kopieën uit deze uitgave is toegestaan op grond van artikelen 16h t/m 16m Auteurswet 1912 jo. Besluit van 27 november 2002, Stb 575, dient men de daarvoor wettelijk verschuldigde vergoeding te voldoen aan de Stichting Reprorecht te Hoofddorp (postbus 3060, 2130 KB, www.reprorecht.nl) of contact op te nemen met de uitgever voor het treffen van een rechtstreekse regeling in de zin van art. 16l, vijfde lid, Auteurswet 1912. Voor het overnemen van gedeelte(n) uit deze uitgave in bloemlezingen, readers en andere compilatiewerken (artikel 16, Auteurswet 1912) kan men zich wenden tot de Stichting PRO (Stichting Publicatie- en Reproductierechten, postbus 3060, 2130 KB Hoofddorp, www.cedar.nl/pro).

No part of this book may be reproduced in any way whatsoever without the written permission of the publisher.