De mens als strijdtoneel

Het op een humane wijze vormgeven van de immer innigere versmelting tussen mens en techniek is wellicht een van de grootste uitdagingen van deze eeuw. Een snelle blik op de media leert dat er steeds meer technologieën komen die ingrijpen op intieme zaken als lichamelijke en geestelijke gezondheid, gedrag, emoties, privacy en menselijke aandacht: de online tandenborstel komt eraan waarmee ouders, de tandarts of een computer kunnen controleren hoe een kind zijn tanden poetst1; onderwijsspecialist Vroomans wil dat ouders hun kinderen ‘aandacht en respect’ geven in plaats van ritalin, ‘een drug die de potentie heeft van cocaïne of heroïne’2; voor een onderzoek manipuleerde Facebook ongevraagd 700.000 nieuwsfeeds en kwam er zo achter dat emoties via sociale media kunnen worden verspreid3; microdrones met camera’s zijn zowel in trek bij veiligheidsdiensten als hobbyisten. De nationale politie en het ministerie van Veiligheid en Justitie onderzoeken de mogelijkheid om drones op afstand uit de lucht te halen.4

Ik hoop u in deze bijdrage te laten zien dat deze voorbeelden deel uitmaken van een heuse technologische megatrend. Het Rathenau Instituut spreekt van intieme technologie en stelt dat deze trend, die mede mogelijk wordt gemaakt door de smartphone, sociale media, sensornetwerken, robotica, virtuele werelden en Big Data, leidt tot een ‘strijd om onze intimiteit’.5 Aan de hand van de opkomst van de zelfsturende auto en emotieherkenningstechnologie illustreer ik wat voor soort politieke en ethische vragen deze technische revolutie oproept. Juist omdat onze intimiteit, en dus ons mens-zijn, op het spel staat, is de politiek-bestuurlijke uitdaging omvangrijk. Om de toenemende versmelting tussen technologie en mens in humane banen te leiden, zijn gedeelde morele principes nodig. Behalve om menselijke waardigheid gaat het daarbij ook om menselijke duurzaamheid: welke aspecten van de mens en ons mens-zijn zien we als maakbaar, en welke aspecten zouden we graag ook in de toekomst behouden?

De intiem-technologische revolutie

Sinds het begin van de informatierevolutie is de mens steeds meer het object van studie en technisch ingrijpen geworden.6 Dit wordt heden ten dage mogelijk gemaakt door het samenkomen van nanotechnologie, biotechnologie, informatietechnologie en cognitieve technologie (ook wel NBIC-convergentie genoemd). In de onderzoekswereld betekent NBIC-convergentie de vervlechting van de natuur- en levenswetenschappen. Daarmee is de mens een ingenieursproject geworden.7 Daarbij gaat het om drie trends. De mens wordt ten eerste steeds meer als een machine gezien die via techniek gerepareerd en eventueel verbeterd kan worden. Daarnaast speelt de machine een steeds grotere rol in menselijke interacties. Ten slotte bouwen ingenieurs graag machines die menselijke eigenschappen kunnen nabootsen.

Laten we beginnen met de mens als machine. Voor steeds meer fysieke en mentale onvermogens en kwalen bestaan er pillen en implantaten: doofheid, evenwichtsstoornissen, depressiviteit. Een opmerkelijk voorbeeld is de eyeborg, het implantaat van de kleurenblinde kunstenaar Neil Harbisson die elke tint omzet in een geluid, zodat hij nu kleuren kan horen. De machine nestelt zich ook tussen ons: denk aan de smartphone (binnenkort brilcomputer), sociale media en biometrie. Doordat machines zich steeds meer in onze privésfeer en ons sociale leven nestelen, kunnen die machines heel veel informatie over ons verzamelen. Met elke klik laten we zien wie we zijn, vaak onopgemerkt: zo kan ons like-gedrag op Facebook onze seksuele voorkeur tonen. Door goedkope sensoren en de opkomst van het internet der dingen (genetwerkte slimme producten) breidt het aantal technieken om ons ook in de fysieke wereld digitaal te volgen snel uit. Denk aan winkeliers die hun klanten in de winkels via camera’s en wifitracking precies kunnen volgen. Ten slotte krijgt de machine menselijke trekjes. Pedoseksuele chatters menen bijvoorbeeld een echt, tienjarig Filipijns meisje te zien in het ‘lokmeisje’ Sweetie, dat een avatar is ontworpen door Terres des Hommes om dit wereldwijde probleem op de publieke en politieke agenda te zetten. En zelfsturende robotauto’s hebben, bij wijze van proef, al vele duizenden kilometers gereden op de openbare weg.

Volgens het Rathenau Instituut versmelten mens en technologie zo snel dat we kunnen spreken van een intiem-technologische revolutie. Technologie komt steeds dichterbij doordat computers steeds kleiner worden: van mainframe computer, pc, laptop en handcomputer tot bril- en lenscomputer, computers in kleding en zelfs pillen die we in kunnen slikken. Daarnaast raken mens en technologie steeds meer vernetwerkt. Het internet verbindt mensen, maar ook in toenemende mate objecten (internet of things), diensten (internet of services) en industriële processen (industrial internet).8 De slimme Nike+-schoen illustreert dit mooi. Deze schoen met sensoren stuurt zijn data door naar een smartphone die is verbonden met het internet. Zo kan Nike zijn schoenen en hoe de consument die gebruikt blijven volgen. Op basis van die data kan Nike zijn producten verbeteren en de gebruiker coachen. Via sociale media kan de sporter zijn loopprestaties delen en vergelijken met die van andere lopers. De digitalisering en vernetwerking van de schoen zorgt voor een hechtere relatie tussen producent en consument. Men spreekt hier over customer intimacy.9 Via de slimme schoen kan Nike, vaak intieme, informatie over de gebruiker verzamelen. Data over ons looppatroon kunnen bijvoorbeeld ook dronkenschap tonen of dementie aankondigen.

Het gaat hier om een nieuwe stap in de informatierevolutie: de fase waarin informatietechnologie zich tot intieme technologie ontpopt. In deze fase zijn ‘wij’ – dat wil zeggen de informatie over onze lijven, gedachten, gevoelens, voorkeuren, gesprekken en acties; wij als informatiesysteem dus10 – een belangrijke grondstof voor de informatierevolutie geworden. Doordat de mens – zijn lichaam, geest en sociale leven – een ingenieursproject is geworden, zijn we ook zelf het politieke, economische en sociale strijdtoneel geworden. De informatierevolutie, en in het bijzonder de huidige nbic-convergentie, creëert zodoende een nieuw maatschappelijk strijdveld, namelijk dat van de biopolitiek.11

Daarom is het zaak tijdig goede vragen te stellen, zoals: Hoe dichtbij mag technologie komen? Wanneer is technologie nog prettig intiem, en wanneer wordt ze intimiderend en zouden we dus een grens moeten trekken? Hoe behouden we in deze sensor- en Big Data-samenleving onze privacy, autonomie en menselijkheid?

Illustratie van het nieuwe strijdtoneel

Om gevoel te krijgen voor het soort vragen dat intieme technologie oproept, kijken we kort naar twee opkomende technologieën: gezichts- en emotieherkenningstechnologie en de zelfsturende auto. Daarbij gaat het dus om techniek die een rol speelt in de interactie tussen mensen en een machine (zelfsturende auto) die allerlei keuzes, mogelijk ook morele, van de mens overneemt. Bij de toepassing daarvan speelt steeds een verzameling van technieken een rol, zoals sensoren, databestanden, algoritmen, communicatienetwerken en robotica.

Mechanisering van emoties

Emotieherkenningstechnologie wordt inmiddels op kleine schaal toegepast, bijvoorbeeld binnen het marketingonderzoek. Met FaceValue kunnen de emotionele reacties van mensen op een reclamefilmpje gemeten en geanalyseerd worden. Er zijn ook technieken om te bepalen in hoeverre een emotionele expressie waarachtig is of geveinsd.12 Een echte lach is namelijk een soort reflex, terwijl een gemaakt lachje het resultaat is van bewust nadenken. Nu al kunnen machines het verschil tussen ‘echte’ en ‘onechte’ emoties beter herkennen; computers scoren 85 procent, mensen slechts 55.

Een nabije toekomst waarin heel veel mensen kunnen beschikken over technieken voor gezichts-, stem- en emotieherkenning geïntegreerd in een robotbril is inmiddels voor te stellen. Diverse bedrijven ontwikkelen speciale apps voor gezichts- en emotieherkenning voor de computerbril Google Glass. Het bedrijf FacialNetwork lanceerde begin 2014 de app NameTag waarmee iemands gezicht realtime gelinkt kan worden aan zijn profiel op Facebook of op diverse datingsites.13 Emotient ontwikkelt software voor de Google Glass waarmee specifieke emoties kunnen worden gemeten en ‘echte’ en ‘onechte’ emoties van elkaar onderscheiden kunnen worden.

Gezichtsherkenning kan handig zijn voor de politie, en emotieherkenning kan het leven van mensen met autisme vergemakkelijken. Maar wat betekenen deze technieken als ze straks door miljoenen mensen worden gebruikt? Wat is de betekenis voor onze privacy? Kunnen we ooit nog anoniem de straat op? Volgens Andrade zal de massale inzet van emotieherkenningstechniek een revolutie betekenen in de manier waarop we met elkaar omgaan.14 In hoeverre zet die ontwikkeling de privacy van onze emoties en ons recht op identiteit en vrijheid van meningsuiting op het spel? Moeten we een toekomst vrezen waarin elk leugentje om bestwil – ‘Wat zit uw haar leuk vandaag’ – door de techniek wordt ontmaskerd als een ‘onechte emotie’? Andrade formuleert wat hij niet wil: hij wil geen wereld waarin de waarheid is gemechaniseerd, de mens zijn spontaniteit is verloren en zijn sociale gedrag wordt bepaald door de algoritmen die hem observeren en beoordelen. Maakt Andrade zich terecht zorgen? En zo ja, willen we zijn doemscenario voorkomen? En hoe dan?

Mechanisering van morele beslissingen15

Wallach en Allen stellen dat de toenemende autonomie van machines ingenieurs uitdaagt om morele machines te ontwikkelen; slimme systemen die in staat zijn om ethische beslissingen te nemen.16 Dit pleidooi is met name op het gebied van de autonome robotauto actueel. Vele landen, waaronder Nederland,17 hebben namelijk het toekomstbeeld van de zelfsturende auto omarmd. Een zelfsturende auto kan zonder bestuurder veilig rijden.18 Dat betekent dat de verkeersregels in de auto zijn geprogrammeerd en dat de auto altijd beslist, ook in noodsituaties. Het is ook voor de slimste robotauto onvermijdelijk geconfronteerd te worden met situaties die vragen om keuzes die morele implicaties hebben. Volgens Goodall houdt dat in dat de zelfsturende auto een morele machine dient te zijn.19 Elke actie van de autonome auto is namelijk voorgeprogrammeerd – zelfs niets doen – en heeft morele consequenties.

Het maakt uit of de keuzes tijdens een ongeval door een menselijke bestuurder of een machine gemaakt worden. Noodsituaties dwingen menselijke bestuurders snel te beslissen. Indien er geen sprake is van nalatigheid van de bestuurder, zullen zijn handelingen vaak worden vergeven als ‘menselijk’, en eventuele fatale resultaten zullen worden gezien als ‘speling van het lot’. Maar als bijvoorbeeld de dood van een kind het gevolg is van beslissingen van een machine, dan is er geen sprake van menselijk gebrek of simpel ongeluk. De handelwijze van de autonome auto is namelijk van tevoren ingeprogrammeerd. Aangezien het kind als het ware ‘rationeel’ is opgeofferd, zullen de ouders willen weten welke ratio achter de handeling van de machine schuilging. Naast verandering van de aard van de beslissing – van instinctief menselijk naar rationeel machinaal – is er ook een verschuiving in het moment van beslissen. Van programmeurs wordt gevraagd de keuzes van de autonome auto in een bepaalde noodsituatie vooraf rationeel te overwegen.20

Dit roept de vraag op of we keuzes over leven en dood willen overlaten aan een machine. De vraag is dus of we überhaupt zelfsturende auto’s willen hebben, aangezien die de facto keuzes zullen gaan maken die morele consequenties hebben. Het antwoord daarop hangt ten eerste af van de technische mogelijkheid om morele machines te bouwen. Het zal bijvoorbeeld lastig zijn om van tevoren ontelbare noodsituaties te voorzien. En als dat al technisch lukt, hangt het vervolgens af van de aard van de keuzes. Welke ethische beslisprofielen, c.q. algoritmen, willen we inbouwen in de auto?21 Willen we een profiel waarin de bestuurder primair beschermd wordt, of een profiel waarin de omgeving primair beschermd wordt? Wat doet uw zelfsturende auto bijvoorbeeld als er plots een groep kinderen voor de wielen opduikt? Ontwijkt uw auto de kinderen of beschermt de auto in de eerste plaats u?22 Of kiezen we voor een profiel van ‘de minste schade’? Dan wordt er een algoritme gebruikt dat het totale aantal slachtoffers minimaliseert of de maatschappelijke kosten zo klein mogelijk houdt. Ten derde hangt de aanvaardbaarheid af van wie er over die profielen mag beslissen. Laat de politiek gebruikers vrij om zelf te kiezen tussen verschillende ethische beslissystemen?23 Autorijders mogen tenslotte nu ook zelf kiezen voor een auto met een heel dikke bumper die vooral de schade aan de eigen auto beperkt. En ten slotte: in hoeverre dienen andere inzittenden geïnformeerd te worden over en toestemming te geven voor het gebruik van de ethische software van de auto waarin ze gaan rijden? En hoe zit het met de andere weggebruikers en hun omgeving?

Menselijke waardigheid en menselijke duurzaamheid als leidende principes

De intiem-technologische revolutie daagt burgers, politici en bestuurders op een enorme schaal uit. Een vergelijking met de industriële revolutie laat dat zien. De industriële revolutie heeft ons veel welvaart en welzijn gebracht, maar niet zonder strijd en verlies. Die strijd richt zich met name op twee productiefactoren: arbeid en natuur. De geschiedenis laat zien dat het heel lang heeft geduurd voordat de sociale en ecologische kwesties onderkend en aangepakt werden. Pas in de jaren zestig van de vorige eeuw – dus meer dan honderdvijftig jaar na de start van de industriële revolutie en ten koste van veel natuur en milieuvervuiling – ontdekten we ecologische duurzaamheid als leidend principe voor de omgang met onze natuurlijke leefwereld.

Net als industriële techniek ingrijpt in de natuurlijke leefwereld, grijpt intieme technologie in op onze persoonlijke leefwereld. Nu informatietechnologie steeds intiemer wordt, zien we de technische, politieke, economische en sociale strijd die zich richt op de mens steeds heftiger worden. Wat het betekent om ‘mens’ te zijn, is daarmee wellicht de belangrijkste (biopolitieke) vraag van deze eeuw geworden.24 Juist omdat ons mens-zijn op het spel staat, is het belangrijk om tijdig op zoek te gaan naar morele principes om de versmelting tussen mens en technologie in humane banen te leiden. We hebben niet de luxe om daar vijftig jaar over te doen; het zal hooguit tien jaar zijn. Een zoektocht naar morele principes start bij het begrip menselijke waardigheid. Bij het reflecteren op onze techno-humane conditie is de notie van menselijke duurzaamheid mogelijk ook van toegevoegde waarde.25

Menselijke waardigheid

Menselijke waardigheid krijgt nadere invulling via (universele) mensenrechten, zoals recht op autonomie, privacy en lichamelijke en geestelijke integriteit.26 Intieme technologie roept op dat gebied vele vragen op. Via sensoren in consumentenproducten kunnen massaal biologische data – zoals hartslag, emoties, slaapgedrag – verzameld worden. Sensoren in schoenen geven bedrijven inzicht in onze fitheid op basis waarvan we gecoacht kunnen worden, maar data over ons looppatroon kunnen bijvoorbeeld ook dementie aankondigen. Hoe bewaren we in de sensorsamenleving onze lichamelijke en mentale integriteit? Blijven we zelf de eigenaar van onze biologische informatie of gaan we die – net als de data over ons sociale leven – gratis weggeven aan grote bedrijven? De opkomst van technieken om gezichten en emoties te herkennen roept vragen op als de volgende: hebben we het recht om anoniem te blijven, om niet gemeten, geanalyseerd of gecoacht te worden, en hoe beschermen we dat in een wereld vol sociale media, camera’s en andere sensoren?

Menselijke duurzaamheid

Bij menselijke duurzaamheid gaat het om het behoud van menselijke eigenheid: welke aspecten van de mens en ons mens-zijn zien we als maakbaar en welke aspecten willen we graag behouden? Zoals de mogelijkheid van klimaatverandering door menselijke invloed honderd jaar geleden tamelijk absurd moet hebben geklonken, is het nu wellicht lastig voor te stellen dat ons mens-zijn door technologie flink kan veranderen. Daar is een kritisch voorstellingsvermogen voor nodig.

De vraag of emotieherkenningstechnologie zal leiden tot een vermindering van onze sociale en emotionele vaardigheden raakt aan menselijke duurzaamheid. Hierna volgen nog twee voorbeelden van denkers die vrezen dat technologie de interactie tussen mensen of de individuele ontwikkeling van mensen sterk kan beïnvloeden. Poundstone vreest dat toegevoegde realiteit (augmented reality) zal leiden tot totale privacy: ‘Ons sociale leven is gebaseerd op de premisse (…) dat mensen acht slaan op de mensen in hun omgeving. Wie dat niet deed was lomp, afwezig of zelfs geestesziek. Maar zo zijn we binnenkort allemaal.’27 De sociologe Turkle ligt wakker van het effect van beeldschermen.28 Ze stelt dat een kind moet leren alleen te zijn om creativiteit en relaties met anderen te kunnen ontwikkelen. Zij ziet, net als de theoloog De Jong, gezonde eenzaamheid als een oude menselijke waarde.29 Volgens Turkle kunnen te veel beeldschermen die waarde ondermijnen. Zoals ecologische duurzaamheid aandacht vraagt voor het verlies van onze biosfeer, roept menselijke duurzaamheid de vraag op in hoeverre we in het informatietijdperk paal en perk moeten stellen aan de kolonisering van onze ervaringen, onze verbeeldingskracht, ons ‘zijn in de wereld’.

De discussie over de zelfsturende auto laat zien dat ook de vraag welke menselijke handelingen we wel of niet willen uitbesteden aan machines onderdeel vormt van de discussie over menselijke duurzaamheid. Zeventien procent van de Britten kan zich inmiddels voorstellen seks met een robot te hebben.30 Rond 2050 verwacht Levy zelfs het eerste huwelijk tussen een mens en een robot.31 Rond die tijd hoopt de Amerikaanse luchtmacht de eerste autonome bewapende militaire vliegtuigen rond te zien vliegen.32 Het internationale debat over de wenselijkheid van killer robots is gelukkig reeds gestart. Ook in de huidige praktijk van op afstand bestuurde drones is echter de menselijke beslissing om al dan niet te doden vaak reeds in zo’n sterke mate voorgeprogrammeerd in de computer dat het de vraag is of hier nog sprake is van een goed geïnformeerde morele keuze.33 De conclusie is dan ook dat de vraag of we doden, trouwen, beminnen en zorgen voor kinderen en zieken aan machines mogen overlaten inmiddels een relevante en soms al actuele politiek-bestuurlijke vraag is geworden.

Bevorderen van technologisch burgerschap

In januari 2014 stuurde het Rathenau Instituut de boodschap naar ons parlement dat er een heuse strijd om ons mens-zijn gaande is. In het nummer ‘Strijd om onze intimiteit’ van Het Bericht34 roept het Rathenau Instituut de regering op de gevolgen die de intiem-technologische revolutie heeft voor grondrechten in kaart te brengen. De regering wordt ook gevraagd technologisch burgerschap te bevorderen, zodat ook burgers mee kunnen praten over de wijze waarop technologie invloed heeft op hun lichaam en leefomgeving. Een technologisch burger heeft een actieve houding ten opzichte van technologie; dat wil zeggen dat hij is geïnformeerd over de werking van de technologie, kritisch nadenkt over de betekenis van technologie in zijn eigen leefomgeving en voor de maatschappij, en bereid is om op basis daarvan technologie aan te passen of niet toe te passen als er betere alternatieven voorhanden zijn.35

Er is een duidelijke rol voor de overheid weggelegd om een dergelijk actief burgerschap met betrekking tot technologie mogelijk te maken. Ten eerste dient de overheid te verhelderen waar democratisch gekozen ethische en juridische – dus door burgers via het recht afdwingbare – ondergrenzen liggen in de toepassing van intieme technologie. Deze taak ligt zowel op het niveau van grondrechten als regelgeving. De golf van intieme technieken – van militaire drones tot en met gezichtsherkenning, Google Glass, virtualrealitybrillen en labs-on-a-chip die sekseselectie in de slaapkamer mogelijk maken – zet namelijk tal van reguleringskaders en systemen van wetshandhaving onder druk.36 Ook bij het informeren van burgers is een rol voor de overheid weggelegd. Technologisch burgerschap – burgerschap in een technologische cultuur – verdient een prominente plaats in het lager en middelbaar onderwijs. In het huidige curriculum is slechts sporadisch aandacht voor mediawijsheid, en het gaat dan met name over de vraag hoe burgers met het internet en sociale media om kunnen gaan. Technologisch burgerschap vraagt om meer, omdat het uitgaat van de constatering dat we in een heuse technologische cultuur leven en dat burgerschap daarbinnen slechts betekenis heeft als we geïnformeerd met elkaar in discussie kunnen gaan over de betekenis van technologie op ons privéleven en de maatschappij.

© 2009-2023 Uitgeverij Boom Amsterdam
ISSN 0167-9155

De artikelen uit de (online)tijdschriften van Uitgeverij Boom zijn auteursrechtelijk beschermd. U kunt er natuurlijk uit citeren (voorzien van een bronvermelding) maar voor reproductie in welke vorm dan ook moet toestemming aan de uitgever worden gevraagd:

Behoudens de in of krachtens de Auteurswet van 1912 gestelde uitzonderingen mag niets uit deze uitgave worden verveelvoudigd, opgeslagen in een geautomatiseerd gegevensbestand, of openbaar gemaakt, in enige vorm of op enige wijze, hetzij elektronisch, mechanisch door fotokopieën, opnamen of enig andere manier, zonder voorafgaande schriftelijke toestemming van de uitgever. Voor zover het maken van kopieën uit deze uitgave is toegestaan op grond van artikelen 16h t/m 16m Auteurswet 1912 jo. Besluit van 27 november 2002, Stb 575, dient men de daarvoor wettelijk verschuldigde vergoeding te voldoen aan de Stichting Reprorecht te Hoofddorp (postbus 3060, 2130 KB, www.reprorecht.nl) of contact op te nemen met de uitgever voor het treffen van een rechtstreekse regeling in de zin van art. 16l, vijfde lid, Auteurswet 1912. Voor het overnemen van gedeelte(n) uit deze uitgave in bloemlezingen, readers en andere compilatiewerken (artikel 16, Auteurswet 1912) kan men zich wenden tot de Stichting PRO (Stichting Publicatie- en Reproductierechten, postbus 3060, 2130 KB Hoofddorp, www.cedar.nl/pro).

No part of this book may be reproduced in any way whatsoever without the written permission of the publisher.