De strijd tussen mens en machine

De ondertitel Waarom we techniek de baas moeten blijven van zijn jongste boek Mens en machine, dat dit jaar verscheen, is veelzeggend voor historicus, journalist en docent journalistiek Roderick Nieuwenhuis.1 Natuurlijk, de machine, symbool voor de ontwikkeling van techniek, heeft de mensheid veel gebracht. Door de boekdrukkunst konden we teksten in grote aantallen vermenigvuldigen en werd lezen iets van iedereen. En door de stoommachine werd de industriële revolutie mogelijk, die de mens in het productieproces enorm heeft geholpen. Maar telkens bleek de machine niet slechts een zegen te zijn, aldus Nieuwenhuis. ‘Plato, van wiens werk we vandaag nog kennis kunnen nemen omdat hij veel heeft opgeschreven, vond zelf dat de ontwikkeling van het schrift helemaal niet zo onschuldig was. Want datzelfde schrift had er ook voor gezorgd dat we geen complete passages meer uit ons hoofd hoefden te leren. Deze ambiguïteit blijkt typisch iets voor de techniek: als de machine iets geeft, pakt ze ook telkens iets af. En de grote vraag van vandaag is: wat levert AI ons op en wat pakt ze van ons af? Lossen we met AI misschien alleen maar problemen op die we juist als gevolg van eerdere technologische ontwikkelingen hebben gecreëerd? En laten we ons door technische uitvindingen als de smartphone en AI zodanig beïnvloeden dat we in ons menszijn achteruitgaan en steeds meer op de machine gaan lijken?’

Roderick Nieuwenhuis.
Foto: Ruud Pos

Prometheusmythe

Plato heeft ook over de mythe van Prometheus geschreven, die voor veel mensen symbool staat voor de ambiguïteit van de techniek. Wat heeft dat verhaal ons vandaag nog te vertellen?

‘Plato beschrijft hoe Prometheus het vuur bij de goden vandaan steelt en het aan de mensen geeft. Dit vuur heeft een dubbelzinnige betekenis. Vuur leidt tot techniek en daarmee tot de machine. Maar het heeft ook iets aangewakkerd in de mens: we hebben er een soort nieuw bewustzijn van gekregen. De mens kreeg met dat vuur een ware goddelijke kracht in handen. Dat zorgde bij de goden voor de angst door ons vervangen te worden. En de mens dacht god te kunnen gaan spelen. Prometheus is voor zijn diefstal gestraft. En de moraal van dat verhaal is dat ook wij mensen gestraft worden als we denken dat wij goden zijn. Dit idee was met name na de Tweede Wereldoorlog populair. Günther Anders sprak naar aanleiding van de atoombommen op Hiroshima en Nagasaki niet geheel toevallig van “prometheïsche schaamte”. De techniek bezit de mogelijkheid om de mensheid te vernietigen. Dat ontkennen is met de rug naar de geschiedenis staan.’

‘Wat ik zo grappig vindt: deze waarschuwing ten aanzien van de techniek komt terug in praktisch alle culturen. Het jodendom kent de golem, een uit klei gemaakte machine die door een rabbijn tot leven wordt gewekt en zich uiteindelijk tegen de mens keert. En wat dacht je van het monster van Frankenstein: door de mens gecreëerd, maar ook een schepsel dat de mens uiteindelijk als zijn vijand gaat zien? Telkens is de boodschap: de mens moet oppassen met het creëren van kunstmatig leven. Rond AI doen zich nu precies dezelfde verhalen voor: tot voor kort creëerden we machines die minder slim waren dan wijzelf, maar bij AI is dat niet meer het geval. Ik las onlangs dat wetenschappers ervan uitgaan dat binnen tien tot dertig jaar er zo’n tien à twintig procent kans bestaat dat de mensheid door AI vernietigd wordt. Niet gek dus dat de mythe van Prometheus ook nu weer de kop opsteekt. Een columnist in The New York Times omschreef ChatGPT recentelijk als een vuurzee en het meest actuele bewijs dat de mensheid in staat is zichzelf overbodig te maken.

We moeten niet naïef zijn over de mogelijkheden van AI. We dreigen iets te creëren dat misschien groter wordt dan wijzelf, en waarvan we de impact nauwelijks kunnen overzien. Dat is de waarschuwing van veel mythes over de ontwikkeling van de techniek: de mens dreigt de goden naar de kroon te steken. En dat is levensgevaarlijk.’

Boekdrukkunst

Maar hebben eerdere technologische revoluties als de boekdrukkunst en de industriële revolutie zoveel ellende veroorzaakt?

‘Dat is afhankelijk vanuit wiens perspectief je het bekijkt. De boekdrukkunst heeft er inderdaad voor gezorgd dat steeds meer mensen controle kregen over het gedrukte woord. Het schrift werd als het ware gedemocratiseerd. Iemand als David Van Reybrouck vindt dat met sociale media iets vergelijkbaars is gebeurd. In de afgelopen eeuwen hebben steeds meer mensen een stem gekregen. En dat is heel belangrijk. Tegelijk zien we ook hoeveel kwaad het gedrukte woord kan doen. Je kunt er de schitterendste gedichten mee produceren, maar ook de weerzinwekkendste complottheorieën. En ik denk dat met AI de hoeveelheid complotten en nepnieuws alleen maar gaat toenemen. AI wordt nu al ingezet voor abjecte doeleinden. Kijk naar wat er afgelopen zomer gebeurde na de massale No Kings-protesten tegen de autocratische neigingen van Trump: de president slingerde direct een AI-filmpje de ether in, waarop hij vanuit een straaljager allemaal stront over demonstranten uitstortte. Moeten we daar nou zo blij mee zijn?’

‘En wat de industriële revolutie vanaf 1750 betreft: het is niet voor niets dat men aan het eind van de negentiende eeuw ging spreken van de zogenoemde sociale kwestie. De industrialisatie had een enorme ongelijkheid teweeggebracht. Fabriekseigenaars werden stinkend rijk, terwijl arbeiders in grote armoede leefden in verpauperde steden. De vermeende vooruitgang was dus maar voor een zeer beperkt deel van de mensen weggelegd. Niet voor niets publiceerde Jacob Jan Cremer in 1863 zijn novelle Fabriekskinderen, waarin hij het gevaarlijke leven van talloze kindarbeiders in een wolfabriek in Leiden beschreef.2 Kinderen van nog geen 10 jaar oud maakten dagen van zestien uur. En voordat ze het wisten waren ze een vinger kwijt door een machine. Techniek leverde maar voor een kleine groep een goed leven op.’

Hoe is er binnen het christendom tegen de ontwikkeling van techniek aangekeken, en welke rol speelt het zondevalverhaal daarbij?

‘Het verhaal van de zondeval heeft mensen doen beseffen dat er iets kapotgemaakt is wat hersteld moet worden. De Britse filosoof Francis Bacon meende dat de machine, ofwel de techniek, een belangrijke rol kon spelen in de vooruitgang van de mens: via de empirische methode, waarbij steeds proefondervindelijk onderzoek werd gedaan om het leven te verbeteren, zou er vooruitgang kunnen worden geboekt. Bacon was christen en in die zin heeft het christendom veel bijgedragen aan de positieve houding tegenover techniek: er valt iets te herstellen, want na de zondeval moest de man volgens het Bijbelverhaal zwoegen om genoeg eten te hebben, en de vrouw moest in pijn kinderen baren. Dat besef van de noodzaak tot herstel bestaat bij andere religies veel minder.’

Heeft het besef van een zondeval ook iets van schroom gecreëerd in de ontwikkeling van techniek? In het christendom leeft het besef dat de mens ook tot verkeerde dingen in staat is, wat tot behoedzaamheid kan leiden, terwijl in meer atheïstische samenlevingen als China en vroeger de Sovjet-Unie een ongebreideld geloof in de kracht van techniek kan bestaan. Kijk naar de invoering van het sociaalkredietsysteem in China, waarmee de overheid burgers via techniek in de gaten houdt.

‘De Sovjet-Unie heeft in de vorige eeuw inderdaad een enorm geloof in de techniek gehad, met name na de Eerste Wereldoorlog: er was een geloof dat de mens tot een soort machine gekneed kon worden, waardoor het hem alleen maar beter af zou gaan. In de praktijk leidde dat echter tot een dictatuur van de machine, waardoor de mens onderdrukt werd. Daar kwam ook wel kritiek op. In 1920-1921, een paar jaar nadat Lenin aan de macht kwam, publiceerde Jevgeni Zamjatin een roman onder de titel Wij, waarin de Russische leider enorm op de hak genomen werd.3 Zamjatin schetste in Wij een wereld waarin de mensen geen individuen meer waren maar slechts arbeidseenheden, die net als machines goed in de pas lopen. Iets vergelijkbaars zie je volgens mij ook in de grote parades die landen als Rusland, China en Noord-Korea houden: de militairen staan symbool voor de mens als machine, die perfect in de pas moet lopen. Hetzelfde geldt voor Hitler-Duitsland. Mijn vader is van 1941 en heeft zich altijd erg tegen conformisme afgezet. En dat begrijp ik heel goed: onbewust deed dat hem waarschijnlijk aan nazi-Duitsland denken, waarin de mens als individueel persoon niet meer meetelde. Veelzeggend hierbij is de observatie van Hannah Arendt, die Adolf Eichmann, een van de hoofdverantwoordelijken voor de Holocaust, tijdens zijn proces in 1961 als machine typeerde.’

Verlichting

Welke invloed heeft de verlichting in dit alles gehad? Kregen we door de dominantie van de rede niet een geloof dat de wereld via techniek maakbaar werd?

‘Tijdens de verlichting ontstond er een interesse in de mogelijkheden van de machine. Maar wat ik zo interessant vind: binnen de verlichting zie je ook algauw het besef dat de machine in staat is om ons mens-zijn aan te tasten. Iemand als Voltaire benadrukte dat de mens in vergelijking met de machine imperfect is. Hij vond dat wij die imperfectie moesten omarmen, in plaats van even perfect te willen worden als de machine. Want dat was volgens Voltaire een gevaar. De machine is leuk, maar de mens moet wel controle houden. Er was binnen de verlichting dus een genuanceerde visie op de machine. Die vind je ook bij encyclopedisten als Diderot. Tegenover de massaproductie van de machine benadrukte hij de waarde van het ambacht: een ambachtelijk gemaakte stoel is misschien niet helemaal perfect, maar hij draagt wel het authentieke en unieke stempel van zijn maker. Ondanks die waarschuwing zien proambachtelijke denkers als John Ruskin en William Morris een eeuw later die ambachtelijkheid verdwijnen in de grote fabriekshallen van de negentiende eeuw met hun enorme productieprocessen en ellendige werkomstandigheden. En ook pijnlijk: niet alleen het ambachtelijke maakproces ging verloren, ook de mens werd in dat industriële proces vermalen. De Engelse dichter William Blake stelde begin negentiende eeuw dat de industriële revolutie is begonnen in de kapotte handen van ontelbare kinderen. Dat zorgde toen nog voor twijfel of dit allemaal wel de bedoeling was. Later stond in Nederland iemand als Frederik van Eeden op, schrijver en huisarts, die zich openlijk schaamde voor zijn eigen rijkdom. Er ontstond een enorm contrast tussen enerzijds mensen voor wie de techniek via de industriële revolutie goed uitpakte, en anderzijds de massa die in armoede leefde.’

Is er nu niet iets vergelijkbaars gaande? Van AI en de technologie van op de persoon gemaakte producten die je via de supermarktapp kunt bestellen, lijkt slechts een beperkt deel van de mensen te kunnen profiteren. Zijn de distributiecentra in Nederland, waar veel buitenlandse werknemers werken, maar ook de plekken in Afrika waar de algoritmes ten gunste van AI handmatig worden ingevoerd, niet de erbarmelijke fabriekshallen van de eenentwintigste eeuw?

‘Ja, dat zijn ze inderdaad, maar we beseffen dat nauwelijks nog, omdat we de sociale kwestie hebben geoutsourcet. Voor het oog lijkt de wereld van AI perfect, maar de achterkant is enorm vies. Om AI mogelijk te maken, werken vele datawerkers in Afrika voor weinig geld achter hun computer om allerlei algoritmes te trainen. Bovendien kost het in stand houden van al die kunstmatige intelligentie enorm veel energie. Dat beseffen veel mensen niet, omdat ze alleen de gebruiksvriendelijke kant van AI zien. Het is net als de producten van Apple: aan de buitenkant ziet het er allemaal zeer gelikt uit, maar er schuilt een smerige wereld achter. Daarnaast zit er nog een onethische kant aan AI: er wordt allerlei materiaal uit boeken en documenten gestolen en voor iedereen beschikbaar gemaakt. We staren ons op het moment blind op alle fonkelnieuwe dingen rond AI, maar over de achterkant van dit alles hebben we het wat mij betreft niet genoeg.’

In uw boek schrijft u dat we de keuze hebben tussen naïviteit en paranoia als het gaat om de ontwikkeling van AI. Naïef moeten we blijkbaar niet zijn, maar moeten we dan wel paranoïde worden?

‘We moeten de realiteit onder ogen zien en beseffen dat we eigenlijk heel veel over kunstmatige intelligentie niet weten. Als wij allebei onze laptop openen, krijgen we beiden een totaal ander scherm met YouTube-aanbod of advertenties. Maar hoe al die algoritmes werken, weten we nauwelijks, laat staan dat we weten wie er eigenlijk aan de touwtjes trekt. Hebben we ooit democratisch besloten dat we zo’n grote ontwikkeling op het gebied van AI willen? Nee. Uiteindelijk gaat het om de vraag wie er ten diepste invloed heeft in onze samenleving. Blijkbaar is dat niet de democratie, want er is ons nooit iets gevraagd of voorgelegd. Het is de markt die alles bepaalt en die ook beslist dat onze kinderen in een enorm kapitalistisch systeem leven, waaraan ze via de smartphone al op jonge leeftijd maar moeilijk kunnen ontkomen.’

Post Office

Wat doet deze AI-techniek die we via de smartphone altijd in onze broekzak meedragen met ons mens-zijn? Mensen kunnen dingen worden, waarschuwden de Duitse filosofen Adorno en Horkheimer in de vorige eeuw al.

‘Inderdaad, en ook Martin Heidegger wees daarop. In mijn boek beschrijf ik hoe Heidegger de Rijn typeert als een soort “bestelbaar product”. Door de vele dammen die in die rivier zijn geplaatst is het niet langer de mooie, door het landschap stromende rivier, maar een middel om energie mee op te wekken. Ik werp daarbij de vraag op of de smartphone niet ook van ons mensen een “bestelbaar product” maakt, aangezien de mobiele telefoon allerlei data oogst en doorverkoopt naar de echte klant aan wie geld verdiend wordt, namelijk de adverteerder. Wij mensen zijn slechts een product waarmee geld verdiend wordt, en dat ook nog eens ten koste van ons mens-zijn. Want als we de Amerikaanse schrijver Jonathan Haidt in zijn boek Generatie angststoornis mogen geloven, maakt de smartphone onze kinderen onzeker, angstig en zelfs suïcidaal.4 Bovendien creëren de sociale media op die smartphone veel desinformatie, met als gevolg een enorm gepolariseerde wereld. We zagen dat vanaf 2010 opkomen, toen Trump via Twitter twijfel zaaide over de vraag of Barack Obama wel echt in de VS geboren was, en of hij dus wel president had mogen worden. Het heeft Trump enorm veel aandacht opgeleverd.’

‘Ik denk dat AI nepnieuws nog problematischer maakt. AI kan zeer geloofwaardige fake filmpjes creëren, waardoor deze steeds minder van echt te onderscheiden zijn. Je zult zien dat we uiteindelijk de machine en het algoritme meer gaan geloven dan de mens. En zo heel ver staan we daar niet van af: kijk maar naar de toeslagenaffaire, waarbij de verhalen van mensen niet werden geloofd en die van de algoritmes wel. Een vergelijkbaar schandaal is dat rond de Post Office in Engeland. Begin deze eeuw kregen honderden lokale postkantoorbeheerders aan het eind van iedere werkdag van hun gloednieuwe digitale kassa steeds te horen dat er een kastekort was, terwijl ze wisten dat ze niks verkeerd hadden gedaan. Maar de overkoepelende Post Office geloofde de machine in plaats van de mensen en beschuldigde hen van fraude, wat jarenlang een desastreuze impact op het welzijn van deze mensen heeft gehad. Er hebben zelfs mensen zelfmoord gepleegd. Enkele jaren geleden werd deze zaak de grootste gerechtelijke dwaling uit de Engelse geschiedenis genoemd.’

Wait zegt het over onze samenleving dat we de mens blijkbaar minder geloven dan de machine, omdat die zogenaamd geen fouten kan maken?

‘Dat we met een gevaarlijk experiment bezig zijn. Hannah Arendt zei al: ten aanzien van de techniek weet de mens niet wat hij doet. We creëren bijna onbewust steeds weer een nieuw monster van Frankenstein. Van AI kunnen we hetzelfde zeggen. AI is wel in staat om op basis van heel veel data allerlei zaken te voorspellen, maar ze weet zelf niet wat en waarom ze iets doet, en heeft dus geen moraal. Er zijn nu al voorbeelden van kinderen die AI om advies vragen omdat ze wanhopig zijn, waarop AI hun een manier vertelt waarop ze zichzelf het leven kunnen benemen. Dat is absurd, net zoals het absurd is dat mensen een soort liefdesrelatie met een chatbot aangaan.’

‘We zullen dan ook tegen allerlei nieuwe ethische vraagstukken aan lopen: wie is er verantwoordelijk en juridisch aansprakelijk als een zelfrijdende auto een dodelijk ongeluk veroorzaakt? Met een chip in iemands hersenen, waardoor hij weer een arm kan bewegen, is niet veel mis, maar hoever kunnen we in deze machinale versterking van de mens gaan? Ik mis in heel veel zaken de ethische afweging. Terwijl die juist zo hard nodig is. Natuurlijk geloof ik dat AI bedrijven maar ook studenten en wie dan ook enorm kan ondersteunen in het efficiënt aanpakken van opdrachten. Maar is efficiëntie altijd het best? Of is het juist goed voor je persoonsontwikkeling om met vallen en opstaan door een leerproces heen te gaan?’

Frictieloos

Maakt AI mensen te lui?

‘Het grote probleem is dat AI frictieloos is, terwijl mensen juist tegenslagen nodig hebben om te kunnen groeien. Het echte leven is ook niet frictieloos, en wie zijn leven via AI zo efficiënt mogelijk wil inrichten, mist dus iets wezenlijks dat bij het leven hoort. In een game kun je tien keer doodgaan, maar gewoon weer opnieuw beginnen. In het echte leven kan dat niet. En het geniepige is dat al die AI-gadgets als “smart” worden verkocht: de smartphone, de smartauto enzovoort. Dat woordje “smart” impliceert dat wie niet wil meegaan in de machinevooruitgang “dom” is. Ik geloof dat de machine daarmee ook een uitsluitingsmechanisme is geworden.’

‘Het lijkt alsof we steeds meer zaken aan de techniek of de machine kunnen uitbesteden, maar ondertussen gaan we naar een situatie waarin de smartphone of de AI-therapeut ons leven bepaalt. We raken steeds meer in het ritme van de machine verzeild, via pushberichten of via apps die ons consumptiepatronen suggereren, omdat die zo goed bij ons zouden passen. En dat is het verraderlijke:

apps zijn via algoritmes allemaal zo ontwikkeld dat ze ons zo lang mogelijk vasthouden en ons stimuleren om zo veel mogelijk te consumeren. We denken dat we dingen efficiënter kunnen doen, maar creëren al die apps niet alleen maar oplossingen voor problemen die andere technieken eerder hebben veroorzaakt?’

Worden we als mensen gemanipuleerd zonder dat we het zelf doorhebben?

‘Ja, en daarmee raken we alleen maar meer van onszelf vervreemd. Dat vind ik ook het gevaarlijke, dat we weer in het mensbeeld van Descartes terechtkomen, met zijn scheiding tussen lichaam en geest en zijn reducering van de mens tot een denkend wezen. Terwijl we veel meer zijn dan dat: lichaam en geest zijn nauw met elkaar verbonden, en ik geloof dat we veel meer oog moeten hebben voor de kennis van ons lichaam. We zijn nou eenmaal meer dan ons brein. Maar AI wekt de suggestie dat menselijke kennis niets anders is dan een taalmodel. Absurd toch, als je dit even laat bezinken? Ik las laatst iets schitterends: dat als een ambachtsman iets in de wereld verandert en bijvoorbeeld van een blok hout een kunstwerk maakt, hij daarmee ook innerlijk verandert. Dat blok hout geeft weerstand, werpt problemen en uitdagingen op die de ambachtsman dient te overwinnen. Het is een metafoor voor het leven. Dat zit vol frictie. Als het goed is zou de machine met haar streven naar perfectie ons juist een spiegel moeten voorhouden. De mens is in werkelijkheid een imperfect wezen. We zijn broos en kwetsbaar. Maar juist die imperfectie maakt de mens zo ontzettend mooi.’

© 2009-2025 Uitgeverij Boom Amsterdam
ISSN 0167-9155

De artikelen uit de (online)tijdschriften van Uitgeverij Boom zijn auteursrechtelijk beschermd. U kunt er natuurlijk uit citeren (voorzien van een bronvermelding) maar voor reproductie in welke vorm dan ook moet toestemming aan de uitgever worden gevraagd:

Behoudens de in of krachtens de Auteurswet van 1912 gestelde uitzonderingen mag niets uit deze uitgave worden verveelvoudigd, opgeslagen in een geautomatiseerd gegevensbestand, of openbaar gemaakt, in enige vorm of op enige wijze, hetzij elektronisch, mechanisch door fotokopieën, opnamen of enig andere manier, zonder voorafgaande schriftelijke toestemming van de uitgever. Voor zover het maken van kopieën uit deze uitgave is toegestaan op grond van artikelen 16h t/m 16m Auteurswet 1912 jo. Besluit van 27 november 2002, Stb 575, dient men de daarvoor wettelijk verschuldigde vergoeding te voldoen aan de Stichting Reprorecht te Hoofddorp (postbus 3060, 2130 KB, www.reprorecht.nl) of contact op te nemen met de uitgever voor het treffen van een rechtstreekse regeling in de zin van art. 16l, vijfde lid, Auteurswet 1912. Voor het overnemen van gedeelte(n) uit deze uitgave in bloemlezingen, readers en andere compilatiewerken (artikel 16, Auteurswet 1912) kan men zich wenden tot de Stichting PRO (Stichting Publicatie- en Reproductierechten, postbus 3060, 2130 KB Hoofddorp, www.cedar.nl/pro).

No part of this book may be reproduced in any way whatsoever without the written permission of the publisher.