De nieuwe mens

‘Weet je wat dataficering is? Dataficering: de vertaling van de werkelijkheid in data. Je neemt een persoon en je vertaalt die in persoonsgegevens. Je neemt een patiënt en vertaalt die in patiëntengegevens. Je vertaalt geld in financiële gegevens, oorlog in locatiegegevens, het lezen van een boek in leesgedrag en leesgegevens. Uiteindelijk reduceer je de hele werkelijkheid tot gegevens over die werkelijkheid… je denkt dat je een kloon hebt, je denkt dat je de hele wereld in je hand houdt, je stopt al je gegevens in programma’s en die programma’s laat je autonoom beslissen. Je maakt ze eerst volledig zelflerend en zelfsturend, en zo komt het dat ze al snel de controle overnemen. Nu heb je dus een kloon - nee, een soort kloon - van de werkelijkheid die volledig autonoom opereert. Dit is de klont’.

Aldus Alexei Krups, de superster die de wereld rondreist en overal op podia klimt om er zijn toekomstvisie over het einde der mensheid te proclameren. Alexei Krups is een van de twee hoofdpersonen in Maxim Februari’s recente roman Klont. ‘Aan de ene kant is het een enorme vooruitgang, zo’n wereld waarin alles bezield is en alle dingen online met elkaar praten. Je Facebook-account met je portemonnee. Je pacemaker met je stembiljet. Een soort Notenkrakersuite online: alles komt tot leven. What if my toilet could talk to my doctor? - dat soort vergezichten. Maar aan de andere kant woekeren de data ongehinderd voort, zonder dat we er zeggenschap over hebben… De verdringing van kennis op door data, de opmars van het afzenderloze besluit.’

Herkennen wij in Alexei Krups dystopische boodschappen niet de wereldwijde bestsellers Sapiens en Homo Deus? Non-fictiewerken van Yuval Noah Harari, aangeprezen door niemand minder dan Barack Obama, Mark Zuckerberg, Bill Gates en warempel de Nederlandse essayist Bas Heijne. Net als Krups ziet Harari het internet-der-dingen met hun algoritmen onze verbeeldingskracht overtroeven. Nu leggen de wereldkampioenen het al af tegen Schaak- en Go-computers, straks zullen Cyborgs en Androïden ons mensen doen uitsterven.

Maar Maxim Februari schrijft fictie, professor Yuval Harari non-fictie. Als historicus uit Tel Aviv meent hij onze toekomst te kunnen voorspellen. En het wereldwijde publiek lust er wel pap van. Op het jongste World Economic Forum in Davos in februari 2018 sprak Harari na Angela Merkel maar voor Macron (http://www.ynharari.com/wef2018/).

Bodo Klein, de tweede hoofdpersoon in Maxim Februari’s Klont toont wat ons te wachten staat: een collectieve zelfmoord. Bodo is technologie-expert en vooraanstaand ambtenaar op het ministerie van Veiligheid. Hij stuurt zijn afscheidsbrief naar familie, vrienden en collega’s, versleuteld in een bestand dat niemand meteen kan openen. Maar omdat het onderwerp van zijn e-mail ‘Bodo Klein’ heet plus twee veelzeggende jaartallen, wordt de boodschap begrepen. Collette, zijn vrouw, spoedt zich naar huis waar zij Bodo in levende lijve aantreft. Hij heeft zich bedacht. Daarop gaat de bel en ontvangt Collette familie en vrienden, die haar komen troosten. Het bezoek ontaardt in een genoeglijk feestje terwijl Bodo zich verstopt in zijn bovenkamer.

Voor zijn minister bereidt hij een dossier voor over Krups. ‘De klont eet de wereld op. En de politiek. En de moraal’. Hij schoof zijn map met papieren heen en weer en zocht naar woorden. Er zou straks niets meer te kiezen zijn, zei hij. Zodra gegevens over gedrag het voor het zeggen kregen, werd de mens uit het centrum van de besluitvorming verdreven. Na Copernicus, Darwin en Freud de vierde grote krenking der mensheid. De mens niet langer het centrum van de kosmos, niet de kroon op de schepping, niet de baas over zijn gedachten en nu ook al geen stem meer die richting geeft aan de maatschappij.’ Bodo Klein twijfelt aan de boude uitspraken van Alexei Krups.

Van twijfels heeft Harari weinig last. In Sapiens, een kleine geschiedenis van de mensheid neemt hij ons mee door de geschiedenis van de mensheid. Wie zijn we? Waar komen we vandaan? En hoe zijn we geworden wie we nu zijn? Hierover zijn wel eerder omvangrijke boekwerken verschenen, bijvoorbeeld Big History door David Christian, Guns, Germs and Steel door Jared Diamond, Vuur en Beschaving door Joop Goudsblom, De Ontdekking van de Aarde door Peter Westbroek. Misschien schrijft Harari meeslepender, met een grotere vaart dan zijn voorgangers en hij schuwt controverses niet, maar daarbij overdrijft hij schromelijk. ‘Het staat buiten kijf dat de agrarische revolutie de beschikbare hoeveelheid voedsel voor de mensheid vergrootte, maar al dat extra eten vertaalde zich niet in een beter voedingspatroon of meer vrije tijd. Integendeel, het vertaalde zich in bevolkingsexplosies en verwende elites. De gemiddelde boer werkte harder dan de gemiddelde verzamelaar en kreeg daar ook nog slechtere voeding voor terug. De agrarische revolutie was de grootste zwendel van de geschiedenis.’

Harari houdt van kalligraferen met een dikke pen gedoopt in gitzwarte inkt. Over de industriële revolutie spreekt hij niet minder cynisch en zwartwit dan over de agrarische. ‘Toen die fabrieken en kantoren de miljarden werkkrachten absorbeerden die niet meer nodig waren voor de landbouw, begonnen ze een ongekende stortvloed aan producten te spuien. Mensen produceren nu veel meer staal, ze vervaardigen veel meer kleding en ze zetten veel meer gebouwen neer dan ooit tevoren. Daarnaast produceren ze een duizelingwekkend assortiment aan ooit ondenkbare goederen, zoals gloeilampen, mobiele telefoons, camera’s en vaatwassers. Voor het eerst in de menselijke geschiedenis begon het aanbod de vraag te overtreffen. Op slag was er een compleet nieuw probleem in de wereld: wie moest al die spullen kopen?’

Niet alleen consumenten lopen aan de hand van kapitalisten, mensen met geld zijn voor Harari de ‘suikeroompjes’ van de moderne wetenschap. In twee hoofdstukken analyseert hij de werking daarvan. Eerst bekijkt hij hoe de ‘turbines’ van wetenschap en grootmacht aan elkaar gekoppeld werden, vervolgens laat hij ons zien hoe die met zijn tweeën aan de geldpomp van het kapitalisme werden gehangen.

Zelf lurkt Harari ook graag aan die pomp. Toen zijn Sapiens zo’n wereldwijde bestseller bleek, publiceerde hij op korte termijn deel twee: Homo Deus, waarin hij zich zo mogelijk nog meer overschreeuwt dan in zijn eerste boek. Heel begrijpelijk is het dat hij als historicus wars is van wiskunde, zo lezen we in Sapiens nog: ‘Onze computers hebben moeite met begrijpen hoe Homo sapiens praat, voelt en droomt. Dus leren we Homo sapiens te praten, voelen en dromen in de taal van de cijfers, die computers wel begrijpen.’ Maar in Homo Deus legt Harari er nog een flink schepje bovenop: ‘Het is veel waarschijnlijker dat Homo sapiens zichzelf stapje voor stapje zal upgraden door te versmelten met robots en computers, tot onze afstammelingen achteraf beseffen dat ze niet meer dezelfde diersoort zijn die de Bijbel schreef, de Chinese muur bouwde en moest lachen om de capriolen van Charlie Chaplin.’

Denk maar niet dat het hier om science fiction gaat. Vorig jaar schreven NRC-Handelsblad en de Koninklijke Hollandsche Maatschappij der Wetenschappen een prijsvraag uit over de vraag: Wat wordt de belangrijkste wetenschappelijke doorbraak in de eenentwintigste eeuw? De prijs werd gewonnen door de evolutiebioloog Gijsbert Werner die schreef dat het onderscheid tussen het biologische brein en het synthetische brein zal verdwijnen. De belangrijkste wetenschappelijke doorbraak van de eenentwintigste eeuw dreigt de mensheid van haar voetstuk te stoten. Na de uitvinding van de zelfbewuste, artificiële intelligentie zullen onze menselijke geest, ervaringen, gedachten en gevoelens niet langer uniek van aard zijn.

Vergelijk dit met de drie eenvoudige principes uit Harari’s Homo Deus:

    1. De wetenschap koerst op een allesomvattend dogma af, dat zegt dat organismen algoritmen zijn en dat het leven dataverwerking is.
    2. Intelligentie wordt losgekoppeld van bewustzijn.
    3. Niet-bewuste, maar hyperintelligente algoritmen zullen ons spoedig misschien wel beter kennen dan wij onszelf kennen.

Deze stellingen illustreert Harari onder anderen met het verhaal over een computerprogramma dat gespecialiseerd is in het imiteren van de stijl van Johann Sebastian Bach. Het componeerde in een dag vijfduizend koralen die door het beoogde publiek enthousiast werden ontvangen. Toen de mensen daarna hoorden dat ze niet door Bach maar door de computer gecomponeerd waren, reageerden sommigen met somber zwijgen, anderen ontstaken in woede.


Schrijver-denker Maxim Februari laat in Klont zien hoe Alexei Krups/Harari met zijn bravoure over dataficering en algoritmen de mensen afleidt van de werkelijke problemen als klimaatverandering en oorlog. Als Krups/Harari in het vliegtuig zit op weg naar een congres in een van de oliestaten voor zijn zoveelste lezing over de Klont wordt hij door de piloten uitgenodigd in de cockpit te komen kijken naar het ‘vuurwerk’ beneden. Pas dan realiseert Krups/Harari zich dat hij over het oorlogsgebied van het Midden-Oosten vliegt. Intussen is er in Krups’ thuisland een ware zondvloed aan de gang. De riolen kunnen het regenwater niet meer aan, de modder en het slijk stromen de huizen binnen en ontwrichten het gewone maatschappelijke leven. ‘Zo konden de grootste optimisten niet langer ontkennen dat de controle die de mens uitoefent over zijn leefwereld, de demiurchenmacht, grenzen heeft.’

In Klont zijn het voornamelijk de vrouwen die het hoofd koel houden en voor de noodzakelijke continuïteit zorgdragen. Uit Collette’s hoogzwangere dochter komt geen Androïde voort maar een gezonde levende baby. En als Bodo Klein zijn zorgen over dataficering uit tegen een hertogin merkt deze fijntjes op dat data toch heel wel gebruikt kunnen worden om onderbouwde beslissingen te nemen. Veiligheidsminister Kirstin Elias ontmaskert Krups/Harari door hem te laten betrappen op plagiaat. Ook dit gebeurt op eigentijdse wijze: het gaat er niet om of de inhoud van Krups/Harari’s boodschap nepnieuws is, hij valt van zijn voetstuk omdat zijn imago beschadigd wordt.

Computers kunnen al veel beter rekenen dan wij en als zoekmachine zijn ze ons verreweg de baas. Navigatie met telefoons heeft het kaartlezen van ons overgenomen en van zelfrijdende auto’s wordt verwacht dat ze veiliger zijn in het verkeer dan wij. Waarom zouden Kunstmatige Intelligentie, zelflerende computers, big data plus algoritmen, ons niet overvleugelen?

We laten onze versleten knieën en heupen vervangen door prothesen, onze ogen krijgen nieuwe lenzen, ons hart een pacemaker, onze kransslagader een stent, onze hersenen een chip. Waarom zouden complete anorganische wezens het niet van ons overnemen?

We doen aan genetische modificatie van planten en dieren. Het menselijk genoom is volledig in kaart gebracht, we kunnen stukjes DNA eruit knippen, vervangen en op de gewenste plek plakken. Waarom zouden we niet hele nieuwe genetisch betere mensen maken? Waarom sterft Homo sapiens niet uit en wordt opgevolgd door een nieuwe Homo Genomicus, Cyborg of Androïde?

Tegenwoordig wordt wel gezegd dat mensen tot op zekere hoogte hun eigen evolutie kunnen bepalen. Maar mensen evolueren al voortdurend sinds er mensen zijn. Ondanks wereldoorlogen, genociden, epidemieën en natuurrampen is de wereldbevolking in de afgelopen eeuw verviervoudigd, onze gemiddelde levensverwachting verdubbeld en onze lengte met bijna twee decimeter toegenomen. Dit is weldegelijk biologische evolutie, maar geen genetische, die werkt veel te langzaam. Het is bioculturele evolutie.

Homo sapiens is niet sneller noch sterker dan de meeste dieren, maar hij is rechtop gaan lopen en kreeg zo zijn handen vrij voor wapens en andere gereedschappen. Door onze technologie en sociologie, door onze cultuur werden wij heer en meester over de natuur. Terwijl bij andere dieren hun middelen van bestaan vastliggen in hun genen, hebben wij mensen onze hulpmiddelen geëxternaliseerd en onder curatele gesteld van onze vrije wil.

Computers, internet, sociale media, bio- en medische technologie behoren tot de nieuwste uitvindingen van Homo sapiens. Het is de computerchip die geestdodende arbeid overneemt en nieuwe banen schept. Maar computers zijn door mensen uitgevonden en ze kunnen niks, ook de zelflerende computers niet, zonder dat iemand ze programmeert. Computers kunnen rekenen, zoeken, ordenen, registreren en reproduceren, maar denken zoals mensen kunnen ze niet. Ze werken volgens een algoritme, ooit was Algol een universele programmeertaal nu is ‘algoritme’ blijkbaar iets mysterieus.

Hoe menselijke hersenen werken, weten we nog steeds niet, maar zeker niet volgens een algoritme. Als je computers iets vraagt dan weten ze het of ze weten het niet. ‘Garbage in, garbage out’. Bij mensen ligt dat anders. Bijvoorbeeld wanneer wij zeggen: ‘‘wacht even’’, soms moeten we even aan iets anders denken maar dan komt het. Een ander voorbeeld komt uit spraakonderzoek: als het spraakcentrum in onze hersenen een signaal geeft naar onze stembanden, controleren onze hersenen nog even vlak voordat wij een klank produceren of het wel de juiste klank is die wij willen uiten (Speaking door Pim Levelt). Nog een voorbeeld: Frans de Waal (The age of empathy) heeft laten zien dat empathie en rechtvaardigheid een evolutionaire oorsprong hebben en bij alle zoogdieren voorkomen. Het zijn emotionele reacties getriggerd niet door algoritmen maar door hormonale effecten in onze hersenen. Berekende emoties komen ook voor, maar dan houden we onszelf en anderen voor de gek.

De meeste mensen maken voortdurend keuzes. Is dat niet wat wij onze vrije wil noemen? Computers kunnen veel en zullen in de toekomst nog veel meer kunnen, maar een vrije wil? Hoe die bij mensen werkt, weten we niet en zullen we misschien nooit weten. Maar hoe zouden we dan een vrije wil in computers kunnen stoppen? Waarom wordt ons dan verteld dat big data plus algoritmen ons de baas worden?

Waarom beloven bio- en medisch technologen nieuwe mensen te maken? Het menselijke genoom werd twintig jaar geleden in kaart gebracht en daarbij werd verteld dat ziektes bestreden zouden worden met betere genen zodat we praktisch oneindig jong zouden blijven. Inmiddels weten we dat het allemaal veel ingewikkelder ligt. Slechts weinig ziektes zijn afhankelijk van slechts ėėn gen - meestal gaat het om combinaties. Hoe de meeste genen met elkaar in verband staan, weten we niet en genexpressie blijkt afhankelijk van de omgeving. Wat er gebeurt als je een stukje DNA uit onze dubbele helix knipt en vervangt door een ander stukje, we weten het niet. Laat staan dat we zouden weten hoe met genetische modificatie betere mensen te maken.

Het is als met reizen naar Mars: de belofte spreekt veel mensen aan. Dat betekent ‘‘kassa’’, zowel voor Harari als voor informatici en genetici. Nieuwe mensen worden intussen elke nieuwe dag geboren, langs natuurlijke weg en met een vrije wil. Laten we trachten met onze vrije wil de nieuwe technologieën onder controle te houden zodat ze de maatschappelijke problemen van vandaag helpen oplossen. Dan wordt de nieuwe mens Homo Durabilis, de Duurzame Mens.

*uitgewerkte versie van een boekpresentatie in filosofiehuis Het zoekend hert, Antwerpen, 4 maart 2018.

Frans W. Saris

mei 2018