• The Atlantic
  • Reader
  • Lessen van Yuval Harari

Lessen van Yuval Harari

The Atlantic | Boston | Yuval Noah Harari | 19 maart 2019

Volgens Yuval Harari kan kunstmatige intelligentie, of AI, veel van de praktische voordelen van democratie ondermijnen, en de idealen van vrijheid en gelijkheid uithollen. Als we niets doen om dat te voorkomen, zal AI een verdere concentratie van macht bij een kleine elite in de hand werken.

Democratie is allesbehalve voor de hand liggend. Democratieën mogen de afgelopen eeuw, of zelfs langer, nog zo succesvol zijn geweest, vanuit historisch oogpunt zijn ze onbeduidend. In de geschiedenis van de mens zijn monarchieën, oligarchieën en andere vormen van autoritaire heerschappij veel gebruikelijkere bestuursvormen.

De opkomst van constitutionele democratieën wordt in verband gebracht met idealen van vrijheid en gelijkheid, die vanzelfsprekend en onomkeerbaar lijken. Maar die idealen zijn veel kwetsbaarder dan wij denken. Dat de democratieën in de twintigste eeuw zo succesvol zijn geweest had vooral te maken met unieke technologische omstandigheden, die wel eens van voorbijgaande aard zouden kunnen blijken.

In het tweede decennium van de eenentwintigste eeuw heeft het liberalisme ingeboet aan geloofwaardigheid. Steeds meer mensen beginnen zich af te vragen in hoeverre een constitutionele democratie in staat is zorg te dragen voor de middenklasse – de politiek krijgt in toenemende mate tribale trekken en in steeds meer landen zien we leiders op het toneel verschijnen met een hang naar demagogie en autocratie. De redenen van deze politieke verandering zijn complex, maar ze lijken in ieder geval een duidelijke samenhang te vertonen met de huidige technologische ontwikkelingen. De technologie waar democratie bij gedijde is aan het veranderen en gezien de ontwikkelingen op het gebied van kunstmatige intelligentie lijkt het aannemelijk dat die verandering zal doorzetten.

De informatietechnologie gaat met grote sprongen vooruit; biotechnologie geeft ons steeds meer inzicht in ons innerlijk leven – onze emoties, onze gedachten, de keuzes die we maken. Infotechnologie en biotechnologie zullen samen een aardverschuiving teweegbrengen binnen de menselijke samenleving, ze zullen onze daadkracht uithollen en mogelijk onze verlangens ondermijnen. Het is niet ondenkbaar dat onder dergelijke omstandigheden de constitutionele democratie en de vrijemarkteconomie hun langste tijd hebben gehad.

Buitenspel

De gewone man zal niet tot in detail begrijpen wat kunstmatige intelligentie en biotechnologie behelzen, maar hij merkt wel dat hij wordt ingehaald door de toekomst. In 1938 zag het leven voor de gewone man in de Sovjet-Unie, Duitsland of de Verenigde Staten er misschien niet al te rooskleurig uit, maar hem werd wel voortdurend voorgehouden dat niets op de wereld zo belangrijk was als hij en dat hij de toekomst belichaamde (vooropgesteld natuurlijk dat hij ook echt ‘de gewone man’ was, dus bijvoorbeeld geen vrouw of Jood). Hij keek naar de propagandaposters – waarop vrijwel onveranderlijk mijnwerkers en staalarbeiders in heroïsche poses stonden afgebeeld – en zag zichzelf weerspiegeld in dat beeld: ‘Ik ben die poster! Ik ben de held van de toekomst!’

De gewone man van tegenwoordig heeft steeds meer het gevoel dat hij er niet toe doet. In TED Talks, in denktanks van de overheid en tijdens hightechcongressen wordt op opgewonden toon gestrooid met kreten als globalisering, blockchain, genetische manipulatie, AI, machine learning – en de gewone man (m/v) bekruipt het gevoel dat die termen geen van alle op hem van toepassing zijn.

In de twintigste eeuw is de massa in opstand gekomen tegen het feit dat ze werd uitgebuit en heeft gezocht naar manieren om haar cruciale belang voor de economie te vertalen naar politieke macht. Vandaag de dag is de massa vooral bang buitenspel te worden gezet, ze is erop gebeten haar laatste restje politieke macht in de strijd te werpen voor het te laat is. De brexit en de opkomst van Donald Trump laten dan ook een ontwikkeling zien die tegengesteld is aan die van de traditionele socialistische revoluties.

De Russische, Chinese en Cubaanse revoluties werden gevoerd door mensen die van essentieel belang waren voor de economie maar die geen politieke macht hadden. In 2016 werden de brexit en Trump veelal gesteund door mensen die nog wel iets van politieke macht hadden maar die bang waren hun economische waarde te verliezen. Het is denkbaar dat populistische revoluties in de eenentwintigste eeuw zich niet zullen richten tegen een economische elite die de gewone man uitbuit, maar tegen een economische elite die hem niet langer nodig heeft. Het zou weleens een verloren strijd kunnen blijken. Het is veel moeilijker om te strijden tegen overbodigheid dan tegen uitbuiting.

© Getty Images/Ikon Images
© Getty Images/Ikon Images

De revoluties in de informatietechnologie en de biotechnologie staan nog in de kinderschoenen en het valt nog te bezien in hoeverre ze verantwoordelijk zullen blijken voor de crisis waarin het liberalisme momenteel verkeert. De meeste mensen in Birmingham, Istanboel, Sint-Petersburg en Mumbai zijn zich niet of nauwelijks bewust van de opkomst van AI en de mogelijke invloed daarvan op hun eigen leven. Het lijdt echter geen twijfel dat de technologische revolutie die momenteel in een stroomversnelling is beland, de mensheid de komende decennia voor haar grootste uitdagingen ooit zal plaatsen.

Laten we eerst eens kijken naar banen en inkomens. Want al mag de constitutionele democratie nog zo’n grote ideologische aantrekkingskracht hebben, dat het systeem zo invloedrijk is geworden is goeddeels te danken aan een praktisch aspect: de gedecentraliseerde benadering van besluitvorming die zo karakteristiek is voor het liberalisme – zowel op politiek als economisch vlak – heeft ertoe geleid dat constitutionele democratieën andere landen voorbij zijn gestreefd en dat ze hun bevolking een steeds grotere welvaart hebben kunnen bieden.

Het liberalisme wist het proletariaat te verzoenen met de gegoede burgerij, gelovigen met atheïsten, allochtonen met autochtonen en Europeanen met Aziaten, door iedereen een groter stuk van de taart te beloven. Zolang die taart zelf ook steeds groter wordt, is dat geen probleem. En het is natuurlijk niet uitgesloten dat de taart zal blijven groeien. Maar economische groei is wellicht niet voldoende om de sociale problemen op te lossen die momenteel ontstaan als gevolg van de technologische ontwrichting, aangezien een dergelijke groei in steeds sterkere mate berust op de introductie van nieuwe, steeds ontwrichtender technologieën.

De angst dat de machines de mensen zullen verdringen op de arbeidsmarkt is natuurlijk niet nieuw en in het verleden zijn dergelijke angsten ongegrond gebleken. Maar kunstmatige intelligentie is niet te vergelijken met de machines van destijds. In het verleden speelde de strijd tussen mens en machine zich vooral af op het terrein van fysieke vaardigheden. Tegenwoordig verlegt die strijd zich meer en meer naar de cognitieve vaardigheden. En voor zover we weten is er geen derde soort vaardigheid – naast de fysieke en de cognitieve – waarin de mens altijd een voorsprong zou hebben.

In ieder geval gaan we vermoedelijk nog een aantal decennia tegemoet waarin de menselijke intelligentie de computerintelligentie op verschillende vlakken het nakijken zal geven. Dus terwijl computers steeds meer routinematige cognitieve taken van ons overnemen, zullen er voor de mens steeds meer creatieve banen ontstaan. Bij dergelijke vormen van werk zal er waarschijnlijk eerder sprake zijn van samenwerking dan van wedijver tussen de mens en de kunstmatige intelligentie. Teams van mens en AI zullen waarschijnlijk superieur blijken, niet alleen aan de mens maar ook aan autonoom werkende computers.

Veel van die nieuwe banen zullen waarschijnlijk een hoge mate van expertise en vernuftigheid vereisen en zodoende geen oplossing bieden voor het probleem van de werkloze ongeschoolde arbeiders of de arbeiders die alleen tegen een uitzonderlijk laag salaris kunnen worden ingehuurd.

Sterker nog, naarmate AI zich blijft ontwikkelen, zullen uiteindelijk zelfs banen kunnen gaan verdwijnen die een grote mate van intelligentie en creativiteit vereisen. We kunnen de schaakwereld als voorbeeld nemen om te kijken welke kant dat op kan gaan. Nadat IBM’s computer Deep Blue in 1997 Garry Kasparov had verslagen, volgden er nog enkele gouden jaren voor de menselijke schaker; er werd gebruik gemaakt van AI om menselijke wonderkinderen te trainen, en teams bestaande uit mensen én computers bleken superieur aan computers die zelfstandig schaakten.

Maar de laatste jaren zijn computers zo goed gaan schaken dat de menselijke teamleden niet langer van waarde zijn en binnenkort waarschijnlijk helemaal aan de zijlijn zullen staan. Op 6 december 2017 was de wereld getuige van een volgend keerpunt: Google’s AlphaZero-programma versloeg het Stockfish 8-programma. Stockfish 8 had in 2016 een mondiaal computerschaaktoernooi gewonnen. Het programma had niet alleen toegang tot de verzamelde gegevens van vele eeuwen schaakervaring, maar had ook enkele decennia computerervaring. AlphaZero daarentegen was niet door zijn menselijke scheppers gevoed met schaakstrategieën – zelfs niet met standaardopeningen. Dit programma had gebruik gemaakt van de nieuwste inzichten op het gebied van machine learning en had leren schaken door tegen zichzelf te spelen. Maar van de honderd partijen schaak die nieuweling AlphaZero speelde tegen Stockfish 8, won AlphaZero er 28 en eindigde het 72 keer met remise – AlphaZero verloor niet één keer. Omdat AlphaZero niets had geleerd van de mens, waren veel van de winnende zetten en strategieën vanuit menselijk perspectief zeer onconventioneel. Ze zouden creatief genoemd kunnen worden, om niet te zeggen geniaal.

De gewone man heeft steeds meer het gevoel dat hij er niet toe doet

Enig idee hoeveel tijd het AlphaZero heeft gekost om vanuit het niets te leren schaken, ter voorbereiding op de partij tegen Stockfish 8, en om zijn geniale instincten tot wasdom te laten komen? Vier uur. Gedurende vele eeuwen is het schaakspel beschouwd als een van de hoogstandjes van de menselijke intelligentie. AlphaZero heeft zich binnen vier uur opgewerkt van totale onwetendheid naar creatief meesterschap, zonder ook maar enige hulp van een mens.

AlphaZero is niet de enige software met verbeeldingskracht. Een van de manieren om valsspelers eruit te pikken bij een schaaktoernooi is door te kijken naar de mate van originaliteit die spelers aan de dag leggen. Als ze een uitzonderlijk creatieve zet doen, zullen de juryleden vaak vermoeden dat het onmogelijk een menselijke zet kan zijn geweest – het moet haast wel een computerzet zijn.

In de schaakwereld is het nu dus al zo ver gekomen dat creativiteit niet langer wordt gezien als een kenmerk van mensen, maar als een kenmerk van computers! Dus als we het schaakspel beschouwen als onze kanarie in de kolenmijn, is dit de onmiskenbare waarschuwing dat de kanarie op het punt staat het loodje te leggen. Wat we momenteel zien gebeuren bij schaakteams waarin mens en AI de krachten hebben gebundeld, zou heel goed het toekomstscenario kunnen zijn voor mens-AI-teams binnen de politiek, de medische wetenschap, het bankwezen en op vele andere terreinen.

Daarnaast beschikt AI over unieke niet-menselijke eigenschappen, waarmee het verschil tussen AI en een menselijke arbeidskracht niet zozeer gradueel is, maar wezenlijk. AI beschikt over twee heel belangrijke niet-menselijke eigenschappen, namelijk connectiviteit en de mogelijkheid om te updaten.

Surveillance

Kijk naar surveillancesystemen. Talloze landen over de hele wereld, waaronder enkele democratieën, zijn druk bezig ongeëvenaarde surveillancesystemen op te tuigen. Israël is wereldleider op het gebied van surveillancetechnologie en heeft op de bezette Westoever een prototype in bedrijf genomen van een totaalsurveillancesysteem. Het is nu al zo dat een willekeurige Palestijn die een telefoontje pleegt, iets op Facebook zet of van de ene stad naar de andere gaat, hoogstwaarschijnlijk wordt gemonitord door Israëlische microfoons, camera’s, drones of spionagesoftware.

Algoritmen analyseren de verzamelde gegevens en helpen de Israëlische geheime dienst om wat deze als een mogelijke dreiging ziet, in kaart te brengen en onschadelijk te maken. Het bestuur van sommige steden en dorpen aan de Westoever mag dan in handen zijn van de Palestijnen, de Israëli’s zijn nog altijd de baas in de lucht, in de ether en in cyberspace. Er zijn dan ook verrassend weinig Israëlische soldaten nodig om effectief controle uit te oefenen over de grofweg tweeënhalf miljoen Palestijnen op de Westoever.

In oktober 2017 vond een incident plaats. Een Palestijnse arbeider maakte een foto van zichzelf op zijn werkplek en zette die op zijn eigen Facebookpagina. Hij stond naast een bulldozer. Onder de foto had hij gezet: ‘Goedemorgen!’ Een Facebookvertaalalgoritme maakte een kleine fout bij het transcriberen van de Arabische tekens. In plaats van ysabechhum (‘goedemorgen’) had het algoritme de tekens gelezen als ydbachhum (‘maak ze af’). De Israëlische veiligheidstroepen vermoedden dat de man een terrorist was die met een bulldozer op mensen wilde inrijden en pakte hem onmiddellijk op. Nadat duidelijk was geworden dat het algoritme een fout had gemaakt, lieten ze hem weer gaan. De Facebookpost werd evengoed verwijderd – een mens kan niet voorzichtig genoeg zijn. Wat de Palestijnen op de Westoever nu meemaken, zou wel eens een simpel voorproefje kunnen zijn van wat miljarden mensen op de hele wereld te wachten staat.

© Unsplash
© Unsplash

Automobilisten zijn bijvoorbeeld niet altijd bekend met alle veranderende verkeersregels op de wegen en begaan ook geregeld overtredingen. Daarnaast is elke bestuurder een afzonderlijke eenheid en zodoende kan het gebeuren dat twee auto’s dezelfde kruising naderen en de bestuurders hun bedoelingen niet duidelijk weten over te brengen, waarna het tot een botsing komt. Zelfrijdende auto’s daarentegen, zullen alle verkeersregels kennen en die nooit willens en wetens overtreden. Bovendien kunnen ze allemaal met elkaar worden verbonden. Als twee zelfrijdende auto’s dezelfde kruising naderen, zijn ze niet langer twee afzonderlijke eenheden, maar maken ze onderdeel uit van één algoritme. De kans op miscommunicatie en vervolgens een botsing is daarmee een stuk kleiner.

Een vergelijkbare situatie: Wanneer de WHO een nieuwe ziekte identificeert, of wanneer een laboratorium een nieuw medicijn ontwikkelt, kunnen niet ogenblikkelijk alle artsen over de hele wereld van die kennis op de hoogte worden gesteld. Maar als er nou miljarden AI-artsen zouden zijn, over de hele wereld – die elk de gezondheid van één mens in de gaten houden – dan zouden die allemaal binnen een fractie van een seconde geüpdatet kunnen worden, en vervolgens zouden ze hun bevindingen met de nieuwe ziekte of het nieuwe medicijn kunnen uitwisselen. De potentiële voordelen van connectiviteit en updatemogelijkheden zijn ongekend groot, zo groot dat het in elk geval in bepaalde bedrijfstakken heel zinvol zou kunnen zijn om álle mensen te vervangen door computers, ook al zullen sommige menselijke krachten op individueel niveau beter werk leveren dan de computers.

Uit dit alles kunnen we een zeer belangrijke conclusie trekken: de automatiseringsrevolutie zal niet de gedaante aannemen van één groot keerpunt, waarna de arbeidsmarkt geleidelijk een nieuw evenwicht zal vinden. Het zal eerder een lawine zijn van steeds ingrijpender omwentelingen. Oude banen zullen verdwijnen en er zullen nieuwe banen voor in de plaats komen, maar die nieuwe banen zullen ook snel weer veranderen en verdwijnen. Mensen zullen zich moeten bijscholen en andere kanten van zichzelf moeten ontplooien, en dan niet één keer, maar talloze keren opnieuw.

Net zoals overheden in de twintigste eeuw massale onderwijsstelsels voor jonge mensen in het leven hebben geroepen, zullen er in de eenentwintigste eeuw massale bijscholingsstelsels moeten komen. Maar zal dat afdoende zijn? Verandering levert altijd stress op en de hectische samenleving van de eenentwintigste eeuw heeft al geleid tot een wereldwijde stressepidemie. Zullen mensen het aankunnen om steeds vaker te moeten schakelen tussen verschillende banen? In 2050 zou er wel eens een klasse van nuttelozen kunnen opkomen, niet alleen als gevolg van een tekort aan banen of een gebrek aan relevante scholing, maar ook door onvoldoende mentale kracht om keer op keer nieuwe vaardigheden aan te leren.

Opkomst van digitale dictaturen

Als veel mensen hun economische waarde verliezen, zouden ze ook wel eens hun politieke macht kunnen kwijtraken. De technologieën waardoor miljarden mensen in economisch opzicht overbodig zouden kunnen worden, maken het ook makkelijker om die mensen in de gaten te houden en te controleren. Kunstmatige intelligentie boezemt veel mensen angst in omdat ze er niet op vertrouwen dat AI ons zal blijven dienen.

In sciencefiction wordt vaak gespeeld met de mogelijkheid dat computers of robots een bewustzijn ontwikkelen, om vervolgens te proberen alle mensen om zeep te helpen. Maar er is eigenlijk geen reden om aan te nemen dat AI, naarmate ze intelligenter wordt, ook een bewustzijn zal ontwikkelen. We zouden AI eerder moeten vrezen omdat ze waarschijnlijk altijd haar menselijke meesters zal gehoorzamen zonder ooit in opstand te komen. Als gereedschap én als wapen is AI onvergelijkbaar met welk ander door de mens ontwikkeld wapen dan ook; het zal vrijwel zeker diegenen die de macht in handen hebben, helpen hun macht verder te consolideren.

Biometrische armband

Stel je eens voor dat het huidige regime in Noord-Korea in de toekomst een meer geavanceerde versie van dit soort technologie in handen zou weten te krijgen. Noord-Koreanen zouden verplicht kunnen worden een biometrische armband te dragen die alles vastlegt wat ze zeggen en doen, en die hun bloeddruk en hersenactiviteit registreert. Door gebruik te maken van steeds betere inzichten in de werking van het menselijk brein en van de ongekende kracht van machine learning, zou de Noord-Koreaanse regering uiteindelijk in staat zijn in kaart te brengen wat elke afzonderlijke burger op willekeurig welk moment denkt. Als een Noord-Koreaan naar een foto van Kim Jong-un zou kijken en de biometrische armband zou onmiskenbare tekenen van woede registreren (verhoogde bloeddruk, toegenomen activiteit in de amygdala) dan zou diegene de volgende dag al in een strafkamp kunnen zitten.

Maar een dergelijke stringente aanpak zal wellicht niet nodig zijn, of in ieder geval lang niet altijd. In sommige landen zal een façade van vrije keuze en vrije verkiezingen overeind blijven, hoewel de burgers in feite steeds minder zeggenschap zullen hebben. Pogingen om kiezers te manipuleren zijn bepaald niet nieuw. Maar zodra iemand (ongeacht of dat in San Francisco, Beijing of Moskou is) over de technologische mogelijkheden beschikt om betrouwbaar, goedkoop en op grote schaal het menselijk hart te manipuleren zal de democratische politiek veranderen in een emotioneel marionettenspel.

Het is onwaarschijnlijk dat we in de komende decennia getuige zullen zijn van een opstand van machines met gevoel, maar wellicht zullen we wel worden geconfronteerd met hele horden bots die misschien nog wel beter dan onze eigen moeder weten wat onze zwakke plekken zijn, en die deze griezelige kennis in dienst stellen van een menselijke elite die ons bepaalde dingen wil aansmeren – dat kan een auto zijn, een politicus of zelfs een complete ideologie. De bots zouden niet alleen onze diepste angsten kunnen blootleggen, maar ook onze hartgrondige haat en onze innigste verlangens, en alle kennis daarover tegen ons kunnen gebruiken.

We hebben hier al een voorproefje van gekregen bij recente verkiezingen en referenda over de hele wereld, toen hackers hadden geleerd hoe ze individuele kiezers konden manipuleren door hun data te analyseren en in te spelen op hun vooroordelen. Sciencefictionthrillers hebben een voorliefde voor spectaculaire apocalypsen met veel rook en vuur, maar in onze werkelijkheid zouden we al klikkend kunnen afstevenen op een veel banalere apocalyps.

Mensen zullen zich moeten bijscholen, en dan niet één keer, maar talloze keren opnieuw

De grootste en meest angstaanjagende gevolgen van de AI-revolutie zouden zich wel eens kunnen aftekenen op het terrein van de doelmatigheid van democratieën en dictaturen. Historisch gezien kampen autocratieën vaak met een grote handicap waar het gaat om innovatie en economische groei. Aan het einde van de twintigste eeuw gaven democratieën dictaturen in de regel het nakijken, omdat democratieën veel beter waren in het verwerken van informatie. We zijn geneigd het conflict tussen democratie en dictatuur te zien als een botsing van twee ethische opvattingen, maar in werkelijkheid is het een botsing van twee verschillende systemen om gegevens te verwerken.

De macht om informatie te vergaren en beslissingen te nemen wordt in een democratie gespreid over veel mensen en instellingen, terwijl macht en informatie in een dictatuur worden gecentreerd. Met de technologie van de twintigste eeuw was het inefficiënt om te veel macht en informatie op één plek te concentreren. Niemand was in staat om alle beschikbare informatie snel genoeg te verwerken en de juiste beslissingen te nemen. Dat is een van de redenen dat de Sovjet-Unie veel slechtere beslissingen nam dan de Verenigde Staten, en waarom de Sovjeteconomie ver achterbleef bij de Amerikaanse economie.

Maar dankzij kunstmatige intelligentie zou de balans naar de andere kant kunnen doorslaan. AI maakt het mogelijk om enorme hoeveelheden informatie centraal te verwerken. Sterker nog, dankzij AI kunnen gecentraliseerde systemen mogelijk veel efficiënter werken dan diffuse systemen, want hoe meer informatie een machine kan analyseren, hoe beter machine learning werkt. Als we alle privacyoverwegingen even terzijde schuiven en alle informatie over één miljard mensen bijeenbrengen in een database, levert dat veel betere algoritmen op dan wanneer je de individuele privacy respecteert en in je database alleen deelinformatie opslaat over een miljard mensen. Een autoritaire overheid die alle burgers verplicht om DNA-materiaal af te staan en medische gegevens te delen met een centrale autoriteit zou op het gebied van genetica en medisch onderzoek in één klap een enorme voorsprong nemen op samenlevingen waarin medische gegevens strikt privé zijn. De voornaamste handicap van een autoritair regime in de twintigste eeuw – het verlangen om alle macht en informatie te concentreren op één plek – zou in de eenentwintigste eeuw een doorslaggevend voordeel kunnen blijken.

Er zullen natuurlijk voortdurend nieuwe technologieën worden ontwikkeld, en sommige daarvan zullen misschien eerder verspreiding dan concentratie van macht en informatie in de hand werken. De blockchaintechnologie en het gebruik van cryptomunten, dat deze technologie mogelijk heeft gemaakt, worden momenteel geroemd als mogelijk tegenwicht voor de gecentraliseerde macht. Maar de blockchaintechnologie bevindt zich nog in de embryonale fase en we weten nog niet of deze technologie daadwerkelijk tegenwicht zal bieden aan de centraliserende tendens van AI.

Vergeet niet dat het internet in de begintijd ook de hemel in werd geprezen als een libertair wondermiddel dat mensen zou verlossen van alle gecentraliseerde systemen – terwijl het inmiddels op het punt staat de gecentraliseerde macht steviger in het zadel te helpen dan ooit.

Hoewel sommige samenlevingen ogenschijnlijk democratisch blijven, zal de toegenomen efficiëncy van algoritmen ertoe leiden dat er steeds meer macht van individuele mensen naar geïntegreerde netwerken gaat. Het is denkbaar dat we uit vrije wil steeds meer zeggenschap over ons leven afstaan omdat we erachter komen dat algoritmen betrouwbaarder zijn dan onze eigen emoties, en dat we uiteindelijk het vermogen verliezen om zelf beslissingen te nemen. Kijk alleen maar naar de miljarden mensen die binnen twee decennia een van de belangrijkste dingen in het leven hebben toevertrouwd aan het zoekalgoritme van Google: het vinden van relevante en betrouwbare informatie. Naarmate we er steeds meer op vertrouwen dat Google ons de antwoorden geeft, verliezen we het vermogen om zelfstandig op zoek te gaan naar informatie.

Nu al wordt ‘waarheid’ gedefinieerd door de eerste paar hits die Google geeft. Op een vergelijkbare manier tast dit proces onze fysieke vermogens aan, zoals onze ruimtelijke oriëntatie. Mensen vragen Google niet alleen om informatie te zoeken maar ook om hun de weg te wijzen. Zelfrijdende auto’s en AI-artsen zullen voor een verdere uitholling zorgen: door deze innovaties zullen niet alleen vrachtwagenchauffeurs en artsen hun baan verliezen, in breder verband zal het leiden tot een verdere overheveling van macht en verantwoordelijkheid naar machines.

We zijn gewend het leven te zien als een menselijk drama, een aaneenschakeling van beslissingen. Binnen de constitutionele democratie en het vrijemarktkapitalisme wordt het individu gezien als een autonome actor die voortdurend keuzes maakt die betrekking hebben op de wereld. In de kunst – of het nou gaat om een toneelstuk van Shakespeare, een roman van Jane Austen of een flauwe Hollywoodkomedie – draait het vrijwel altijd om een held die voor een cruciale beslissing staat. To be or not to be? Naar mijn vrouw luisteren en Duncan vermoorden of naar mijn geweten luisteren en hem sparen? Met Collins trouwen of met Darcy?

Ook de christelijke en de islamitische theologie richten zich op het drama van de besluitvorming en betogen dat eeuwige verlossing valt of staat met het maken van de juiste keuzes.

Wat zal er van deze levensvisie worden als we steeds meer beslissingen overlaten aan AI? Nu al laten we het aan Netflix over om films voor ons uit te zoeken en we laten Spotify muziek uitkiezen die wij mooi vinden. Maar waarom zou de hulpvaardigheid van AI daar moeten eindigen?

Elk jaar moeten miljoenen studenten besluiten wat ze gaan studeren. Dat is een heel belangrijke en ook moeilijke keuze, die wordt gemaakt onder druk van ouders, vrienden en docenten die ook weer allemaal hun eigen belangen en meningen hebben. De keuze wordt ook nog eens beïnvloed door individuele angsten en fantasieën van studenten, die op hun beurt weer zijn gevormd door films, boeken en reclamecampagnes.

Om de zaak nog meer te compliceren heeft een student niet echt een helder beeld van wat ervoor nodig is om succesvol te worden binnen een bepaald beroep en daarnaast kan hij of zij lang niet altijd een realistische inschatting maken van zijn eigen sterke en zwakke punten.

Het internet werd in de begintijd ook de hemel in geprezen als een libertair wondermiddel

Het is niet zo heel moeilijk om in te zien dat er een dag zal komen dat AI betere beslissingen zal kunnen nemen dan wijzelf waar het gaat om onze carrière, en misschien ook zelfs wel op het vlak van relaties. Maar zodra we ons verlaten op AI bij de beslissing welke studie we gaan volgen, wat voor werk we gaan doen en met wie we uitgaan of mogelijk zelfs trouwen, zal ons leven niet langer het menselijk drama van beslissingen zijn en zullen we ons beeld moeten bijstellen van wat een leven behelst. Democratische verkiezingen en vrije markten liggen dan wellicht niet meer voor de hand.

Hetzelfde zou kunnen gelden voor de meeste religies en kunstwerken. Stel je eens voor, Anna Karenina die haar smartphone pakt en aan Siri vraagt of ze met Karenin getrouwd moet blijven of dat ze ervandoor moet gaan met de aantrekkelijke graaf Vronski? Of probeer je voor te stellen hoe je lievelingsstuk van Shakespeare eruit zou zien als alle cruciale beslissingen zouden worden genomen door een Googlealgoritme. Hamlet en Macbeth zouden een veel gerieflijker leven leiden, maar wat voor leven zou dat zijn? Hebben we modellen om een dergelijk leven te duiden?

Zijn regeringen en politieke partijen in staat deze uitdagingen het hoofd te bieden en deze donkere scenario’s op afstand te houden?

Momenteel lijkt dat niet erg waarschijnlijk. Technologische ontwrichting staat bepaald niet hoog op de politieke agenda. Tijdens de aanloop naar de presidentsverkiezingen van 2016 was de voornaamste verwijzing naar ontwrichtende technologie het e-maildebacle rond Hillary Clinton, en ondanks alle verhalen over het verdwijnen van banen ging geen van beide kandidaten rechtstreeks in op de politieke gevolgen van automatisering. Donald Trump waarschuwde de kiezers dat de Mexicanen hun baan wilden inpikken en dat Amerika daarom een muur moet bouwen aan de zuidgrens. Hij waarschuwde de kiezers niet één keer dat hun baan zou worden overgenomen door een algoritme en hij stelde ook niet voor om een firewall te bouwen rond Californië.

Dus wat staat ons nu te doen?

Om te beginnen moeten we veel meer prioriteit geven aan het verkrijgen van inzicht in de werking van het menselijk brein – en met name in de vraag hoe we onze eigen wijsheid en inlevingsvermogen kunnen cultiveren. Als we te veel investeren in AI en te weinig in de ontwikkeling van de menselijke geest, dan is het niet ondenkbaar dat de zeer geavanceerde kunstmatige intelligentie van computers enkel de natuurlijke domheid van de mens zal blijken te versterken, en onze ergste (en misschien ook wel onze krachtigste) impulsen zal voeden, waaronder haat en hebzucht.

Willen we een dergelijk scenario voorkomen, dan zou het verstandig zijn om voor elke dollar en elke minuut die we investeren in het verbeteren van AI, ook een dollar en een minuut te steken in het onderzoeken en stimuleren van het menselijk bewustzijn.

Op een meer praktisch en direct niveau moeten we het bezit van data reguleren, willen we voorkomen dat alle rijkdom en macht in handen komen van een kleine elite. In vroeger tijden was land het meest waardevolle bezit en was de politieke strijd gericht op het in bezit krijgen en houden van land. In de moderne tijd werden machines en fabrieken belangrijker dan land, en de politieke strijd was er dan ook op gericht die vitale productiemiddelen onder controle te krijgen en te houden. In de eenentwintigste eeuw zullen zowel land als machines voorbij worden gestreefd door data, die de meest waardevolle handelswaar zullen worden, en de politiek zal dan ook neerkomen op een strijd om de controle over datastromen.

AI zal betere beslissingen kunnen nemen dan wijzelf waar het gaat om onze carrière, en misschien ook zelfs wel op het vlak van relaties

Helaas hebben we weinig ervaring met het reguleren van het eigendom van data, wat een intrinsiek veel lastiger opgave is dan de regulering van het bezit van land of machines. Data zijn tegelijkertijd overal en nergens, ze kunnen zich verplaatsen met de snelheid van het licht en je kunt er zoveel kopieën van maken als je maar wilt. Zijn de gegevens die zijn verzameld over mijn DNA, mijn hersenen en mijn leven uiteindelijk ook mijn eigendom, of zijn ze eigendom van de regering, van een coöperatie, van het menselijk collectief?

De strijd om data te verzamelen is al in volle gang en wordt op dit moment aangevoerd door megaconcerns als Google en Facebook, en in China door Baidu en Tencent. Tot nog toe hebben de meeste van deze bedrijven zich gedragen als attention merchants – ze proberen onze aandacht te vangen met gratis informatie, diensten en entertainment, en vervolgens verkopen ze onze aandacht door aan adverteerders. Maar waar het ze feitelijk om te doen is, zijn niet alleen die advertentie-inkomsten. Nee, door onze aandacht vast te houden weten ze ongekende hoeveelheden gegevens over ons te verzamelen en die gegevens zijn veel meer waard dan de advertentie-inkomsten. We zijn niet hun klanten; wij zijn het product.

De gemiddelde mens zal het knap lastig vinden om weerstand te bieden aan dit proces. Momenteel is het gros van de mensen maar al te zeer bereid ons meest waardevolle bezit – onze persoonlijke gegevens – te verkwanselen in ruil voor een gratis e-mailaccount en wat geinige kattenfilmpjes. Maar als die gemiddelde mens later besluit dat hij de stroom data wil indammen, zal dat hem vermoedelijk grote moeite kosten – al helemaal omdat hij op het netwerk is gaan vertrouwen voor het nemen van beslissingen, of zelfs voor zijn gezondheid en fysieke overleven.

Het nationaliseren van data door de overheid zou een oplossing kunnen zijn: het zou in ieder geval de macht van grote bedrijven aan banden leggen. Maar de geschiedenis heeft wel aangetoond dat we niet per se beter af zijn wanneer we zijn overgeleverd aan overheden met al te veel macht. Dus kunnen we beter de hulp inroepen van onze wetenschappers, onze filosofen, onze juristen en zelfs onze dichters, die zich kunnen buigen over de vraag: hoe valt eigendom van data te reguleren?

Makke koeien

Momenteel bestaat het risico dat de mens hetzelfde lot zal zijn beschoren als het huisdier. We hebben makke koeien gefokt die enorme hoeveelheden melk produceren maar die verder in vrijwel alles onderdoen voor hun wilde voorouders. Ze zijn minder beweeglijk, minder nieuwsgierig en minder vindingrijk. Momenteel zijn we bezig makke mensen te creëren die enorme hoeveelheden data genereren en die dienen als efficiënte chips in een enorm data processing-mechanisme, maar we benutten het menselijk potentieel niet volledig. Als we niet oppassen zitten we straks met gedowngradede mensen die verkeerd gebruik maken van geüpgradede computers en zo zichzelf en de wereld de vernieling in helpen.

Wie dat een verontrustend vooruitzicht vindt – wie het geen prettig idee vindt om te leven in een digitale dictatuur of een vergelijkbare gedegradeerde samenleving – kan eigenlijk maar één ding doen: zoeken naar manieren om te voorkomen dat er een concentratie plaatsvindt van te veel data in te weinig handen, en ook zoeken naar manieren om te zorgen dat het verwerken van gedistribueerde data efficiënter blijft dan het verwerken van gecentraliseerde data. Dat is geen makkelijke opgave. Maar het is misschien wel de beste waarborg voor democratie.

Auteur: Yuval Noah Harari

The Atlantic
Verenigde Staten | maandblad | oplage 430.000
Halverwege de negentiende eeuw opgericht door schrijvers Harriet Beecher Stowe en Ralph Waldo Emerson. Boekte in 2010 voor het eerst winst dankzij een krachtige onlinestrategie. Naast geweldige journalistieke hoogstandjes ook ruimte voor poëzie en beeld.

Dit artikel van Yuval Noah Harari verscheen eerder in The Atlantic.
Recent verschenen
Een remedie tegen navelstaren?
Schrijf je in voor onze nieuwsbrief.
Onze nieuwsbrief wordt wekelijks verzonden.
inschrijven

360 heeft 1000 nieuwe leden nodig

Deze maand bieden wij daarom een deel van onze artikelen gratis aan. Zo kunt u vast kennismaken met ons aanbod. Leden blijven toegang houden tot onze maandelijkse digitale editie en het archief.