Bij bestrijding van nepnieuws is middel erger dan kwaal

Wereldwijd | Horizon | Computer Bild  | 11 March 2020 - 13:0011 Mar - 13:00

Facebook is van plan om zijn algoritmen te gebruiken om nepnieuws te bestrijden. Het echte probleem wordt daarmee alleen maar groter, vreest denker en internetcriticus Evgeny Morozov. Namelijk overheden en bedrijven die proberen met ‘behulp van bots, databases en algoritmes tot een enkelvoudige, objectieve en eeuwige waarheid’ te komen.

» Lees dit artikel in de Reader

Na drie jaar Trump als president is de morele verontwaardiging over ‘nepnieuws’ en de ‘waarheidsvrije’ wereld nog niks verminderd. Sterker nog, die is uitgebot tot een volledige cultuuroorlog. Conservatievelingen klagen steen en been dat hun mening door Facebook en Twitter wordt onderdrukt. Progressievelingen vinden juist dat die platforms veel te slap optreden tegen haatdragende uitingen en buitenlandse inmenging in verkiezingen.

Mark Zuckerbergs recente optreden in het Amerikaanse Congres, waar politici om het hardst probeerden hem de retorische nekslag te geven, voorspelt weinig goeds voor zijn sector. Silicon Valley is voor zijn redding nu aangewezen op de Communistische Partij van China: alleen een eindeloze handelsoorlog met dat land kan immers verhinderen dat de Amerikaanse overheid de ‘strategische’ technologiesector aan strengere regelgeving onderwerpt. Door die sector aan banden te leggen zou Washington immers zijn eigen positie in de wereld verzwakken. En de regering-Trump is niet blind voor dat gevaar.

MOGEN WE EVEN JE AANDACHT?
Dit artikel krijg je van 360 cadeau. We geloven dat internationale context leidt tot een beter begrip van de wereld om ons heen. Daarom zijn we blij als je dit artikel voor ons deelt. Nog blijer zijn we als je je bij ons aansluit: Probeer nu 5 nummers voor maar 15 euro. Duurt een paar minuten, stopt automatisch.
Bedankt

Financiële zeepbel
De techbedrijven winnen nu nog tijd door met die Chinese dreiging te schermen, maar dat houdt niet eeuwig stand. Als hun financiële zeepbel knapt, zal de haat jegens Silicon Valley alleen maar groeien en de roep om maatregelen aanzwellen. De publieke vernedering van WeWork en Uber, die voormalige lievelingen van de investeerders, is een teken dat de tolerantie voor hoogdravende technologieplatforms (en hun voormannen) bij het grote publiek stilaan op raakt. Er komt waarschijnlijk meer regelgeving – en het indammen van de stroom nepnieuws zal daarbij een van de hoogste prioriteiten zijn.

Maar hoe sterk is die stroom eigenlijk? Waar niet kritisch naar gekeken wordt – in het publieke debat, maar ook in veel academische betogen over de ‘waarheidsvrije’ wereld – is de onderliggende aanname dat wij leven in het tijdperk van het hyper-post-modernisme: een tijd waarin er geen vaste waarheid meer bestaat, geen eenduidig discours dat bestand is tegen de kritiek van radicaal verschillende wereldbeelden geworteld in ongelijksoortige materiële, culturele en raciale ervaringen.

Het zou onwaarachtig zijn om te ontkennen dat er zoiets gaande is – mede dankzij de verdienmodellen van digitale platforms, hun algoritmische beïnvloeding van gebruikers en de filterbubbel waarin die gebruikers zo belanden. Maar de fragmentering van de waarheid is maar één kant van het verhaal, en misschien niet de belangrijkste.

» Abonneer u op onze nieuwsbrief en ontvang wekelijks onze selecie uit 943 kranten wereldwijd in uw inbox.

Een onderbelichte paradox van het hedendaagse digitale bestaan is dat tegelijkertijd zowel de waarheidsvrije wereld als de hyperwaarheid wordt bejubeld. Terwijl enerzijds het discours verbrokkelt en rivaliserende waarheden welig tieren, zie je anderzijds ook een poging om met behulp van bots, databases en algoritmes tot een enkelvoudige, objectieve en eeuwige waarheid te komen.

De eerste fase van deze ‘objectivering’ begon met Wikipedia. Dat platform had gebruikt kunnen worden om van eender welk thema of verschijnsel uiteenlopende lezingen en interpretaties te geven. Maar men besloot dat een ‘gemeenschap’ van schrijvers en redacteuren op basis van beproefde en betrouwbare bronnen samen tot één enkele interpretatie van de geschiedenis moest komen.

Critici richtten hun pijlen vooral op het feit dat Wikipedia de productie van kennis werkelijk radicaal democratiseerde – iedereen kon eraan meeschrijven! – maar zagen een meer fundamentele en conservatieve kant van het project over het hoofd: tal van heikele thema’s geven aanleiding tot lange en vaak bittere discussies tussen redacteuren, maar van die interne onenigheid is aan de voorkant vaak niets meer te zien. De wrijving en de verdeeldheid blijven daardoor verborgen voor de gemiddelde bezoeker.

Door de wildgroei aan voorschriften en richtlijnen voor het schrijven van artikelen en het aanhalen van bronnen werden al die regeltjes doorslaggevender voor de inhoud van een lemma dan de informatie die het onderwerp van dat lemma zelf aandraagt. Vandaar al die vreemde gevallen van mensen die klagen dat er onjuistheden over hen op Wikipedia staan, maar dat ze die zelf niet kunnen corrigeren omdat zij niet als ‘gezaghebbende’ bron over zichzelf worden beschouwd. Dat stugge vasthouden aan rationaliteit en regeltjes is het waarlijk modernistische aspect van Wikipedia dat veel commentatoren nog steeds ontgaat.

Blockchain
De tweede fase van de ‘objectivering’ van het discours vloeit voort uit de explosieve groei van de blockchaintechnologie. Die schiep de illusie dat alles in cijfers kan worden gevat en voorgoed kan worden vastgelegd in een ‘grootboek’ of database (distributed ledger):
de definitieve waarheid, in steen gehouwen, eeuwig en onveranderlijk.

Binnen de nauw omschreven wereld van financiële transacties of computeractiviteiten kan die gedachte weinig kwaad. Maar als je deze ‘epistemologie van de blockchain’ toepast op substantiëlere domeinen – politiek, kunst, journalistiek – dan schep je de tamelijk perverse verwachting dat alles wat niet in hapklare blockchainbrokken is verpakt, per definitie is aangetast door subjectiviteit, corruptie en vooringenomenheid. Subjectiviteit is de vijand; ondoorgrondelijkheid een zonde.

Daar komt dus een ironisch aspect van de ‘waarheidsvrije’ wereld naar voren: dat de intensivering van het bureaucratische model gelijke tred houdt met de democratisering van kennis. Alleen wordt de menselijke kant van de bureaucratie nu voorgesteld als onhip en achterhaald, iets wat vervangen moet worden door ‘objectieve’ algoritmen en data. Het utopia van deze denktrant, waarvan je al iets kunt zien in staten als Singapore en Estland, is een volledig geautomatiseerd bureaucratisch systeem dat regels uitvoert met Pruisische efficiëntie.

‘Populistisch modernisme’
De resulterende digitale cultuur is heel merkwaardig. Die is natuurlijk bevorderlijk voor de cognitieve dissonantie die een voedingsbodem vormt voor alt-right. Enerzijds wordt in die cultuur, ongeveer op dezelfde populistische grondslag als bij Wiki-pedia, korte metten gemaakt met deskundigheid, want men doet alsof iedereen volledig aan elkaar gelijk is, net als de ‘nodes’ in het blockchainnetwerk (ook een fabeltje).

Anderzijds versterkt deze cultuur het modernistische geloof in regels en voorschriften, en in de mogelijkheid om met kwantitatieve middelen de enig juiste waarheid te vinden, die dan voor iedereen toegankelijk kan worden gemaakt, zonder tussenkomst van andere krachten dan de technologie. Wie een etiket voor deze ideologie zoekt, zou goed uit de voeten kunnen met ‘populistisch modernisme’.

De tegenstrijdigheden in deze bizarre ideologische mix spatten ervan af: deskundigheid wordt ingeruild voor een geloof in ‘technologie’ en ‘vooruitgang’. Maar doordat het doorgaans ontbreekt aan ook maar de geringste steekhoudende discussie over de politieke economie van de technologie (laat staan die van de vooruitgang), kan men geen verklaring vinden voor historische veranderingen. Wat is immers de drijvende kracht achter al die technologie om ons heen?

In dat modernistische geloof is ‘technologie’ meestal een eufemisme voor een klasse van bovenmenselijke techneuten en wetenschappers die in hun vrije tijd zogenaamd de wereld redden, vooral door nieuwe apps en producten uit te vinden. Zo worden de deskundigen via de achterdeur toch weer binnengehaald, maar zonder dat dit formeel wordt erkend (en zonder mogelijkheden voor democratische toetsing). Deze experts – of het nu gaat om Wikipedia-redacteuren of blockchainontwikkelaars – worden afgeschilderd als simpele aanhangsels van de kracht van de technologie en de vooruitgang, terwijl zij er vaak juist de aanjagers van zijn.

Dat is geen veilige en betrouwbare basis voor een democratische cultuur. Het is tot daaraan toe om lekker postmodernistisch te schermen met begrippen als ‘gesitueerde kennis’ en ‘meervoudige épistèmès’, en elke aanspraak op een eenduidige waarheid af te wijzen; je hoeft maar een werkcollege in de geesteswetenschappen te bezoeken om te weten dat dit jargon op universiteiten nog springlevend is. Maar het is andere koek om de relativiteit van de waarheid te bejubelen als je een systeem bouwt dat mensen algoritmisch de waarheid moet opleggen met fanatiek nageleefde bureaucratische regels en voorschriften, op een wijze waar de bureaucratie van Bismarck bij afsteekt als geknoei van een onnozele knutselaar.

Blindemannetje
Facebook, gebouwd op de populistische veronderstelling dat de horizontale communicatie tussen gebruikers onderling belangrijker is dan verticaal gepreek van experts, belichaamt dit dilemma: zelf populistisch tot op het bot, staat het bedrijf nu voor de taak om zijn algoritmes aan te wenden in de strijd tegen ‘nepnieuws’. Maar dat kan alleen door de voordelen te erkennen van deskundige kennis, en de aanpak te baseren op een samenhangend en eenduidig wereldbeeld.

Het probleem met Facebook is dat het niet eens beseft dat het dit probleem heeft: waarschijnlijk zal het dus doorgaan met zijn schizofrene gewoonte om blindemannetje te spelen, en zo precies de door experts geleide bureaucratie in het leven roepen die het van oorsprong juist pretendeerde te ondermijnen.

Al dat gehannes zal nooit iets goeds opleveren, maar het onderstreept wel een fundamentele waarheid die we vergeten lijken te zijn: dat zowel nepnieuws als zijn tegenpool, het ontspoorde streven naar hyperrationalisering, slechts de gevolgen zijn – en niet de oorzaken! – van onze problemen. Het postmodernisme is niet geboren in de studentenflat van Mark Zuckerberg.

Evgeny Morozov

The Guardian
Verenigd Koninkrijk | dagblad | oplage  134.000

Onafhankelijke kwaliteitskrant van linkse signatuur. Sinds 1821 thuisbasis van de meest gerespecteerde columnisten en journalisten. Altijd zeer kritisch ten opzichte van de overheid en andere instituten.

» Abonneer u op onze nieuwsbrief en ontvang wekelijks onze selecie uit 943 kranten wereldwijd in uw inbox.

Plaats een reactie