• Tygodnik Powszechny
  • Reader
  • Big data 
kent ons beter 
dan wijzelf

Big data 
kent ons beter 
dan wijzelf

In China wordt geëxperimenteerd met een ‘sociaal kredietsysteem’ dat is gebaseerd op de exploitatie van persoonsgegevens: mensen die op basis van onder meer goed gedrag punten verzamelen, zien hun leven vergemakkelijkt, terwijl de ‘slechteriken’ worden gestraft. Het Poolse weekblad Tygodnik Powszechny interviewde sciencefictionauteur Jacek Dukaj, die in zijn werk 
de consequenties van zulke systemen onderzoekt.

Tygodnik Powszechny: Hoe functioneert een maatschappij waarin iemands sociale positie wordt bepaald door de punten die hij of zij verzamelt?

Jacek Dukaj: ‘Omdat we geen evaluatiecriteria 
hebben, kunnen we daar alleen maar naar gissen. 
Je onderworpenheid aan het gezag kan zo groot 
worden dat je uiteindelijk anticipeert op de wensen van de macht, en dat je in je hoofd projecties van 
Big Brother creëert waarbij je oprecht in de smaak wilt vallen. In het communistische Polen hebben we dit mechanisme ook meegemaakt. Het verschil 
met het Chinese systeem is dat de technologie het inmiddels mogelijk maakt de maatschappij te controleren en manipuleren zonder dat er een controleur of manipulator aan te pas komt.’

Kent de staat beoordelingscriteria?

‘Als je het over mensen hebt die binnen het staats-apparaat functioneren, hebben we serieuze redenen om te denken van niet. Na de onthullingen van Snowden in de Verenigde Staten, toen inlichtingendiensten werden gedwongen criteria prijs te geven die werden gehanteerd bij het opsporen van terroristen, zijn de verantwoordelijken dikwijls niet in staat gebleken hun manier van functioneren uit te leggen. Het programma Skynet van de National Security Agency (NSA) leerde bijvoorbeeld zelfstandig meta-gegevens van telefoongesprekken analyseren om te bepalen waar drones aanvallen in Pakistan moesten uitvoeren. Het aantal dodelijke slachtoffers van deze aanvallen loopt in de duizenden. Hoeveel van hen waren echt terroristen? Welke formules heeft het programma toegepast om dat te beoordelen? Omdat geen mens in staat is zulke enorme hoeveelheden gegevens te verwerken, nemen we onze toevlucht 
tot kunstmatige intelligentie.

We mogen ervan uitgaan dat de Chinezen een soortgelijk probleem hebben en dat ze evenmin weten waarom de kunstmatige intelligentie mensen een bepaald cijfer voor sociaal gedrag geeft. Ze zijn 
waarschijnlijk alleen maar bekend met de algemene basisprincipes.
Let wel, dit instrument formatteert niet alleen de maatschappelijke relaties, maar ook de kern van de psyche van de mens en, op termijn, zijn biologische gedrag. Denk aan de mensen die in zo’n systeem geboren en grootgebracht worden. De mate waarin zij tot de menselijke soort behoren, zal regelrecht afhankelijk zijn van het sociale krediet dat ze 
genieten.’

Hoe dat zo?

‘De Chinezen kennen niet dezelfde juridische en ethische beperkingen als wij bij het toepassen van de Crispr-technologie, die het mogelijk maakt de genetische code van menselijke embryo’s te wijzigen. In het Westen overheerst de vrees dat door toedoen van deze technologie de rijken zich zullen afscheiden van de rest van de mensheid door genetische verbeteringen aan te kopen die buiten het bereik van de armen liggen. Op die manier zouden ze een nieuwe soort gaan vormen, zoals de Morlocks en de Eloi in De tijdmachine van H.G. Wells, een roman waarin de aarde in de loop van honderdduizenden jaren wordt bevolkt door twee steeds verschillender soorten, waarvan de een onbewust als het vee van de ander fungeert.

De Chinezen zien geen enkele reden om de maatschappelijke, psychologische en genetische technologie niet te steunen. De reikwijdte van het ingrijpen in het genetische profiel van honderden miljoenen burgers, bijvoorbeeld door middel van de eenkind-politiek, is in het Westen alleen in hollywoodiaanse dystopieën voorstelbaar. Koppel Crispr en het 
socialekredietsysteem nu eens aan elkaar: het gedrag dat door de algoritmen van het laatste in de hand wordt gewerkt, vind je ook terug in de genen die voor de kinderen worden gekozen.’

Dukajs boeken hebben de naam nogal complex te zijn. Enkele van zijn favoriete thema’s zijn technologische singulariteit, nanotechnologie en virtual reality.
Dukajs boeken hebben de naam nogal complex te zijn. Enkele van zijn favoriete thema’s zijn technologische singulariteit, nanotechnologie en virtual reality.

China is geen democratische staat, maar is zoiets ook mogelijk in een westerse democratie?

‘De vraag is eerder of de democratie op westerse leest verenigbaar is met deze realiteit. De Chinezen bezien de democratie anders dan wij. Voor hen is het geen onbetwistbaar systeem waaraan je alle andere 
systemen afmeet. De Chinezen voelen meer voor een samenstel van verschillende waarden – de cohesie van de staat, de maatschappelijke orde, materiële welvaart, veiligheid en uiteindelijk een zekere versie van de mensenrechten met vrijheid van meningsuiting et cetera – waarin de hiërarchische rangschikking correspondeert met een bepaald tijdperk en 
een bepaalde plaats. Welke systemen van machtsuitoefening, welke sociale en economische ordes zijn het doeltreffendst binnen de geldende hiërarchie? 
De Chinezen passen democratie toe in de laagste echelons, in gemeentebesturen en ondernemingsraden.

Daarboven maakt de meritocratie de dienst uit, en helemaal bovenaan de politiek, die wordt beschouwd als het vermogen om macht te vergaren. Het socialekredietsysteem is alleen maar een instrument om deze orde te handhaven, en de democratie een ander instrument. Vanuit dit perspectief bezien is het Westen aan de verliezende hand, omdat het niet pragmatisch genoeg is. Welke argumenten kun je tegenover deze rationaliteit stellen? De traditie? Athene en Montesquieu ad vitam aeternam?’

Menselijke waardigheid? Individuele vrijheid?

‘Het is allerminst zeker dat de mens als subject de komende consequenties van de ontwikkeling van big data en van de programma’s die zijn gedrag zullen vormgeven, zal overleven. Het devies van dit nieuwe tijdperk zou kunnen zijn: “de zelfkennis van de mens ligt buiten hemzelf”. Zij kennen je beter dan jijzelf. Wie? De databases, de consumentenprofielen, de modellen die door bedrijven en overheden worden gecontroleerd, de onmenselijke extensies van het menselijk wezen.

De ontgoocheling van de mens is in gang gezet, 
en brengt een heilig mysterie met zich mee dat 
daimonion [‘innerlijke stem’ in het Oud-Grieks] wordt genoemd, de goddelijke inspiratie of de zwarte doos. Ons karakter als subject is niet langer gegarandeerd. In Homo Deus beschrijft de Israëlische historicus Yuval Noah Harari dit fenomeen met een geniaal neologisme: het individu, dat per definitie ondeelbaar was, wordt “dividu”.’

Wat is het ‘dividu’?

‘Dat is de fysieke jij plus de modellen van jou die zijn uitgewerkt op basis van uit je gedrag gedestilleerde data. De doeltreffendheid van deze modellen wordt afgemeten aan hun vermogen om je gedrag correct te voorspellen, bijvoorbeeld je koopgedrag. Maar op een gegeven moment is het niet langer mogelijk met deze tests door te gaan, omdat het model je inhaalt en keuzes voor je maakt voordat je zelf kunt beslissen. Wie is er dan subject?

Toch wil je dat het model kiest. Als het goed is, zal het per definitie een betere keuze maken dan jij, juist omdat het dieper in je zwarte doos kan doordringen. Zelf ben je je niet bewust van je meeste verlangens, complexen en dromen. Het “dividu” maakt je volledig en onthult een waarheid die tot dusver niet tot 
uitdrukking kon komen.’

Koopgedrag is één ding, maar werkt het ook bij politieke keuzes?

‘Kun je onderscheid maken tussen die twee? 
YouTube, Facebook en Twitter zijn commerciële producten van bedrijven, maar ze vormen al een agora waarin zich het politieke leven afspeelt. Ik denk dat dit wederzijdse overtuigingsproces tussen burgers, waarvan het archetype het debat tussen Griekse 
burgers van de polis was, het belangrijkste element van de democratie is. De stemming is slechts een procedure. Maar toch is de huidige agora die door de sociale media wordt gevormd, geen neutrale ruimte.’

‘Al voordat men over sociale media begon te spreken, wist ik dat ik me daar verre van wilde 
houden’

Omdat de algoritmen van tevoren thema’s en gesprekspartners voor ons uitkiezen?

‘Ze censureren zelfs steeds meer content op grond van raadselachtige en vaak veranderende criteria – afgezien van de meest evidente gevallen van pornografie en gewelddadigheid. Een andere, subtielere maar nog veel belangrijkere verandering van deze agora is de vorm van de media zelf. Het feit dat 
uitingen op Twitter tot een telegrafische vorm zijn beperkt, elimineert bij voorbaat een deel van de argumentatie. De vorm van de media heeft duidelijk invloed op de inhoud van de mededeling.

De aard van de sociale media zelf, die steeds meer op een volstrekt gedehiërarchiseerde discussieruimte beginnen te lijken, hebben een heroriëntatie van de democratie tot gevolg. Niemand ontkent meer dat 
de evolutie tussen de media 1.0 (pers, televisie, radio) en 2.0 (horizontale media en internet) een van de oorzaken is geweest van de overwinning van Trump, de Europese populisten en Brexit.

Bovendien bevorderen de sociale media sterk audio- en videocontent in plaats van teksten. Die verandering verstoort de manier van denken die we aan het schrift danken, met haar analytische, lineaire kant die op de geestelijke manipulatie van ideeën berust. Ze wordt vervangen door een emotionele manier van denken die eruit bestaat dat men zich met een ander mens identificeert – met zijn gezicht, zijn stem – en eerder op grond van een accumulatie van anekdotische gegevens handelt dan op grond van logische deductie. We belanden in een post-schriftcultuur.’

Hebt u een Facebookaccount?

‘Nee. Al voordat men over sociale media begon te spreken, wist ik dat ik me daar verre van wilde 
houden. Dat brengt trouwens een andere deformatie van de huidige agora aan het licht: mensen die geen zin hebben “dividuen” te worden en niet langer 
een subject te zijn, trekken zich terug uit het 
democratische leven.’

Als big data tot doel heeft ons beter te kennen dan wijzelf, betekent dat dan het einde van een van de fundamenten van het westerse denken, namelijk de onvoorspelbaarheid van de menselijke natuur?

‘Democratie heeft alleen maar zin als er die duistere afgrond in ons bestaat waarin de dieptepsychologie heeft proberen te kijken. We zijn ons niet bewust 
van de kracht. We kunnen hooguit van een “volks-regering” spreken als individuen in staat zijn uit vrije wil politieke beslissingen te nemen die onmogelijk uitgelegd of volledig voorspeld kunnen worden. Als iemand onze zwarte doos binnendringt en weet 
hoe hij die moet manipuleren, zijn wij niet meer degenen die beslissen. We blijven uiteraard de 
subjectieve indruk hebben dat we volledig vrij zijn de kandidaat te kiezen die we willen, maar die keuze gaat buiten ons om.’

En Amerika realiseert zich vol verbazing dat het Trump heeft gekozen…

‘Onder Obama deden de Democraten hetzelfde en daar gingen ze openlijk prat op: kijk eens hoe modern we zijn, we investeren in big data, de geïndividualiseerde profilering van kiezers, we hebben heel Silicon Valley achter ons. De Republikeinen waren duidelijk de idioten die vijandig stonden tegenover de wetenschap. Ik raad in dit verband het Wired-
artikel uit 2016 aan over Civis Analytics. Het schandaal rond Cambridge Analytica betekent ondanks alles een grote stap in onze bewustwording van de enorme snelheid waarmee we afstevenen op het moment dat de democratie een loze procedure wordt. Miljoenen mensen stemmen, maar iemand anders bepaalt welk hokje ze rood maken.’

Wie?

‘Altijd dezelfden. Aristoteles beschreef al hoe een democratie degenereert. Omdat de meerderheid besluit, kopen de rijken die op of bedienen ze zich van drogredenaars die behendig inspelen op de 
emoties van de massa, zoals men tegenwoordig Cambridge Analytica of communicatiebureaus betaalt. De Amerikaanse historicus Timothy Snyder bevestigt het: de Verenigde Staten zijn op weg een oligarchie te worden, omdat de rijksten de samen-leving manipuleren. Het Rusland van Poetin heeft die procedure al doorlopen.

Onze kijk op hoe de maatschappij zou moeten 
functioneren, wat goed is voor de mensen en de mensheid, wordt voor een groot deel bepaald door onze culturele omgeving. Maar die wordt op haar beurt bepaald door technologie en sociale media. Wie creëert dus onze waarden? De bazen van Amazon, van Microsoft, van Google. Zij hebben de grootste invloed op ons dagelijks leven, dus op ons gevoel 
van wat “normaal” is, de voorwerpen die we willen hebben, de schoonheidscanons, de waarden en 
imago’s aan de hand waarvan wij stemmen.’

Is het niet een kwestie van tijd voordat ook het Westen een controlesysteem ontwikkelt dat op big data is gebaseerd?

‘Dat zal niet hetzelfde zijn. In China is het makkelijker om grootschalige experimenten uit te voeren, 
als in een sociaal laboratorium, omdat het een sterk hiërarchische staat is waar geen interne concurrentie heerst. In het Westen zal een systeem dat door een staat wordt ingevoerd, tegen andere systemen moeten opboksen.’

Op voorwaarde dat het inderdaad staten zijn 
die deze systemen invoeren, en niet grote transnationale en monopolistische ondernemingen.

‘De specialisten van Silicon Valley komen inderdaad het meest overeen met de mandarijnen van het 
grote sociale laboratorium; daarvoor hoef je alleen het manifest van Zuckerberg maar te lezen. Toch zijn deze verschillen tussen het Oosten en het Westen op de lange termijn onbelangrijk, omdat de toename van de gegevensverzameling, de accumulatie van kennis over individuen en het anticiperen op onze beslissingen door big data onafwendbaar is, tenzij er zich een wereldwijde ramp voltrekt die alle beschaving vernietigt of tot stilstand brengt. Tot nu toe 
ben ik nog geen enkel alternatief rationeel scenario tegengekomen. Politieke oplossingen zijn er niet, want daarvoor zou wereldwijde eensgezindheid tussen alle staten, ondernemingen en wetenschappers nodig zijn.’

Een van de helden van uw romans gebruikt 
een stoorzender waardoor zijn gedrag niet te 
analyseren is.

‘Dat is een van mijn beste uitvindingen, en ik heb de indruk dat die vandaag de dag erg populair zou zijn. Het is de enige mogelijke dekking tegen het alziende oog van big data.’

Hoe functioneert die stoorzender?

‘Heel eenvoudig, als je tenminste een implantaat 
in je hersenen hebt dat het mogelijk maakt je 
bewegingen, stem en gezichtsuitdrukking te programmeren. De stoorzender voegt een toevalsfactor toe. Die zorgt ervoor dat alle op big data gebaseerde modellen niet functioneren.
Er wordt momenteel al gewerkt aan technologie die niet onze gedragingen analyseert, maar rechtstreeks onze hersenactiviteit. Het is nuttig de wisselwerking tussen neurowetenschap en veiligheidsdiensten te volgen. Het Amerikaanse [overheidsinstituut] Darpa bijvoorbeeld, dat onderzoeksprojecten met een 
militaire toepassing financiert, heeft in 2016 60 
miljoen dollar geïnvesteerd in een implantaat dat hersenen met een computer verbindt. Het volgende doel zal het ontdekken van terroristische intenties zijn met behulp van sluisjes op luchthavens die de hersenactiviteit van passagiers analyseren.

Maar zelfs mensen die zich volledig afzijdig houden van de digitale wereld, de sociale netwerken en internetaankopen, verschaffen indirect informatie over zichzelf door hun bestaan in de fysieke wereld en hun interactie met mensen die zich wel in de digitale sfeer bewegen. Het zal wellicht een opluchting voor u zijn dat gegevensverzameling op een dag niet meer economisch rendabel zal zijn.’

Al decennialang verzamelen de sociale psychologie en de gedragseconomie bewijzen die aantonen dat het idee van de mens als beslisser een illusie is

Onze hoop is eerder gevestigd op de gebrekkige integratie van de verschillende databases 
waarover de Poolse Big Brother beschikt. Onze staat zou er dus nooit in slagen iets met onze 
big data te doen.

‘Vanwaar die hoop?’

Omdat we niet in de gaten gehouden willen 
worden.

‘Natuurlijk niet. Maar je hoeft tegenwoordig al geen Chinese burger meer te zijn om in hun systeem voor te komen, je hoeft alleen maar een Chinees gadget te gebruiken of online aankopen te doen op Chinese sites. Ik heb bijvoorbeeld een Chinese luchtzuiveraar die bedienbaar is met je smartphone. Om die te 
kunnen gebruiken, moet je aangesloten zijn bij een Chinees systeem. Als ik dat had geweten, had ik 
misschien een ander apparaat gekocht, maar dit had de beste prijs-kwaliteitverhouding.

De westerse regeringen hebben ook toegang tot deze subtiele psychologische beïnvloedingsinstrumenten. Het bekendste daarvan, uit het Verenigd Koninkrijk ten tijde van de regering-Cameron [2010-2016], 
had een speciale eenheid gecreëerd om de “nudge”-theorie van Richard Thaler toe te passen [zie kader 
onderaan]: de autoriteiten dwingen de burgers niet een bepaalde keuze te maken, maar om een andere te maken is een extra inspanning vereist, zoals een klik of een telefoontje. Dankzij menswetenschappelijke en neuronale ontdekkingen weten we dat 99 procent van de mensen dat niet zal doen. Er bestaan talrijke andere manieren dan de Chinese om een samenleving te formatteren.’

Dus big data is alleen maar de volgende etappe in de ontwikkeling van de mensheid?

‘Het big data-tijdperk is aangebroken omdat we over de technologie beschikken om de massa gegevens te verzamelen die de menselijke hersenen niet meer alleen kunnen analyseren. Het is niet de mensheid die deze gegevens uitleest, het is de technologie zelf, die voortschrijdt door haar eigen traagheidskracht: hoe meer vooruitgang ze boekt, des te minder 
kunnen we haar begrijpen en controleren.

De ontkrachting van de mythe van de mens als 
subject is al ruim voor big data begonnen. Al decennialang verzamelen de sociale psychologie en de gedragseconomie bewijzen die aantonen dat het idee van de mens als beslisser een illusie is. We hebben 
de indruk dat we een bewuste beslissing nemen iets te doen, terwijl we alleen maar een keuze rechtvaardigen die buiten ons bewustzijn is gemaakt. De overgrote meerderheid van de beslissingen die we nemen, zelfs de belangrijkste, worden beïnvloed door impulsen, door hormonale spelletjes, door reflexen die worden ingegeven door stereotypen. Pas achteraf construeren we een logisch verhaal omtrent de 
redenen waarom we hebben gedaan wat we hebben gedaan. Big data heeft veel baat bij deze ontdekkingen.’

Als big data doordringt tot de zwarte doos van ons vermogen om subject te zijn, dan lijkt het zaak ons daartegen te verdedigen. Als ik me tegen big data verdedig, bescherm ik dat vermogen dan?

‘Absoluut, maar in hoeverre is dat nog mogelijk? Die verdedigingsmechanismen kunnen ook gemodelleerd zijn. Ik denk dat voor de kinderen van de volgende generatie, die met een tablet in hun hand zijn geboren, uw dilemma’s onbegrijpelijk zullen zijn.’

‘Laat alle hoop varen’, zoals bij het binnenkomen van de hel in De goddelijke komedie van Dante?

‘Dat het oude model van het mens-zijn zal over-
winnen, is uiterst onwaarschijnlijk. We zullen eraan wennen.’

Wat vindt Jacek Dukaj daarvan, de auteur van verhalen over mensen die worden overgenomen door systemen?

‘Ik ben zowel fatalistisch als gefascineerd, enigszins tevreden te zien in hoeverre de evolutie van maatschappij en beschaving overeenkomt met mijn modellen, maar tegelijkertijd bedroefd omdat ze niet overeenkomt met wat ik hoop. De meerderheid van mijn verwachtingen wordt niet ingegeven door wat ik wens, maar door de wil om er niets mee te maken te hebben. Die verwachtingen zelf worden overigens beïnvloed door de realiteit en de veranderingen die zich voltrekken. Mensen hebben veel moeite daar onderscheid tussen te maken.’

Als de vraag ‘Voor of tegen big data?’ slecht geformuleerd is, wat is dan de humanistische vraag?

‘Tot op welke hoogte willen we onszelf kennen? 
Als we het erover eens zijn dat we de toename van deze externe kennis van onszelf niet kunnen tegenhouden, dan blijven we ofwel de passieve biologische component van het “dividu”, of we proberen – voor zover dat mogelijk is – het digitale onderzoek naar de diepten van de mens te volgen. Als je een paar boeken van Daniel Kahneman of Jonathan Haidt leest, zul je beter begrijpen hoe de gadgets die je gebruikt en de multinationale strategieën waaraan je je onderwerpt functioneren. Daardoor word je minder passief.

Je zult nog altijd gemodelleerd worden door big data, maar dat zal het proces compliceren. Om het in 
Bijbelse taal te zeggen: de spiegel van je ziel zal wat raadselachtiger worden, wat minder transparant.

De rest hangt niet van jou af, want jij zult de richting van de technologische vooruitgang niet veranderen, noch de darwinistische concurrentie tussen staten en ondernemingen. Zelfs offline blijf je een samenstel van gegevens die iemand leest en analyseert.’

Auteurs: Marek Rabij en Michal Kuzminski

Jacek Dukaj (44) is een Poolse sciencefictionauteur. Hij begon in 1990 met het publiceren van novelles, fantasyromans en sciencefictionboeken. Hij ontving vier keer de Janusz A. Zajdel-prijs voor de beste Poolse sciencefictionroman. Zijn eerste grote succes kwam in 2007 met Lód (IJs), dat in Polen werd genomineerd voor meerdere grote literaire prijzen. Dezelfde roman werd in 2007 bekroond met de Literatuurprijs van de Europese Unie.

De ‘nudge’-theorie

De Amerikaanse econoom Richard Thaler kreeg in 2017 de 
Nobelprijs voor de Economie voor zijn werk dat economie en 
psychologische analyse met elkaar in verband brengt. Zelf legt hij dit verband als volgt uit: ‘De economische actoren zijn mensen, 
en economische modellen moeten daar rekening mee houden.’ 
In een van zijn bekendste werken, Nudge, dat hij samen met de Amerikaanse jurist en filosoof Cass Sunstein schreef, stelt Thaler dat mensen door middel van aansporingen (zoals die om te sparen voor hun pensioen) ‘geholpen’ moeten worden goede beslissingen te nemen. Daarom, schrijft 
het Britse dagblad The Telegraph, ‘wordt professor Thaler beschouwd als de inspirator van voormalig premier David Cameron, die een team van specialisten op het gebied van gedragswetenschap had geformeerd’. Dat team slaagde er met name in ‘de belastinginning aanzienlijk te verbeteren door belastingplichtigen erop te wijzen dat het merendeel van hun buren al had betaald’.

De Chinese Big Brother

De Chinese regering experimenteert op verschillende 
plaatsen in het land met een sociaal kredietsysteem, volgens een onderzoek van het blad The Initium uit Hongkong. Dit 
programma kent punten toe aan particulieren, ondernemingen en openbare besturen. Het beboet wanbetalers en beloont goede betalers, met name door het faciliteren van bancaire leningen. Maar de punten houden ook rekening met andere factoren, zoals de persoonskenmerken van de betrokkene en zijn of haar sociale relaties. 170.000 wanbetalers zouden al op een zwarte lijst zijn gezet, volgens het Amerikaanse blad Foreign Policy. Journalist Liu Hu heeft de gevolgen ook al ondervonden. Nadat hij was veroordeeld wegens smaad, vanwege een artikel uit 2013 waarin hij corruptiepraktijken aan de kaak stelde, werd hem onlangs belet om via een app een vliegticket aan te schaffen. Ook heeft hij te horen gekregen dat hij op 
de zwarte lijst is gezet.

Tygodnik Powszechny
Polen | weekblad | oplage 38.000

‘Het Katholieke Weekblad’ werd in 1945 opgericht door een kardinaal, die na zijn dood in 1999 door een priester werd opgevolgd. Het richt zich op cultuur en maatschappij.

Dit artikel van Marek Rabij en Michal Kuzminski verscheen eerder in Tygodnik Powszechny.
Recent verschenen
Een remedie tegen navelstaren?
Schrijf je in voor onze nieuwsbrief.
Onze nieuwsbrief wordt wekelijks verzonden.
inschrijven

Schrijf je in voor onze nieuwsbrief!

En ontvang wekelijks het beste uit de internationale pers in uw mailbox.