Het geweten van Silicon Valley

The Atlantic / 360 Magazine  | 12 september 2017 - 15:1112 sep - 15:11

Tristan Harris, voormalig productfilosoof bij Google, vindt dat Silicon Valley ons verslaafd maakt aan onze smartphones. Hij is vastbesloten daar een einde aan te maken.

Op een avond in San Francisco krijgt Tristan Harris, voormalig productfilosoof bij Google, een naamkaartje uitgereikt door een man in pyjama die zich Honey Bear noemt. Hij schrijft er zijn eigen schuilnaam voor die avond op: ‘Presence’. Harris doet mee aan Unplug SF, een ‘digitaal detox-experiment’ ter gelegenheid van de National Day 
of Unplugging. Je echte naam mag je hier niet gebruiken. Ook verboden: horloges, praten over je werk en zogenaamde WMD’s (de Engelse afkorting voor weapons of mass destruction, maar hier gebruikt voor wireless mobile devices). Dus levert Harris, een 
donkerblonde, slanke man van 32 met een keurig stoppelbaardje, zijn iPhone in – een apparaat dat hij zo verslavend vindt dat hij spreekt van de ‘fruitautomaat in mijn broekzak’. Ik volg hem een grote ruimte in waar bijna vierhonderd mensen zitten te tekenen, te kleuren of te breien. Hier hangt de opgewekte sfeer van een zomerkamp, maar het maakt ook 
duidelijk dat het voor smartphonebezitters – die hun mobieltje volgens onderzoek zo’n honderdvijftig 
keer per dag raadplegen – kiezen of delen is: ofwel 
je ‘WMD’ laten aanstaan en continu worden verleid om naar het schermpje te loeren, of het apparaat even helemaal uitbannen. ‘Het zou geen kwestie van alles of niets moeten zijn,’ zegt Harris later. ‘Dat is een ontwerpfout.’

Je zou Harris kunnen beschouwen als het geweten van Silicon Valley (voor zover dat een geweten heeft). Met zijn Time Well Spent-beweging streeft hij naar moreel integer softwaredesign: hij wil dat de technologie ons helpt om minder aan ons scherm te kleven. Volgens sommigen is de collectieve technologieverslaving onze eigen schuld, kwestie van gebrek aan wilskracht. Maar volgens Harris treft ook de software blaam. Het verlangen om even op onze telefoon te kijken is een natuurlijke respons op apps en websites die erop ontworpen zijn ons daartoe te verleiden. In de nieuwe ‘aandachtseconomie’ verdienen bedrijven vooral aan het kapen van onze aandacht en dat 
leidt tot wat Harris ‘een race naar de bodem van de hersenstam’ noemt. ‘Je kunt wel zeggen dat het mijn eigen verantwoordelijkheid is,’ legt hij uit. ‘Dat het een kwestie van zelfbeheersing is. Maar dan vergeet je dat er aan de andere kant van het scherm duizend mensen aan de ondermijning van jouw zelfbeheersing zitten te werken.’

Er zijn meer mensen die bepleiten wat Harris 
voorstaat, zoals Adam Alter, docent marketing aan New York University. Maar volgens Josh Elman van investeringsfonds Greylock Partners, een ouwe rot 
in Silicon Valley, is Harris de eerste ‘die alles op deze manier bij elkaar brengt’: de formulering van het probleem, de maatschappelijke kosten en ideeën 
voor oplossingen. Elman vergelijkt de technologiesector met tabaksfabrikanten in de tijd dat er nog geen verband was vastgesteld tussen roken en 
kanker: ook zij gaven de klanten grif wat ze wilden, maar richtten daarmee flinke schade aan in hun leven. Volgens hem biedt Harris Silicon Valley de kans om zich te bezinnen voordat er straks, als gevolg van nog meeslepender technologie zoals 
virtual reality, geen weg meer terug is.

Geen neutraal gereedschap

Al dat gepraat over hoe de mens door software 
wordt ‘gehackt’ kan paranoïde klinken, maar Harris heeft zelf van nabij gezien hoe gebruikers worden gemanipuleerd. Hij groeide op in San Francisco als zoon van een alleenstaande moeder die zich inzette voor mensen met arbeidsletsel en schreef als kind al eenvoudige software voor Macintosh-computers, én fanmail naar Steve Wozniak, een van de oprichters van Apple. Tijdens een stage bij Apple ging hij informatica studeren aan Stanford-universiteit, waar hij ook college liep bij het Persuasive Psychology Lab 
van de experimenteel psycholoog B.J. Fogg. Dat is erg populair bij ondernemers die zich willen bekwamen in Foggs principes van ‘gedragsdesign’: een eufemisme voor het bouwen van software die ons onbewust laat doen wat een bedrijf wil. (Een van de oprichters van Instagram heeft ook bij Fogg gestudeerd.) Harris deed daar onderzoek naar de psychologie van gedragsverandering: hoe je met zoiets als clickertraining 
voor honden ook mensen kunt conditioneren om 
producten aantrekkelijk te vinden. Als je bijvoorbeeld zorgt dat mensen meteen na het posten van een foto een like krijgen, kan zo’n incidentele handeling uitgroeien tot een dagelijkse activiteit.

Harris constateerde dat de succesrijkste sites en apps ons verslaafd maken door het aanspreken van diepgewortelde menselijke behoeften. Zo presenteerde LinkedIn bij zijn lancering een grafische weergave van de netwerken van gebruikers waarmee het ons aangeboren verlangen naar sociale goedkeuring aansprak en mensen stimuleerde om zich in te schrijven en contacten te leggen. ‘Je kon toen nog helemaal niks met LinkedIn, maar dat eenvoudige plaatje appelleerde aan je verlangen om niet als een loser gezien te worden,’ zegt Fogg. Harris begon te beseffen dat technologie geen neutraal gereedschap is, zoals veel ontwerpers beweren. En het zat hem dwars dat slechts een van de tien colleges van Fogg gewijd was aan de ethische aspecten van deze 
overredingstechnieken. (Volgens Fogg wordt er ‘door de hele studie heen’ aandacht besteed aan ethiek.)

Harris stopte met zijn studie om een start-up te beginnen die pop-ups met achtergrondinformatie maakte voor duizenden sites, waaronder die van 
The New York Times. Hij ging gebukt onder de spanning tussen de sociale missie van zijn bedrijf (het bevorderen van leergierigheid door het aanbieden van laagdrempelige informatie) en de wens van 
uitgevers om gebruikers zo lang mogelijk op hun 
site te houden. Harris zegt dat hij zelf geen slinkse overredingstechnieken gebruikte, maar wel van nabij heeft gezien hoe ze werden toegepast. Hij begon het te zien als een ‘gijzeltechniek’, het digitale equivalent van junkfood dat met suiker, zout en 
vet wordt volgestopt om te zorgen dat je blijft eten. McDonald’s maakt ons verslaafd door een fysiek 
verlangen naar bepaalde smaken te bevredigen – Facebook, Instagram en Twitter doen het met wat psychologen ‘wisselende beloning’ noemen. Nieuwe berichten, foto’s en likes verschijnen zonder enige regelmaat, zodat we steeds blijven kijken of er weer wat nieuws op staat, want je weet nooit wanneer je volgende dopaminekick komt. Uit onderzoek blijkt dat zulke willekeurige prikkels een krachtige en snelle manier zijn om gedrag te beïnvloeden. Even naar dat vriendenverzoek op Facebook kijken kost toch maar een paar seconden, redeneren we – al blijkt uit onderzoek dat het je gemiddeld 25 minuten kost om je daarna weer op je werk te concentreren.

‘Drive Them Crazy’

Volgens een woordvoerder streeft Facebook naar verbetering van de gebruikerservaring, niet naar maximalisering van de tijd die mensen op de site doorbrengen, en voert het dagelijks enquêtes uit om te meten of dat lukt. Daarom heeft Facebook onlangs bijvoorbeeld het algoritme voor de newsfeed aangepast om iets te doen tegen ‘clickbait’: berichten met misleidende, sensatiebeluste koppen die alleen bedoeld zijn om lezers te lokken. (LinkedIn en Instagram wilden niet op mijn vragen ingaan. 
Twitter heeft na herhaalde verzoeken helemaal niet gereageerd.) Toch is er inmiddels een heel legertje consultants die bedrijven leren hoe ze hun product onweerstaanbaar kunnen maken. Zoals Nir Eyal, 
de schrijver van Hooked: How to Build Habit-Forming Products, die voordrachten houdt of advies geeft 
aan bedrijven als LinkedIn en Instagram. Een van zijn blogberichten over de kracht van wisselende beloning is getiteld ‘Want to Hook Your Users? Drive Them Crazy’. Eyal erkent dat een bedrijf moreel 
verplicht is zijn gebruikers te helpen als die werkelijk aan zijn diensten verslaafd raken. Maar hij vindt dat sociale media op dezelfde manier op onze hang naar entertainment inspelen als tv of romans. Volgens hem ligt de nieuwste technologie alleen onder vuur omdat ze nieuw is en vinden mensen uiteindelijk vanzelf wel de juiste balans. ‘Als je roept: gebruik 
die technieken niet, dan zeg je in feite: maak je 
producten niet te leuk. Dat slaat nergens op,’ zegt Eyal. ‘Bij elke nieuwe technologie zegt de oudere generatie: de jeugd van tegenwoordig is hier te veel mee bezig en wordt er dom van. Maar de mens blijkt zich altijd gewoon aan te passen.’

In 2011 werd Harris’ bedrijf door Google gekocht 
en ging hij werken aan Google’s Inbox-app. Na een jaar begon hij zich te storen aan het gebrek aan 
aandacht voor het feit dat ogenschijnlijk onschuldige keuzes in het ontwerpproces van de app, zoals de optie om bij elke nieuwe mail een meldingsgeluid te laten klinken, uiteindelijk uitgroeien tot miljarden momenten van afleiding. Zijn team was maanden bezig met het uiterlijk van de Gmail-app om tot 
een nog ‘heerlijker’ e-mailbeleving te komen, maar volgens hem misten ze de essentie. Kon je, in plaats van te proberen e-mail te verbeteren, niet beter de vraag stellen hoe e-mail ons leven kan verbeteren? En of beslissingen in het ontwerpproces van nieuwe software ons leven niet slechter maken?

Na een bezoek aan het Burning Man-festival in 
de woestijn van Nevada, dat hem naar eigen zeggen hielp om ‘te ontwaken en mijn eigen overtuigingen tegen het licht te houden’, kwam Harris zes maanden later in alle stilte met de 144 pagina’s tellende Google Slides presentatie ‘A Call to Minimize Distraction & Respect Users’ Attention’. Daarin schrijft 
hij: ‘Nooit eerder in de geschiedenis hebben de beslissingen van een handjevol softwaredesigners (overwegend blanke mannen van tussen de 25 en 
35 uit San Francisco) bij drie bedrijven [Google, Apple en Facebook] zo veel invloed gehad op hoe miljoenen mensen overal ter wereld hun aandacht verdelen. 
We zouden ons bewust moeten zijn van onze enorme verantwoordelijkheid om het goed te doen.’ De 
presentatie, door Harris slechts naar tien naaste collega’s gestuurd, bereikte al snel meer dan vijfduizend Google-medewerkers. Daaronder ook toenmalig CEO Larry Page, die er een jaar later op een bijeenkomst met Harris over in discussie ging. Mede op basis van die presentatie wist Harris een nieuwe functie als productfilosoof te bedingen, waarbij hij onderzoek moest doen naar manieren waarop Google ethisch design kan implementeren. Maar hij zegt te zijn vastgelopen op ‘apathie’. Volgens Chris Messina, 
destijds softwareschrijver bij Google, veranderde na het uitbrengen van Harris’ presentatie maar weinig: ‘Het was zo’n geval waarbij iedereen instemmend knikt om vervolgens gewoon op de oude voet verder te gaan.’

Vorig jaar december is Harris bij Google vertrokken om op bredere schaal voor verandering te ijveren. 
Hij wordt gesteund door een groeiend netwerk van gelijkgezinden, onder wie de aan MIT verbonden hoogleraar Sherry Turkle, de CEO van Meetup 
Scott Heiferman, en Justin Rosenstein, een van de bedenkers van de ‘vind ik leuk’-knop – plus tal van geïrriteerde internetgebruikers en bezorgde werknemers uit de sector. ‘Praktisch alle grote bedrijven die gebruikers manipuleren hebben interesse in ons werk,’ zegt Joe Edelman, die al vijf jaar met Harris ideeën uitwisselt en workshops houdt.

Software-equivalent van biologisch voedsel

Met zijn beweging Time Well Spent hoopt Harris steun te mobiliseren voor het software-equivalent van biologisch voedsel: een alternatief dat op 
normen en waarden berust en ons vooral wil helpen onze tijd goed te besteden, in plaats van zo veel mogelijk van onze tijd in beslag te nemen. Voorlopig is Time Well Spent meer het motto van een kruistocht – en een visie waarvan Harris hoopt dat anderen die overnemen – dan een volgroeide organisatie. Harris is de enige werknemer en betaalt alles uit eigen zak. Maar hij heeft inmiddels wel een netwerk van vrijwilligers die staan te trappelen om mee te doen, mede dankzij zijn frequente optredens in het lezingencircuit: hij heeft voordrachten gehouden 
op Harvard’s Berkman Klein Center for Internet & Society, op de O’Reilly Design Conference, op een interne bijeenkomst van Facebook-designers en 
voor TEDx. Het filmpje van die TED-talk is op internet al meer dan een miljoen keer bekeken. Tim O’Reilly, als oprichter van O’Reilly Media een echte internetpionier, vertelde me dat Harris’ ideeën ‘echt iets 
zijn waar invloedrijke mensen naar luisteren en 
over nadenken’. Zelfs Fogg, die zijn Apple Watch niet meer draagt omdat hij zich ergert aan de constante meldingen, is een fan van Harris’ werk: ‘Wat hij doet is dapper en heel moeilijk.’

Harris erkent ruiterlijk dat hij, als gevolg van zijn onderzoek naar hoe bedrijven onze tijd gijzelen, 
lichtelijk obsessief probeert bij te houden wat in zijn eigen leven ‘welbestede tijd’ is. De hypnoseles die hij vlak voor onze ontmoeting heeft bijgewoond (omdat hij denkt dat de passieve houding waarmee we door een newsfeed scrollen vergelijkbaar is met een staat van hypnose) bleek dat niet te zijn. Dat was een les, zegt hij, met een ‘lage bitrate’ – nerdspeak voor ‘sloom’. En de digitale detoxavond? Zeer welbesteed.

Met zijn houthakkersoverhemden en zijn armbandje met de mindfulnessleuze ‘presence’ heeft Harris, 
die in zijn vrije tijd accordeon speelt en tango danst, een uitstraling die het midden houdt tussen kakker en hippie. Hij voelt zich zowel in de vergaderkamers van Silicon Valley thuis als op zo’n internetloze avond. In dat opzicht heeft hij veel gemeen met de andere aanwezigen bij Unplug SF: veelal leden van 
de nieuwe internetelite die zich nu bewust worden van de onwelkome neveneffecten van hun sector. Die ondernemers komen tot inkeer omdat ze wat ouder worden, kinderen hebben en zichzelf al verzekerd weten van een paar miljoen op de bank, zegt Soren Gordhamer. Hij is de initiator van Wisdom 2.0, een serie conferenties over het vinden van ‘aanwezigheid en zingeving’ in het digitale tijdperk. ‘Ze voelen zich schuldig,’ zegt Gordhamer. ‘Ze beseffen dat ze iets hebben gecreëerd wat waanzinnig verslavend is.’

Omdat ik benieuwd ben wat Harris tegen manipulatieve software wil doen, ga ik op een ochtend mee naar zijn afspraak met twee start-upondernemers die de waarden van Time Well Spent willen uitdragen. Harris ziet nog rood van een yogales als hij de lunchroom binnenstapt waar we hebben afgesproken, niet ver van het ‘intentional community house’ [soort woongroep op ecologische leest] waar hij met een tiental anderen woont. Daar ontmoeten we Micha Mikailian en Johnny Chan, de oprichters van de nieuwe adblocker Intently. Die moet advertenties op websites vervangen door stimulerende teksten 
als ‘Follow Your Bliss’ of ‘Be Present’. Vroeger hadden ze een marketing- en reclamebureau.

‘Ik zat op een dag te mediteren. En toen kreeg ik 
het idee voor Intently,’ zegt Mikailian, een man met een flinke turkooizen armband en een knotje.

‘En dat was precies de richting die ik op wilde,’ zei Chan.

Ze willen weten wat ervoor nodig is om hun app ethisch te ontwerpen. Samen met Joe Edelman 
werkt Harris aan een gedragscode, een soort eed 
van Hippocrates voor software-ontwerpers, en een richtlijn voor start-ups en andere bedrijven over hoe je ‘mensen met respect behandelt’. Om te beginnen door na te denken over waaraan je het succes van 
je bedrijf afmeet. ‘Je moet je inleven: wat zijn de 
concrete voordelen in het leven van een gebruiker?’ zegt Harris tegen Mikailian en Chan.

Ethisch design

In zijn lezingen heeft Harris prototypes gepresenteerd van producten die nog andere principes van ethisch design belichamen. Hij vindt dat technologie ons moet helpen grenzen te trekken. Bijvoorbeeld met een mailprogramma dat vraagt hoeveel tijd we aan onze mail willen besteden en ons er zachtjes 
aan herinnert als we die limiet overschrijden. 
Technologie moet ons ook laten zien waar onze tijd aan besteden, zodat we daar bewuste beslissingen over kunnen nemen. Stel je voor dat je telefoon een waarschuwing geeft als je al voor de veertiende keer in een uur het scherm ontgrendelt. Harris heeft ook een demo ontwikkeld van een hypothetische ‘focus mode’ voor Gmail, waarbij binnenkomende mail wordt achtergehouden tot iemand klaar is met een taak die concentratie vergt – behalve als het om een spoedeisende mail gaat. (In Slack, een communicatietool voor collega’s, zit al zo’n functie ingebouwd.)

Hij streeft naar een Time Well Spent-certificering, een soort keurmerk voor software die met de juiste waarden is ontworpen. Hij heeft al een lijstje met apps die hij aanprijst als pioniers op dit gebied, 
zoals Pocket, Calendly en f.lux: apps waarmee je, 
respectievelijk, artikelen kunt bewaren om ze later op je gemak te lezen, lege plekken in iemands agenda kunt reserveren om makkelijker tot een afspraak te komen, en je nachtrust kunt verbeteren door een roze gloed te geven aan het blauwe beeldschermlicht dat onze biologische klok in de war gooit. Intently zou ook in dat lijstje kunnen passen, oppert hij.
Om uit te vinden welke andere diensten hiervoor in aanmerking komen, heeft Harris geëxperimenteerd met software die meet hoeveel uur je aan al je 
verschillende apps besteedt en je vervolgens vraagt welke je daarvan ook echt de moeite waard vindt. Met behulp van data van verschillende gebruikers kun je dan een soort zwarte lijst maken van meest teleurstellende apps: apps die wel verslavend zijn maar geen bevrediging schenken. Edelman heeft 
een vergelijkbare tool voor websites ontworpen, Hindsight. ‘We moeten de betekenis van winnen veranderen,’ zegt Harris.

Hypocriete mindfulness

Technische problemen zijn niet het grootste struikelblok voor de invoering van ethisch design en meer respect voor de eigen keuzevrijheid van gebruikers. Volgens Harris is het geen kwestie van kunnen maar willen. In dat opzicht vrezen zijn aanhangers dat de cultuur van Silicon Valley van nature vijandig staat tegenover alles wat verdere groei en ontwikkeling kan afremmen. ‘Dit is geen plek waar mensen een tandje terug willen schakelen om zich te bezinnen op wat ze doen en welke gevolgen dat voor anderen heeft,’ zegt Jason Fried, al twaalf jaar het hoofd van Basecamp, een digitale tool voor projectmanagement. ‘Ze willen alles lekkerder en verleidelijker maken en jou hun diensten aansmeren, om de 
miljardenwaarde die hun bedrijf wordt toegeschreven en de miljoenen die erin zijn geïnvesteerd te kunnen verantwoorden.’

Harris wil die hele aandachtseconomie niet 
compleet ontmantelen, maar hoopt dat bedrijven op zijn minst ook een gezonder alternatief gaan bieden voor het huidige dieet van technologisch junkfood. Net als biologische groente zou de eerste generatie software met het Time Well Spent-keurmerk bijvoorbeeld iets duurder kunnen zijn dan de gewone variant, om de lagere advertentieopbrengst te compenseren. ‘Zou jij zeven dollar per maand willen betalen voor een versie van Facebook die er helemaal op ontworpen is om jou beter in staat te stellen je eigen leven in te richten?’ vraagt Harris. 
‘Ik denk dat veel mensen daar wel iets voor overhebben.’ Net als vlees van de biologische slager is een paar dagen (of zelfs maar een paar) uur niet online gaan en geld betalen voor diensten die ook gratis beschikbaar zijn een luxe die alleen is weggelegd voor wie al redelijk goed af is. Ik vraag Harris of het niet tot een technologische tweedeling kan leiden, waarbij alleen een bevoorrechte elite aan de mentale gijzeling ontkomt en de grote massa eraan onderworpen blijft. ‘Het creëert een nieuw soort ongelijkheid. Dat is zeker zo,’ erkent hij. Maar als zijn beweging eenmaal op gang komt, werpt hij tegen, kan die zich als een olievlek uitbreiden. 
Zoals ook Walmart nu al biologische groente in 
de schappen heeft.

De beste manier om de stand van zaken te veranderen, denkt Harris, is door gebruikers boos te maken over alle manieren waarop ze worden gemanipuleerd en zo massale steun te verwerven voor technologie die de keuzevrijheid van mensen respecteert. Zo ging het ook met de massale verontwaardiging over privacyinbreuken, die bedrijven ertoe heeft aangezet om gebruikersgegevens beter te beschermen. Door zijn ervaring bij Google is Harris ervan doordrongen dat 
er pas iets verandert als gebruikers dat eisen. Maar Edelman denkt dat de prikkel om te veranderen ook uit de industrie zelf kan komen: als ontwerpers geen producten meer willen bouwen die ze onethisch vinden en bedrijven zich geconfronteerd zien met een braindrain. Hoe meer mensen beseffen wat de gevolgen van de gebruikte verleidingstactieken zijn, hoe sneller het uncool wordt om daar te werken, zegt hij. ‘En dan kun je heel snel door je ontwerpers heen zijn.’

Het verlichte imago van Silicon Valley heeft iets hypocriets, vooral de manier waarop mindfulness daar de laatste tijd wordt omarmd. Bedrijven als 
Google en Facebook lopen hierin voorop, met speciale ruimtes waar hun werknemers zich kunnen overgeven aan mindfulnesstraining of meditatie. Maar in dat hele mindfulnessverhaal blijft het wel aan de mensen zelf om te leren zich beter te concentreren. Er is geen aandacht voor het feit dat hun apparaten erop zijn ontworpen om ze juist úít hun concentratie te halen. Het is alsof je mensen vermaant dat ze gezonder moeten leven door meer te sporten, maar ze bij het eten dwingt tot een keus tussen een Big Mac of een Quarter Pounder.

En je kunt je nog zo bewust zijn van de verleidingskracht van de software, dat wil niet zeggen dat je er automatisch immuun voor bent. Toen Harris en ik op een avond bij zijn auto stonden te praten, lichtte het scherm van zijn telefoon op omdat hij een nieuw bericht had gekregen. ‘O,’ zei hij, meer tegen zijn telefoon dan tegen mij, en mompelde iets over hoe toevallig het was dat de afzender een vriend van hem kende. Toen keek hij me schuldbewust aan. ‘Dat is nou een mooi voorbeeld,’ zei hij, zwaaiend met zijn telefoon. ‘Het was sterker dan mezelf.’

Auteur: Bianca Bosker
Vertaler: Frank Lekens

Beeld: Camp Grounded in Mendocino, Californië: een zomerkamp voor volwassenen die een weekend leven zonder digitale apparaten. – © Natan Dvir / Polaris


Plaats een reactie