• The Intercept
  • Magazine 196 – Juni
  • TikTok: geen club voor ‘lelijke mensen’

TikTok: geen club voor ‘lelijke mensen’

TikTok instrueert moderatoren om berichten van ‘onaantrekkelijke en arme’ mensen te weren, blijkt uit onderzoek van The Intercept. Deze zijn niet bevorderlijk voor een groter publiek. Ook politieke uitingen worden verbannen van het Chinese sociale medium, dat banden heeft met de Communistische Partij.

De makers van TikTok, de Chinese app voor het delen van video’s met honderden miljoenen gebruikers wereldwijd, lieten hun moderatoren berichten verwijderen van gebruikers die er te lelijk, te arm of te zichtbaar gehandicapt uitzagen, zo valt te lezen in interne documenten die The Intercept in handen heeft gekregen. Daaruit blijkt verder dat politieke uitspraken in livestreams gecensureerd moesten worden: gebruikers die de ‘nationale eer’ schonden of video’s streamden over ‘staatsorganen zoals de politie’ moesten van het platform worden verbannen. Uit deze Chinese richtlijnen en gesprekken over TikToks censuurbeleid met enkele ingewijden komen nieuwe feiten aan het licht over de strikte regels die achthonderd miljoen gebruikers krijgen opgelegd door dit bedrijf dat zich opwerpt als een boegbeeld van vrije expressie en creativiteit. Zo blijkt TikTok enerzijds de verspreiding van bepaalde content te stimuleren in het streven naar exponentiële groei à la Silicon Valley, en anderzijds kritische politieke geluiden te onderdrukken op de botte manier die in thuisland China gemeengoed is.

Naast livestreams van militaire activiteiten en natuurrampen, filmpjes waarin ‘ambtenaren worden belasterd’ en ander materiaal dat beschouwd kan worden als een bedreiging voor de ‘nationale veiligheid’ zijn op TikTok ook filmpjes verwijderd met beelden van armoede op het platteland, sloppenwijken, bierbuiken en scheve gezichten. In één document worden moderatoren zelfs geïnstrueerd om goed te kijken of er in de interieurs geen barsten in muren en ‘afzichtelijke versieringen’ te zien zijn: zulke filmpjes worden bestraft doordat de algoritmes ze aan minder medegebruikers presenteren.

The Intercept en The Intercept Brasil publiceerden twee interne TikTok-documenten met dit soort richtlijnen voor moderatoren. In het ene wordt uitgelegd welke ideologische inhoud ze uit livestreams moeten weren, het andere beschrijft de algoritmische straffen voor arme en onaantrekkelijke gebruikers. De teksten lijken oorspronkelijk in het Chinees te zijn geschreven en daarna – soms nogal krukkig – in het Engels vertaald voor gebruik in de diverse internationale vestigingen van het bedrijf. TikTok is eigendom van het in 2012 opgerichte ByteDance, het moederbedrijf in Beijing van een hele reeks populaire sites en sociale media – een soort Chinees Facebook. ByteDance ligt al onder een vergrootglas bij de Amerikaanse overheid vanwege zijn banden met China’s Communistische Partij en de talrijke berichten dat de censuur in de app naadloos samenvalt met die van de Chinese overheid. De Amerikaanse senatoren Chuck Schumer en Josh Hawley hebben ervoor geijverd om het gebruik van TikTok door Amerikaans overheidspersoneel aan banden te leggen, omdat de app een bedreiging zou vormen voor Amerika’s nationale veiligheid.

‘Te veel rimpels’

TikToks woordvoerder Josh Gartner laat weten dat de richtlijnen voor livestreams die wij hebben ingezien ‘niet meer in gebruik zijn en in sommige gevallen zelfs nooit in gebruik zijn geweest’, maar wil daarover niet nader in detail treden. En wat betreft de voorschriften over het tegengaan van de verspreiding van filmpjes met gebruikers die er onaantrekkelijk, gehandicapt of armoedig uitzien, dat waren volgens hem ‘oude en grofmazige pogingen om iets tegen pesten te doen die inmiddels achterhaald zijn en dat al waren toen ze bij The Intercept belandden.’ Maar volgens onze bronnen waren beide documenten met richtlijnen in ieder geval eind 2019 in gebruik en is het document met het livestreambeleid zelfs pas in 2019 geschreven. Gartner leg niet uit waarom er in een document dat bedoeld zou zijn om ‘iets tegen pesten te doen’ nergens het woord pesten voorkomt, en waarom er wel een expliciete rechtvaardiging in staat van de noodzaak om meer gebruikers te trekken, niet om ze ergens tegen te beschermen.

Eén document bevat een hele waslijst aan uiterlijke kenmerken van zowel gebruikers als hun omgeving die zo onappetijtelijk worden geacht dat deze video’s niet mogen belanden in het ‘Voor jou’-gedeelte van de app, waar TikTok-filmpjes op basis van geheime criteria aan een enorm publiek worden gepresenteerd. Wat ervoor nodig is om een plekje in die vitrine te bemachtigen blijft een mysterie, maar het document maakt wel duidelijk dat er weinig voor nodig is om eruit te worden verbannen. Allemaal met als argument dat uploads van onaantrekkelijke, arme of anderszins ongewenste gebruikers van negatieve invloed kunnen zijn op ‘het directe behoud van nieuwe gebruikers’. Dat geldt vooral, zo wordt benadrukt, bij filmpjes waarin de gebruiker ‘praktisch het enige onderwerp is. Als de persoon of de omgeving waar de beelden zijn gemaakt er niet mooi uitziet, is het veel minder aantrekkelijk, niet de moeite waard om te worden aanbevolen aan nieuwe gebruikers.’ Er wordt expliciet gezegd dat de moderatoren geen uploads moeten verspreiden die afkomstig zijn van gebruikers met aangeboren of anderszins onontkoombare gebreken. ‘Abnormale lichaamsvorm’, ‘lelijk gezicht’, dwerggroei, een ‘duidelijke bierbuik’, ‘te veel rimpels’, ‘oogaandoeningen’ en tal van andere eigenschappen van ‘lage kwaliteit’: het is allemaal genoeg om uit de algoritmische stroom te worden geknikkerd. Filmpjes die zijn gemaakt in ‘een sjofele en vervallen omgeving’, zoals ‘onder meer sloppenwijken, akkers op het platteland’ en ‘krotwoningen’ worden ook systematisch buiten beeld gehouden voor nieuwe gebruikers, al kan er volgens het document ’een uitzondering worden gemaakt voor mooie landschappen’.

Mensen met overgewicht, gehandicapten en lhbt’ers zijn slecht vindbaar op TikTok

Moderatoren worden ook geïnstrueerd om bij zelfgemaakte filmpjes van ‘niet nadrukkelijk armoedige personen’ extra goed te letten op de aanwezigheid van zichtbare tekenen van armoede zoals ‘een barst in de muur’ of ‘oude en afzichtelijke versieringen’. Het minste teken van verval in het interieur of een glimp van scheve tanden is genoeg om het verschil te maken tussen wereldwijde distributie en relatieve onzichtbaarheid. En net als bij ‘lelijke’ mensen wordt hier als reden aangevoerd dat TikTok een positieve uitstraling moet hebben om nieuwe gebruikers aan te trekken en vast te houden: ‘Een dergelijke omgeving is niet zo geschikt voor nieuwe gebruikers, want minder mooi en aantrekkelijk.’ Uit angst om voortijdig op de grote mestvaalt van afgedankte apps te belanden zijn nieuwe socialemediaplatforms gefixeerd op het vasthouden van hun stijgende lijn. Groei en behoud van nieuwe gebruikers heeft vaak de hoogste prioriteit, maar het publiek krijgt zelden inzicht in de agressieve manier waarop die groei wordt bevochten.

Het is niet duidelijk hoe wijdverbreid deze censuur bij TikTok is. Gartner zegt dat ‘de genoemde voorschriften identiek zijn aan of sterk lijken op de voorschriften’ die in december op het Duitse blog Netzpolitik werden aangehaald in een verhaal over de manier waarop TikTok filmpjes van mensen met overgewicht, gehandicapten en lhbt’ers minder goed vindbaar maakt. Volgens hem betrof het oude pogingen ’om iets tegen pesten te doen.’ Maar de documenten die wij in handen kregen, bevatten nog veel meer voorschriften dan die waarover al op Netzpolitik is bericht, zoals voor het censureren van arme, oude en ‘lelijke’ gebruikers.

Niet alleen houdt TikTok de content van onaantrekkelijke gebruikers strategisch buiten beeld, het oefent achter gesloten deuren ook invloed uit op populaire gebruikers, zo hoorden we van een ingewijde: ‘Medewerkers die direct contact hadden met influencers en officiële contentmakers beleggen videovergaderingen over de invoering van “veiligheidsregels”, om de kans te verkleinen dat er filmpjes worden gemaakt die ingaan tegen de ideeën van [ByteDance].’ Volgens deze persoon vonden op hun kantoor geregeld videovergaderingen plaats waarin deze medewerkers en iemand uit het ‘veiligheidsteam’ een selecte groep TikTok influencers vooraf waarschuwden over veranderingen in het contentbeleid van de app. Dit om te voorkomen dat deze prominente gebruikers in hun op twee miljard telefoons verspreide filmpjes de nieuwe regels zouden overtreden. Op vragen over dit overleg gaat Gartner niet in.

Censuur

In het ‘Voor jou’-gedeelte van de app probeert TikTok vooral te voorkomen dat sommige content te populair wordt. Een tweede document dat wij in handen kregen, betreft echte censuur: het bevat regels voor het regelrecht verwijderen van content uit livestreams. En die regels beperken zich niet tot het gebruikelijke Chinese verbod op verwijzingen naar bijvoorbeeld het Tiananmenplein [hier vond in 1989 een groot studentenprotest plaats dat met geweld werd neergeslagen] of de Falun Gong [een religieuze groepering die sinds 1999 is verboden]. Ze zijn ruim genoeg gesteld om er allerlei politieke uitspraken als lasterlijk of gevaarlijk mee te bestempelen. Zo zijn er regels op grond waarvan je uitlatingen kunt verwijderen over een hele keur aan thema’s die de autoriteiten niet bevallen: ‘belastering van ambtenaren en politieke of religieuze leiders’ en zelfs van ‘de familie van verwante leiders’ kan leiden tot onderbreking van een livestream en verbanning voor een dag. Streams die in de ogen van moderatoren een gevaar vormen voor ‘de nationale veiligheid’ of zelfs maar voor ‘de nationale eer en het landsbelang’ kunnen leiden tot permanente verbanning, evenals het ‘zwartmaken of verdraaien van de geschiedenis van ons eigen land of andere landen’, waarbij de ‘incidenten op het Tiananmenplein’ als een van slechts drie mogelijke voorbeelden wordt genoemd. Een ‘persoonlijke livestream over staatsorganen als de politie, het leger enzovoort’ kan drie dagen uit de lucht worden gehaald, en wie melding maakt van activiteiten van leger of politie, wordt voor die dag geschorst (wees gewaarschuwd, betogers in spe).

Wie kritiek levert op TikTok, kan drie dagen verbannen worden

Gartner gaat niet in op de vraag of de huidige reglementen nog steeds dezelfde geest ademen, zij het wellicht in andere bewoordingen. Of er bijvoorbeeld nog steeds een verbod geldt op het ‘schenden van de nationale eer’ of het melden van politieactiviteiten. ‘Zoals alle platforms hebben wij voorschriften ter bescherming van onze gebruikers en de nationale veiligheid, zoals een verbod op accounts die haat zaaien of terrorisme prediken, zoals vastgelegd in onze richtlijnen,’ mailt Gartner. Maar volgens het document staan er strenge straffen op sommige politieke uitlatingen, terwijl racistische livestreams op een mildere behandeling kunnen rekenen. Wie in een stream ‘individuen of groepen beschimpt of vernedert vanwege eigenschappen zoals invaliditeit, geslacht, huidskleur, seksuele geaardheid, nationaliteit, etnische afkomst of geloof’, kan een maand verbannen worden. Daarna mag die gebruiker weer verder streamen. Maar wie in een livestream kritiek levert op TikTok, kan drie dagen verbannen worden, en wie reclame maakt voor TikToks concurrenten kan op een permanente verbanning rekenen.

‘Praten over het thema voortplanting’ is volgens de richtlijnen verboden

Uit andere documenten die wij in handen kregen, blijkt dat TikTok de content op het platform niet alleen beïnvloedt door filmpjes te censureren en gebruikers onzichtbaar te maken, maar ook door feeds te vullen met content van ‘schaduwaccounts’ van medewerkers die zich voordoen als gewone gebruikers. Interne richtlijnen wekken de indruk dat medewerkers van ByteDance Instagram afstruinen op zoek naar populaire onderwerpen, daarvan video’s downloaden en die vervolgens op TikTok delen, om zo voor een gestage stroom aantrekkelijke content te zorgen. Medewerkers die ‘leuk uitziende’ filmpjes op de app moeten zetten, krijgen in die documenten bijvoorbeeld het advies om te zoeken naar Instagram-berichten met de tag #BeachGirl. Gevraagd naar deze praktijken en de instructies daarvoor in de richtlijnen zegt Gartner alleen: ‘ook na grondig zoeken hebben we deze teksten nergens in de richtlijnen voor moderatoren of in het Trust and Safety-beleid teruggevonden’.

‘Vocale vulgariteit’

Terwijl TikTok-medewerkers het internet afspeuren naar beelden van ‘beach girls’, kunnen de livestreams en video’s van vrouwen die zich niet aan TikToks geheime fatsoensregels houden ineens van het platform worden verwijderd, zo blijkt ook uit de documenten. Livestreams van gebruikers in bikini of badpak op andere locaties dan een ‘strand of zwemgelegenheid’ zijn goed voor een week verbanning en accounts die ‘de contouren van vrouwelijke tepels’ tonen, kunnen ‘voorgoed’ worden verwijderd. De zedelijkheidsnormen voor livestreams gelden zelfs voor artistieke uitingen: ‘Het zingen of spelen van muziek met pornografische strekking, seksuele toespelingen enzovoort’ is verboden, evenals ‘praten over het thema voortplanting’ – dat vindt TikTok allemaal ‘vocale vulgariteit’. ‘TikTok is bij livestreams inderdaad bijzonder alert op het weren van seksuele content,’ laat Gartner ons weten.

De documenten bevatten aanwijzingen dat deze normen voor livestreams van het bedrijf afkomstig zijn uit China. Eén Engelstalig document bevat krukkige formuleringen die aan een machinevertaling doen denken en verwijzingen naar een in het bestand ingesloten Chinees lettertype; in een ander document staan tussen het Engels ook nog hele lappen Chinese tekst. De richtlijnen voor livestreams bevatten een opsomming van 64 mogelijke overtredingen verdeeld over 13 categorieën, met specifieke straffen voor elke overtreding. De categorieën variëren van duidelijk en begrijpelijk (‘ongepast puberaal gedrag’) tot preuts en curieus: wie ‘met opzet meer dan tweemaal een middelvinger opsteekt’ wordt meteen uit de lucht gehaald en een dag verbannen, en het niet nader gedefinieerde ‘verstoren van de nationale eenheid’ levert permanente verbanning op.

Er is in het recente verleden al eerder ophef geweest over de politieke richtlijnen van TikTok. In september 2019 schreef The Guardian over vergelijkbare documenten waarin het bedrijf ‘zijn moderatoren opdraagt video’s te censureren waarin wordt verwezen naar het Tiananmenplein, een onafhankelijk Tibet of de verboden religieuze groepering Falun Gong’, naast andere dictatuurvriendelijke censuurmaatregelen. ByteDance wilde tegenover The Guardian niet bevestigen dat TikTok het buitenlandbeleid van de Chinese overheid uitvoert, maar ze erkenden wel dat ze ‘in de begindagen op botte wijze probeerden conflicten op het platform te voorkomen, en volgens onze richtlijnen voor contentbeheer konden er straffen worden uitgedeeld voor uitingen die conflicten kunnen opzwepen, bijvoorbeeld tussen religieuze of etnische groeperingen in tal van regio’s overal ter wereld. (…) De desbetreffende richtlijnen zijn inmiddels achterhaald en niet meer in gebruik.’

Geheime voorschriften

Veel gebruikers die verbannen worden, wordt het waarschijnlijk nooit duidelijk welke regel ze hebben overtreden, want het bestaan en de inhoud van deze fijnmazige voorschriften is altijd stilgehouden. TikTok rekent zijn gebruikers af op geheime voorschriften. Achter de openbare communityrichtlijnen, een verzameling generieke voorschriften zoals die van elk ander sociaal platform, schuilen uitgebreide documenten met de eigenlijke regels, waarin moderatoren heel precies wordt voorgeschreven wat ze wel en niet moeten verwijderen. De laagbetaalde medewerkers die dat werk doen hebben doorgaans net zo weinig inspraak in de totstandkoming van die regels als de gebruikers. Hun sisyfusarbeid bestaat simpelweg uit het uitvoeren van de voorschriften, waarvan ze geregeld zonder nadere tekst en uitleg onaangekondigde updates op hun bord krijgen. Gartner laat weten dat dit werk wordt uitgevoerd door ‘een mix’ van vaste medewerkers en freelancers: ‘Dit jaar hebben we in Californië, Dublin en Singapore Trust and Safety-hubs opgezet die toezien op de ontwikkeling en uitvoering van onze moderatievoorschriften, allemaal onder leiding van deskundige mensen met grote ervaring op dit gebied.’ Hij gaat niet in op de vraag waarom de door ons bemachtigde documenten oorspronkelijk in het Chinees waren geschreven.

Een mix van Amerikaanse preutsheid en Chinees autoritarisme

Van meerdere bronnen binnen TikTok, die alleen anoniem met ons willen praten uit angst voor professionele of juridische represailles, horen we dat het hoofdkantoor van ByteDance in Beijing het laatste woord heeft over alle activiteiten. De steeds wisselende voorschriften voor wat gecensureerd of gepromoot moet worden, komen volgens hen uit de koker van de Chinese directie en worden van daaruit over de twaalf internationale vestigingen verspreid en in onbeholpen Engels vertaald. Dat resulteert in richtlijnen die een mix zijn van de welbekende Amerikaanse preutsheid en Chinees autoritarisme.

De livestreamfunctie wordt momenteel nog uitgerold onder de gebruikers, die alleen op de gepubliceerde communityrichtlijnen kunnen afgaan om een idee te krijgen van wat het bedrijf toestaat en wat niet. Die tekst is een mengeling van vaagheid en reclameclichés (‘De missie van TikTok is om creativiteit te stimuleren en plezier te brengen.’ ‘We verwijderen alle aanstootgevende uitingen.’ ‘Wij staan geen content toe die seksueel expliciet is of over seksuele bevrediging gaat.’) en is veel te summier voor enige nuance. In de communityrichtlijnen is ook geen spoor te vinden van de voorschriften die wij in handen kregen en die – achter de schermen uitgevoerd door onzichtbare moderatoren – een bedreiging vormen voor de vrijheid van meningsuiting. Grote delen van de wereldbevolking worden zo gecensureerd op grond van genetische, economische en arbitraire zedelijke normen. De vraag wie er voor honderden miljoenen mensen in allerlei culturen bepaalt wat ‘lelijk’ is, wat een ‘afzichtelijk’ interieur is en hoeveel rimpels ‘te veel rimpels’ zijn, wordt nergens beantwoord – ook niet in die interne documenten. De TikTok-fans hebben alleen de communityrichtlijnen om op af te gaan, terwijl de eigenlijke regels voortdurend worden bijgewerkt en herschreven – of glashard ontkend bij monde van de bedrijfswoordvoerder.

Recent verschenen
Een remedie tegen navelstaren?
Schrijf je in voor onze nieuwsbrief.
Onze nieuwsbrief wordt wekelijks verzonden.
inschrijven

360 is jarig en trakteert!

Schrijf je in voor de nieuwsbrief en krijg 3 maanden gratis toegang tot 360 online.