The Guardian heeft een enorm aantal handleidingen weten in te zien die een goed beeld geven van wat volgens Facebook onacceptabele content is. De moderators van de social media-gigant hebben richtlijnen over ongeveer alle onderwerpen en hoe ze er mee moeten omgaan in het eventueel verwijderen van ongewenste content op Facebook.
Terrorisme, pornografie, oproepen tot haat of geweld, racisme, het zit er allemaal bij. Er zijn zelfs richtlijnen voor kannibalisme en matchfixing!
Het is al niet makkelijk voor de moderators om hun werk te doen: ze hebben volgens berichtgeving slechts 10 seconden om hun beslissing te maken over alles dat ze zien. Facebook is te snel te hard gegroeid en dus is het bijna onmogelijk om de content nog onder controle te houden.
Daarnaast zit Facebook met een simpel uit te leggen maar moeilijker op te lossen probleem. De site heeft twee miljard gebruikers, verdeeld over de hele wereld. Om op zo’n vreselijk grote gebruikersgroep een consensus te krijgen over wat wel en wat niet kan is praktisch onmogelijk. De heel dunne lijn tussen satire en content die niet kan is een mooi voorbeeld daarvan, maar ook de verschillende sociale normen die gelden in de gebieden waar Facebook gebruikt wordt zorgen voor nogal wat hoofdbrekens.
Wat wel opvalt is dat (zoals je in de plaatjes die The Guardian maakte van de interne Facebook-documenten) het uiten van gewelddadige gevoelens vrij laks wordt aangepakt. Facebook zegt dat zo lang het niet heel specifiek over iemand gaat, gewelddadige uitingen als “als je niet ophoudt met zeiken laat ik je tong er uit snijden” ‘gewoon’ uitingen zijn van frustratie.
Ook met gewelddadige video’s zit het bedrijf in en hachelijke positie. Alles blokkeren zorgt er voor dat er geen bewijstzijn gecreëerd kan worden rondom gevoelige thema’s als kindermishandeling of dierenleed, maar de moderators moeten dezelfde content wel vlaggen als schokkend, zodat er niet zomaar op geklikt kan worden. En als iemand het verheerlijkt, moet het er wel af.
Honderden afwegingen per dag, elke tien seconden weer. Ik geef het je te doen. Geen wonder dat Facebook moeite heeft om genoeg moderators te vinden: niet alleen is het mentaal extreem belastend werk, je doet het ook nooit goed. Aan de andere kant: zolang Facebook heel veel geld verdient met wat er allemaal gepubliceerd wordt op de site, zijn ze toch uiteindelijk degenen die de orde moeten bewaren. Ook al is daar een handleiding met duizenden plaatjes voor nodig.
[Afbeeldingen © The Guardian]
