Hoe houd je het online veilig en opbouwend? Het moeilijke werk van moderatoren

Jereton-Diquan Lauwerends (30) heeft online de nodige omzwervingen gemaakt. De Amsterdammer heeft op sociale media lol gehad en steun ervaren. Hen maakte er vrienden en vond er werk. Lauwerends was drie jaar als moderator in dienst van TikTok. „Wist je dat zwarte mensen als eerste begonnen met dansen op TikTok?”, vraagt hen terloops.

Een moderator heeft als taak posts te beoordelen die mogelijk tegen de regels van een onlineplatform zijn. Waar nodig blokkeert hij berichten van gebruikers, of zelfs hele accounts. Dat is complex werk, dat grenst aan censuur en wetshandhaving. Goed modereren is een kunst, legt Lauwerends uit. Vat anti-zwartheid en misogynie maar eens in een algoritme dat lelijkheid uit feeds filtert en tegelijk creatieve spot daarover laat staan.  

Lauwerends (online beter bekend als JD) heeft als zwarte queer persoon ook meegemaakt hoe hard en lelijk het er online aan toe kan gaan. Minderheden ervaren dat sowieso het sterkst. Zwarte vrouwen hebben online bijvoorbeeld bovengemiddeld veel last van wraakpornobeelden. „De moderatiesystemen op mainstream platformen zijn niet ingesteld op de meest gemarginaliseerden”, zegt hen. „Er is een cultuur van acceptatie van gewelddadige content.”

Door die ervaringen ontstaan al jaren subculturen op sociale media, waarbij gelijkgestemden elkaar opzoeken. Dat doen ze bijvoorbeeld door dezelfde hashtags te gebruiken. En natuurlijk door elkaar te volgen. Zo was er – voor de overname door Elon Musk – het zeer levendige ‘BlackTwitter’. En er bestaat BlackThreads op Threads. Dat is een product van het bedrijf Meta dat in de VS populairder is dan hier.

„In de zwarte gemeenschap is een grote behoefte om bij elkaar te zitten en cultuur met elkaar te delen”, zegt JD. Hen doet dat zelf sinds 2024 op Blacksky. Dat is technisch hetzelfde als het bekendere Bluesky (en het staat ermee in verband), maar heeft andere gedragsregels en filters. Dat is bepalend voor de sfeer. Hierdoor worden de inmiddels drie miljoen gebruikers bijvoorbeeld minder geconfronteerd met racistische uitingen dan op X, TikTok, Instagram – en ook op Bluesky.

Geen ongewenste inhoud

JD is inmiddels in dienst van Blacksky, na er een tijd als vrijwilliger voor te hebben gewerkt. Hen leidt het moderatieteam van achttien mensen, van wie drie in dienst. Dat kan posts tegenhouden of van labels voorzien, op eigen initiatief of na waarschuwingen van gebruikers. Ook AI-content krijgt waar mogelijk een label. Blacksky-gebruikers kunnen op die labels filteren, zodat ze geen ongewenste inhoud te zien krijgen. De labels zijn een hulpmiddel, geen oordeel, legt JD uit. „Als jouw post een label krijgt, betekent het dus niet ‘dat je gestraft bent’, wel dat je iets gepost hebt dat een ander kan kwetsen.”

In de kern is dit ook hoe moderatie werkt op grote onlineplatformen als X, Facebook, Instagram, TikTok en Snapchat. Alleen gebeurt het daar grotendeels geautomatiseerd. En met behulp van ondoorzichtige algoritmen.

Blacksky is gebouwd op open software en maakt deel uit van een groeiend universum van open sociale media, waar ook NRC mee experimenteert. De werking daarvan laat zich vergelijken met e-mail. Wereldwijd gebruiken mensen verschillende e-mailservers (denk aan: KPN, Ziggo, Gmail, Soverin, Proton). Toch komen mails aan. Dat komt doordat die servers dezelfde technische taal spreken, het protocol. Zo werkt dat met open socials ook.

De mogelijkheden om te filteren en op maat te modereren zijn op de open sociale media vele malen groter dan op de gecentraliseerde platformen. Die laatste verdienen hun geld door de aandacht van gebruikers vast te houden. JD: „Ik vind het heel prettig dat we online keuzes kunnen maken over hoe we gemodereerd en beschermd willen worden. Mensen die Blacksky’s moderatie te woke vinden, gebruiken die niet.”

Versplinterd in gemeenschappen

De ontwikkeling van Blacksky laat nog iets zien wat relevant is voor NRC en onze zoektocht naar mogelijkheden om online contact met lezers te onderhouden: de digitale wereld is versplinterd in veel verschillende online gemeenschappen.

Vaak lijkt het alsof er één groot digitaal dorpsplein is voor het mondiale gesprek van de dag. Maar dat is niet wat de meeste mensen online bezighoudt. Ze wijken uit naar plekken waar ze zich veilig genoeg voelen om een gesprek te voeren met onbekenden.

Dat is al jaren zo. Overal worden communities (gemeenschappen) gevormd. Denk aan grote kanalen op Telegram, Discord en binnen WhatsApp. Reddit telt wereldwijd ruim honderdduizend actieve online fora, die subreddits worden genoemd.

Het Chinese bedrijf achter TikTok publiceert een jaarlijkse trendrapport voor adverteerders. Daarin noemt het „#lockin” een van de trends van dit jaar. „Van studiegewoonten tot fitnessdoelen: het publiek omarmt een ‘lock-in’-mentaliteit – waarbij men zich publiekelijk vastlegt en het traject deelt met hechte groepen die elkaar bevestigen, motiveren en verantwoordelijk houden.”

Blijkbaar ontbreekt een lineaire beweging naar steeds grotere gecentraliseerde onlineplatformen. In de jaren tachtig, de begindagen van internet, voerde je onlinegesprekken op Usenet. Daarna abonneerden mensen zich op een mailinglist, al naar gelang het onderwerp. De paar jaar waarin het voelde alsof Twitter een dorpsplein was voor de hele wereld, waren wellicht een uitzondering. Ze behoren in ieder geval tot het verleden.

Op open sociale media komt die decentrale beweging het meest tot zijn recht, want het past bij de onderliggende techniek. Daar beginnen groepen een eigen server. Vanaf die server kúnnen leden van die groepen met mensen op servers wereldwijd praten. Maar de meeste gesprekken zijn onderling. Blacksky is zo’n server. NRC heeft er sinds deze week ook een.

Is NRC een gemeenschap?

Nieuwsredacties als die van NRC zijn traditioneel gericht op massabereik en zichtbaarheid. Ze gebruiken sociale media nog vooral om al gemaakte artikelen verder te verspreiden en om zichtbaar en relevant te blijven. Gebruik van de grote platformen (Instagram, Tiktok, YouTube, Facebook) betekent ook dat ze minder zelf hoeven te modereren. Dat scheelt arbeidskrachten, die NRC liever inzet voor journalistiek onderzoek.

Maar die strategie is achterhaald. (Nieuws)media onderscheiden zich tegenwoordig vooral met authentieke eigen verslaggeving. En door de banden met hun publiek aan te halen, aldus een recente analyse, de Future Newsrooms Study van de Financial Times (FT).

Door AI wordt bovendien zoveel content gegenereerd dat iedereen erin verzuipt. Het heeft niet zoveel zin daar nog meer aan toe te voegen. Des te meer loont het tijd te steken in betrouwbare verslaggeving, vertrouwensrelaties en hechtere gemeenschappen tussen publiek en journalisten, staat in hetzelfde FT-rapport.

Dat sluit aan bij de nog zeer prille ervaringen van NRC met open sociale media en de eigen server. Voegt het iets toe als we pogen daar een soort ‘Twitter light’ van te maken, vol debat met honderdduizenden deelnemers tegelijk over het gesprek van de dag? Het is sowieso een illusie dat je met een massa een goed gesprek kan voeren over complexe onderwerpen die nuance behoeven.

Dan is het realistischer en leuker de NRC-server te gebruiken als ontmoetingsplek. Op deze online locatie kunnen journalisten en lezers van NRC gemakkelijk met elkaar in gesprek raken, als ze dat willen. Deze ‘NRC-planeet in aanbouw’ staat sinds kort op nrc.social. Redacteuren die er een account op aanmaken, krijgen zo een herkenbare uitvalsbasis binnen het open sociale web. Vanaf onze server kunnen NRC’ers berichten uitwisselen met mensen die op andere servers een account hebben.

Daar testen we nu mee. Hoe werkt het precies en welke onderwerpen lenen zich voor gesprekken op dit platform? Welke afspraken hebben we nodig om ervoor te zorgen dat het inhoudelijk en beschaafd blijft op onze ‘planeet’? Wat voegen die onlinegesprekken toe aan onze journalistiek en hoeveel tijd kost de moderatie?

Moderatie

De vier moderatoren van de ‘subreddit’ r/AjaxAmsterdam zijn per dag een paar minuten kwijt aan handhaving, schrijft de oprichter van dit forum in reactie op vragen. „Ik kan het even snel doen als ik ergens moet wachten.” Gebruikers kunnen meldingen doen over berichten van anderen, waar de moderatoren dan een oordeel over vellen. Ze kunnen een bericht verwijderen, een gebruiker waarschuwen of blokkeren. „Op wedstrijddagen, tijdens het transferseizoen of wanneer bij Ajax onverwachts iets gebeurt, ben ik er wat langer mee bezig. Maar zelfs dan valt het reuze mee.”

Hij begon het forum in 2012. „Toen hadden we maar iets van 200 leden, inmiddels zo’n 75.000.” De regels zijn eenvoudig: berichten moeten iets met Ajax te maken hebben. En zaken als racisme en scheldpartijen zijn niet toegestaan. „Daarbinnen laten we vrij veel toe. De laatste keer dat ik iemand geband heb, kan ik me niet meer herinneren.”

Dat druist in tegen het clichébeeld van voetbalfans. „Mensen komen hier om nieuws te delen en te praten over Ajax. Niet om aandacht te trekken. Een paar schreeuwlelijken op Twitter of honderd man die vuurwerk afsteken, representeren niet de miljoenen fans die supporter van een club zijn.”

Toch wil hij niet met zijn naam in de krant. Die is wel bij de redactie bekend. Dat noemt hij „basisinternetveiligheid”. „Als mod [moderator] moet je soms een actie uitvoeren, zoals iemand tijdelijk verbannen of reacties verwijderen. Je weet niet hoe men hierop reageert, en iemand voor je deur hebben staan die verhaal wil halen, is ook niet wenselijk…”

De boodschap is een beetje dubbel: met ordehandhaving online maak je jezelf niet populair, maar als de regels duidelijk zijn en de gemeenschap niet te groot is, valt het mogelijk wel mee.

Online democratie

Hoe groter een platform wordt, hoe meer moderatie nodig is. Platformen van bedrijven die mondiaal miljoenen gebruikers hebben, hebben veel toezicht geautomatiseerd. Daardoor verdwijnen bijvoorbeeld de meeste oproepen tot geweld of kindermisbruikbeelden gelijk na plaatsing.

De algoritmen van deze bedrijven bepalen in sterke mate wat mensen te zien krijgen – en daarmee ook wat populair wordt. Ook Reddit gebruikt algoritmen om aanbevelingen te doen en inhoud te rangschikken. Daardoor krijgen sommige subreddits veel meer aandacht dan andere. Het bedrijf verkoopt de inhoud van de discussies aan AI-bedrijven om modellen mee te trainen.

De moderatoren van Blacksky, dat nu ook een app heeft, doen alles zelf. „Geen AI-tool”, benadrukt JD. Per dag krijgen ze zo’n 120 meldingen. Dat wil zeggen dat een gebruiker een post van een andere gebruiker ‘vlagt’, bijvoorbeeld omdat er geweld tegen zwarte mensen in zou worden gepromoot, of witte suprematie.

„We gebruiken onze voorouderlijke kennis om veilige werelden te creëren”, omschrijft JD het. „Vanuit het slavernijverleden, feminisme, zwart activisme. Het gevoel van mensen die elkaar veilig houden, inspireert het moderatiesysteem. Het is een systeem en netwerk van mensen die om elkaar geven. Daarvoor hoef je elkaar niet te kennen.”

Op Blacksky heerst vrij algemeen een afkeer van politiek, merkt JD. Wel is er een interne directe democratie, die draait om het beheer van deze onlinegemeenschap. Daarvoor bestaat een zogenoemde People’s Assembly Tool: mensen kunnen suggesties doen voor labels om berichten op te filteren en erover stemmen. Aan die stemrondes doen vaak zo’n 8.000 tot 10.000 mensen mee. „Heel veel mensen denken mee en dat is goed. Ik heb ook blinde vlekken.”

Het is vervolgens aan de gebruikers zelf om hun feed in te richten, hun filters in te stellen. Daarin verschillen ze behoorlijk, valt JD op. „Er zijn mensen die juist heel graag in gesprek gaan met racisten. Ik niet. Maar dat hoeft zo dus ook niet.”

---

Socialemediaserver voor NRC

Techredacteur Marloes de Koning probeert een eigen socialemediaserver voor NRC op te zetten. Lees hier op welke obstakels ze stuit.

Kies NRC als voorkeursbron