Prebunk-professor Sander van der Linden: “We vertellen niet wat juist of onjuist is. Dat laten we over aan de factcheckers.”

Hoe verleid je mensen tot geloof in een wereldbeeld waarin een satanische schaduwelite zich vergrijpt aan kleine kinderen? Hoe verkoop je een verhaal waarin coronavaccins onderdeel zijn van een sinister plan om de wereldbevolking te decimeren? Wie het antwoord wil weten kan het beste te rade gaan bij de organisatoren van Russische beïnvloedingscampagnes, redacteuren van complotsites of mensen achter trolaccounts op X. Zij weten uit ervaring welke narratieven, woordkeuze en retorische strategieën effectief zijn. Sterker: ze gebruiken allemaal dezelfde ingrediënten, omdat die aandacht trekken, veel worden gedeeld en zo vaak een groot bereik krijgen op sociale media.

Sander van der Linden beschrijft deze tactieken in een recent verschenen boek: Foolproof – Why Misinformation Infects Our Minds and How to Build Immunity. De Nederlandse hoogleraar sociale psychologie aan de Universiteit van Cambridge komt op zes basistactieken, die hij de six degrees of manipulation noemt: polarisatie, emoties, impersonatie, belasteren, complotten en trollen.

In de dagelijkse praktijk van misleiding worden die tactieken vaak gecombineerd. Zo figureert in complottheorieën vrijwel altijd moreel laakbaar gedrag, zoals kindermisbruik of moord (emoties) in combinatie met een zogenaamde expert of getuige (impersonatie) die een duister plan van de autoriteiten onthult. Koppen op de extreemrechtse complotsite Frontnieuws laten zien hoe dat werkt.

‘Regering vertelde artsen om patiënten te DODEN vlak voor eerste COVID lockdown: “Ik keek toe terwijl dit gebeurde” ’

‘Woke’ Google verdedigt pedofielen: Het ‘labelen’ van kinderverkrachters als ‘slecht’ is ‘onjuist en schadelijk.’

“Bij de ene manipulatietechniek speelt taal een duidelijker rol dan bij de andere”, zegt Van der Linden. “Polarisatie draait bijvoorbeeld veel meer om retorica en woordkeuze dan impersonatie. Naast de zes basiscategorieën kun je nog verder inzoomen op tactieken die bijvoorbeeld bij polarisatie worden gebruikt, zoals ad hominem argumenten, het aanwijzen van een zondebok of het creëren van valse tegenstellingen.”

Van der Lindens belangstelling gaat verder dan het beschrijven van de gereedschapskist van complotdenkers of online opruiers. Hij wil de opgedane inzichten inzetten om mensen bewust te maken van risico’s van manipulatie. Van der Lindens onderzoek is kortom gericht op prebunken: training of educatie die weerbaarder maakt tegen manipulatie en desinformatie.

Van der Linden gebruikt graag de vaccinatiemetafoor, want bij vaccinatie leidt blootstelling aan een verzwakte ziekteverwekker ook tot verhoogde weerstand. “Je toont mensen een verzwakte vorm van een manipulatiescenario bijvoorbeeld in een clip uit Star Wars, waarin een retorische truc wordt gebruikt zoals een valse tegenstelling. Dat is grappig en dan landt dat idee makkelijker. Vervolgens tonen we echte voorbeelden, zoals ‘Ben je pro-Israël, dan ben anti-Palestina’. Dan valt het kwartje sneller: zo ziet een extreme tegenstelling eruit.”

Prebunken draait vooral om het sensibiliseren op stijlkenmerken. Dat geldt ook voor prebunking met de online game Slechtnieuws (www.slechtnieuws.nl), die Van der Linden samen met collega’s heeft  ontwikkeld. Op die site kunnen gebruikers zonder instructie direct in de huid kruipen van een online manipulator. Ze worden uitgedaagd om ondeugend te zijn, want wie goed manipuleert scoort beter. “We leggen bewust weinig uit, want dat wordt al snel paternalistisch. Het is meer een spel of een avontuur, zonder dat je veel vertelt wat precies de bedoeling is.” Na het spelen van zulke games herkennen gebruikers beter de manipulatietechnieken in koppen van websites of in posts op sociale media, blijkt uit onderzoek van de groep van Van der Linden.

Deze aanpak levert volgens Van der Linden interessante discussies met collega-wetenschappers, want veel retorische technieken worden ook gebruikt in krantenkoppen of politieke debatten. “Als je mensen aanleert drogrederingen te herkennen, gaan ze dan niet overal desinformatie zien? Het wordt tenslotte niet exclusief door sinistere manipulatoren gebruikt. Ik zie dat bezwaar niet. We trainen mensen om logische redeneerfouten te herkennen, en daar kun je denk ik alleen maar baat bij hebben. Het is goed als je ook een valse tegenstelling in een politiek debat op televisie kunt herkennen.”

Van der Linden heeft verschillende onderzoeken gedaan in samenwerking met Google, onder meer naar het effect van korte prebunk-video’s op Youtube, op de plek waar normaal gesproken advertenties worden getoond. Die vorm bereikt meer mensen dan een game, en past ook beter bij de realiteit van de dagelijkse mediaconsumptie. “We lieten een prebunk zien, die op een later moment werd gevolgd door een advertentie met multiple choice test. Dan zien we ook consistente verschillen met de controlegroep, want het merendeel is na de prebunk beter geworden in het herkennen van manipulatietactieken.”

Het effect van prebunken hangt af van de experimentele omstandigheden: in een medialab zijn mensen geconcentreerder dan wanneer ze in de trein surfen op hun telefoon. “Hoe dichter je bij de realiteit komt, des kleiner het effect is”, zegt Van der Linden. “In het lab zien we dat de herkenningsvaardigheid met 70 à 80 procent omhoog gaat, maar als we social media posts simuleren is dat zo’n 25 à 30 procent, en in de realiteit van Youtube haal je ongeveer 10 à 12 procent verbetering. Dat vonden we in eerste instantie teleurstellend, maar in gesprek met socialemediabedrijven ontdekten we dat je dat resultaat in de context van online video moet beoordelen. Als bedrijven miljoenen besteden aan Youtube-advertenties, dan zijn ze al blij met 2 procent meer merkherkenning. Voordeel is ook dat je prebunk-video’s aan miljoenen mensen kunt laten zien, en dan tikt die 10 procent toch aan.”

Prebunken volgt een andere strategie dan factchecken, waarbij systematisch een verklaring, bewering of argument tegen het licht wordt gehouden en beoordeeld, zoals ‘covid-vaccins veroorzaken miskramen’. Factcheckers richten zich daarbij op de feiten, maar bij prebunken speelt dat een kleinere rol. “Wij leren mensen technieken herkennen, zodat ze een mening kunnen vormen over hoe betrouwbaar iets is. Maar we vertellen niet wat juist of onjuist is. Dat laten we over aan de factcheckers.”

Die twee benaderingen – prebunken op vorm versus factchecken op inhoud – zijn voer voor discussie, merkt Van der Linden. “Sommige filosofen en ook factcheckers staan op het standpunt dat je eigenlijk niks over de wereld kunt zeggen zonder kennis van de inhoud en de context. Dat theoretische standpunt waardeer ik, maar ik ben een experimentele wetenschapper en empirisch onderzoek laat zien dat dat niet zo is. Misleidende retoriek heeft gewoon specifieke kenmerken die je kunt leren herkennen.”

Natuurlijk is context belangrijk voor het kunnen interpreteren en duiden van feiten en uitspraken, zegt Van der Linden, maar inhoudelijke kennis is geen voorwaarde om desinformatie te signaleren. “Je kunt met machine learning inmiddels taalmodellen bouwen die 80 procent accuraat desinformatie kunnen identificeren, uitsluitend op basis van de woordkeuze en emoties in een tekst. Het zijn gewoon vaste patronen. Dat sluit ook aan bij ons beeld van de praktijk: we hebben mensen geïnterviewd die professioneel misleiden zoals Russische trollen, en die gebruiken allemaal dezelfde tools. Prebunken draait niet voor niets om voorspelbaarheid; je vaccineert mensen tegen technieken die vaak worden herhaald.”