De Kumanovo-Connectie: Macedonische spam clans verdienen aan nepnieuws over moslims en migranten
18 januari 2019 |
Peter Burger
Coördinator van Nieuwscheckers. Universitair docent aan de Universiteit Leiden.
Maarten Schenk
Maarten Schenk is redacteur van Leadstories.com en ontwikkelaar van Trendolizer.

Een Macedonische militair blijkt een van de drijvende krachten achter een netwerk van nepnieuwssites die met haatzaaiende berichten over migranten en moslims miljoenen mensen bereikten. Samen met familie en vrienden verspreidt hij zijn berichten via Facebook en Twitter. Deels openlijk, deels met valse identiteiten. Achter de schermen bij de spam clans van Kumanovo.

Op 7 december plaatst Jony Smith, een Amerikaanse militair uit Newark, een bericht in de Facebookgroep Judge Jeanine Pirro Fans. Judge Jeanine is een voormalige rechter uit de VS, met een show op Fox News. Ze is populair bij Trump-aanhangers, de Facebookgroep heeft 53.000 leden. Jony’s bericht is afkomstig van de obscure site tvrtinfo.com. Het nieuws: een Britse geheim agent heeft op zijn sterfbed opgebiecht dat hij Prinses Diana heeft vermoord, op bevel van Prins Philip, de man van Elizabeth.

Jony Smith ‘zaait’ een bericht in een Facebook-groep voor Trump-aanhangers

Het bericht is fake: het is een verzinsel van de beruchte Amerikaanse site Yournewswire.com. De foto is uit 2010 en laat een patiënt zien in een Australisch ziekenhuis.Jony Smith is ook fake. Maar hij heeft wel echt connecties met het leger: ‘Jony Smith’ is een van de alter ego’s van Slagan Cago Bojkovski uit Kumanovo, die voor het Macedonische leger werkt of werkte, maar bijklust als bedrijfsleider van een nepnieuwsfabriek. Zijn Facebookpagina vermeldde tot een paar dagen geleden het leger als zijn werkgever en op zijn eigen profielfoto uit december draagt hij een camouflageuniform met een Macedonisch vlaggetje. Dezelfde foto gebruikt hij ook op een van zijn Twitteraccounts, @bslagjan.

Links Jony Smith, rechts Slagan Bojkovski

Tvrtinfo.com, de site waar ‘Jony Smith’ naar linkt, is deel van het netwerk van Macedonische pulp- en nepnieuwssites waar we al eerder over schreven. We wisten al dat ze hoaxes verspreidden met behulp van valse Twitter-accounts en dat ze een enorm publiek aanspraken: met slechts twee sites bereikten ze in twee weken een potentieel gehoor van 3,6 miljoen Facebookgebruikers.

Eén artikel haalde eind 2018 Buzzfeeds top-tien van succesvolste nepberichten op Facebook: ‘Muslim Figure: “We Must Have Pork-Free Menus Or We Will Leave U.S.” How Would You Respond This?’ Honderd procent fake, maar goed voor meer dan 630.000 reacties, shares en comments.

Inmiddels weten we dat de uitbaters sinds 2016 meer dan 70 sites hebben aangemaakt en daarmee miljoenen reacties, comments en shares op Facebook en retweets op Twitter hebben gegenereerd. 7,16 miljoen, om precies te zijn. (Voor meer over het bereik van dit netwerk: lees dit deel van ons dossier.)

Ter vergelijking: een groot Nederlands nieuwsmedium als Telegraaf.nl haalt in een jaar meer dan het dubbele engagement (15,7 miljoen) – maar heeft daar meer dan tien keer zoveel artikelen voor nodig en een grote, professionele redactie. Het Kumanovo-netwerk bestaat uit niet meer dan een handvol part-timende amateurs en een stuk of vijftien spammers die in verschillende perioden hielpen met de distributie op Facebook. Uiteraard scheelt het wel een heleboel schrijvers en redacteurs als je al je berichten gewoon steelt van andere websites.

Wie zitten er achter deze razend succesvolle onderneming? Het bleken niet de handige tieners die wereldberoemd werden door de onthullingen over Macedonisch nepnieuws uit 2016. De mensen achter deze pulp- en nepnieuwsbusiness zijn volwassenen met een baan, vaak bij de overheid, geholpen door familie en vrienden.

Een van Bojkovski’s (Facebook-)vrienden is Viktor Kolevski, eveneens uit Kumanovo, die de militaire academie in Skopje volgde en werkte als politie-inspecteur. Volgens zijn LinkedIn-profiel doet hij dat nog steeds, maar Kolevski liet ons weten dat hij inmiddels voor zichzelf is begonnen. Hij registreerde twee sites en pushte net als Bojkovski berichten in groepen van Trump-supporters. De twee hebben of hadden ook een zakelijke relatie: beiden registreerden een site die hetzelfde Google-advertentieaccount gebruikte, wat betekent dat de inkomsten in dezelfde portemonnee vloeiden.

Bojkovski en Kolevski zijn niet de enige Macedonische nepnieuwsexploitanten met militaire connecties: in februari 2018 onthulde een van ons al dat een ander netwerk van zeven sites gedreven werd door de officier Marjan Zlatanovski. Zlatanovski’s Facebookaccount verdween kort na de onthullingen maar ondertussen is een nieuw opgedoken met Cyrillische spelling in de vriendenlijst van Kolevski.

Zlatanovski werkte samen met zijn echtgenote Mare Krsteva. Dat partners meedoen, is geen toeval: in Macedonië is handel in fake nieuws een familiezaak.

Familiebedrijfjes

Het verdienmodel werkt – in een notendop – als volgt: op merendeels anoniem geregistreerde websites plaatsen de exploitanten opruiende clickbait die appelleert aan conservatieve Christenen, Trump-aanhangers, populisten, fans van samenzweringstheorieën of zelfs openlijke racisten. Vervolgens ‘zaaien’ ze met hulp van familie en vrienden het product op Twitter en Facebook. Onder hun eigen naam en met valse accounts. Zo lokken ze publiek naar hun webpagina’s. Clicks leveren geld op via de advertenties die Google daar vertoont. Zo simpel is het.

Ze verzinnen die berichten niet zelf, maar nemen ze grotendeels over van Engelstalige sites, variërend  van conservatieve nieuwsorganisaties als Fox News tot allerlei obscure blogs vol samenzweringstheorieën. We vermoeden dat sommige berichten zelfs meerdere keren na elkaar gestolen werden door sites in verschillende netwerken die leentje-buur speelden bij elkaar als ze merkten dat een bepaald bericht het goed deed bij iemand anders.

Dit valt af te leiden uit allerlei ‘mutaties’ die opdoken in varianten van dezelfde artikelen in de loop der tijd (ontbrekende woorden of paragrafen, onderschriften bij foto’s die plots deel gingen uitmaken van de tekst, afbeeldingen die verdwenen of vervangen werden, stukjes tekst die plots twee keer herhaald werden…). Vaak vormde dat voor het succes van de berichten geen enkel probleem.

Je hoeft geen whizz kid te zijn om dit allemaal uit te voeren. De meeste uitbaters in het Kumanovo-netwerk zijn – voor zover we kunnen opmaken uit hun persoonlijke socialemediaprofielen en -berichten – Macedoniërs van middelbare leeftijd zonder bijzondere kennis van internetmarketing. En hoewel hun felle propaganda voor Donald Trump anders doet vermoeden, is hun motief niet politiek: op Facebook houden ze business (pro-Trump pulp) en privé (familiebijeenkomsten, selfies, tegeltjeswijsheden, muziekvideo’s) strikt gescheiden. Het gaat om het geld.

Wat ook niet strookt met het stereotype van de handige adolescenten is het familiekarakter van deze bedrijfstak. Het fake Twitteraccount van ‘Moly Anderson’ (inmiddels door Twitter geschorst) had als profielfoto’s portretten van Slagan Bojkovski en zijn vrouw Natasa.

‘Moly Anderson’: fake account met een foto van Natasa en Slagan Bojkovski

Het gezicht van Natasa siert ook andere fake accounts, net als dat van een naast familielid van haar.

Ook andere relaties van de Bojkovski’s spammen in familieverband nepnieuwssites. Een vrouw uit Veles (de Macedonische stad die eind 2016 wereldberoemd werd als de bakermat van het nepnieuws) plugde met haar verwanten een van Slagans sites in Facebookgroepen als ‘VOTE TRUMP ONLY’ en ‘Swamp Drainer Disciples’, elk goed voor 30 a 40 duizend leden.

Toni en Mirjana Risteski uit Kumanovo, op Facebook bevriend met de Bojkovski’s, hadden hun eigen site unisharenews.com. Toni heeft de site (inmiddels offline) geregistreerd, Mirjana en hun dochter promootten hem. Mirjana deelde in 2017 in Facebookgroepen als ‘We Love President TRUMP’ en ‘THE TRUMPERS!!!’ volop clickbaitkoppen als ‘Liberal Feminist Takes In Muslim Refugee For The Night, Wakes Up To Horrifying Surprise In Her Bedroom Hours Later’.

In dezelfde kring treffen we ook een vrachtwagenchauffeur wiens tattoo ons uiteindelijk op het spoor zette van de hoofdverantwoordelijken (lees dat verhaal hier). Hij leverde onder zijn eigen naam ladingen pulp- en nepnieuws af op Facebook en dumpte zijn vrachtjes vermomd als ‘Jesica’ op Twitter. En hij was niet de enige fake Jesica die we ontmoetten.

68 Jessica’s en andere valse identiteiten

Op 3 januari 2019 post Jony Smith – die we inmiddels kennen als een sokpop van Slagan Bojkovski – een bericht van Ludinfo24.com in de Facebookgroep ‘Judge Jeanine Pirro Fans’ (53.000 leden). Eén minuut later zaait ene Ema Brown hetzelfde bericht in de groep ‘Deplorables for Trump’ (18.000 volgers) en weer een minuut later plaatst Lisa Sanders het in ‘Pauline Hanson’s One Nation’, een groep voor aanhangers van een rechts-populistische Australische politicus (23.000 leden). Ook Ema Brown en Lisa Sanders zijn sokpoppen van Slagan Bojkovski.

Ema Brown studeerde volgens haar Facebookpagina aan de universiteit van Skopje en ‘werkt bij Facebook’. Lisa Sanders is ‘zelfstandig’. Ema’s profielfoto is gestolen van de Servische zangeres Aleksandra Prijović, die van Lisa van de Macedonische zangeres Viktorija Loba.

Twee fake accounts die berichten van het Kumanovo-netwerk zaaien in Facebookgroepen

In de vriendenkring van Bojkovski & co. tellen we een stuk of vijftien van dit soort fake accounts. De helft is nog niet actief geweest: zij zitten als het ware in de wachtkamer. Dat ze verweven zijn met de echte leden van de Kumanovo-clan (ze zijn zelfs vrienden met minderjarige kinderen) maakt ze waarschijnlijk moeilijker te detecteren voor Facebook.

Toch lijken de recente maatregelen van Facebook wel effect te hebben: het afgelopen jaar is het gemiddelde bereik per bericht gekelderd (lees hier het verslag over de bereikcijfers). De nepnieuwsboeren uit Kumanovo zaaien daarom steeds intensiever ook op Twitter. En ze leren van hun fouten. Vorig jaar probeerden ze eerst om met een klein aantal valse accounts grote hoeveelheden volgers te werven en massa’s links te spammen. Met succes: de niet-bestaande Lori Coutler  verstuurde meer dan 500 tweets en verzamelde in drie maanden  11.000 volgers. Maar toen Twitter haar schorste, was dat bereik in een klap weg.

De nieuwe strategie: maak elke dag een aantal valse accounts aan, die niet meer dan een of twee handenvol tweets versturen en een beperkt aantal volgers werven, hoogstens een paar honderd. Zo verschenen sinds eind november 450 imaginaire vrouwen op Twitter, onder wie 68 Jessica’s en 28 Jesica’s (dit is de lijst). Ze verzamelden in anderhalve maand meer dan 33.000 volgers. Twitter heeft slechts tien van deze nepaccounts verwijderd.

Ook een van Slagan Cago Bojkovski’s eigen Twitteraccounts, een mix van authentiek en fake, is nog actief. Op Twitter poseert hij onder zijn eigen naam (@Slagan, schermnaam: Cago) als een Republikein uit Chicago met een passie voor politiehonden.

Cago: een liefhebber van politiehonden, die in Chicago woont?

Reactie exploitanten

We hebben pogingen ondernomen om in contact te komen met de leden van het Kumanovo-netwerk die we in dit artikel met naam noemen. Via email, Facebook Messenger en telefonisch, met hulp van een tolk, hebben we hen onze bevindingen voorgelegd. Viktor Kolevski volstond met een paar woorden over zijn beroep: hoewel hij op LinkedIn staat als politie-inspecteur, zegt hij dat niet meer te zijn. Dapcevski, de vrachtwagenchauffeur, wilde wel een enkele vraag beantwoorden, maar hing op voor we die konden stellen. De Risteski’s, die in 2017 hun eigen haatwinkeltje hadden met de site unisharenews.com, gaven geen antwoord op onze vragen.

Slagan Bojkovski ontkende in eerste instantie dat hij iets met nepnieuwssites te maken had – hij wist zelfs niet hoe hij er een zou moeten maken. Later gaf hij toe dat hij twee jaar geleden een site had gehad, maar dat hij ermee was opgehouden, ‘net als iedereen in Macedonië trouwens.’

Waarom zijn eigen foto en die van zijn vrouw dan voorkwamen op de fake Twitterprofielen? Iemand anders had volgens hem zijn foto’s gestolen. Het fake account van de Amerikaanse militair Jony Smith waarmee hij Facebookvrienden is? Hij wist niet over wie we het hadden. En hij werkte zelf al sinds een jaar niet meer bij het leger, zei hij.

Voor we Bojkovski belden, waren vijftig van het totaal van 75 sites van het netwerk nog actief. Een paar uur na ons gesprek gingen, de een na de ander, veertig van de nog actieve sites down, waarmee meer dan drie en een half duizend sensationele (BREAKING! SHOCKING!), angstaanjagende (CIVIL WAR!), opruiende (RAPE! BURN! KILL!) en haatzaaiende (MUSLIMS! MIGRANTS! REFUGEES!) artikelen in rook opgingen.

Ook het fake account Jony Smith is gesneuveld.

Dossier Kumanovo-connectie

Dit onderzoek is een coproductie van Nieuwscheckers en LeadStories. Een deel van de artikelen verscheen – in het Nederlands en het Engels – op beide sites. Nieuwscheckers publiceerde:

De Kumanovo-Connectie: Macedonische spam clans verdienen aan nepnieuws over moslims en migranten

De cijfers: maatregelen Facebook duwen Macedonische nepnieuwsexploitanten naar Twitter

Hoe een tattoo ons naar de Macedonische vrachtwagenchauffeur leidde die ladingen nepnieuws afleverde op internet

Met deze tools en technieken brachten we een Macedonisch nepnieuwsnetwerk in kaart

Op LeadStories.com verschenen:

18 januari 2019 |
Peter Burger
Coördinator van Nieuwscheckers. Universitair docent aan de Universiteit Leiden.
Maarten Schenk
Maarten Schenk is redacteur van Leadstories.com en ontwikkelaar van Trendolizer.