De cijfers: maatregelen Facebook duwen Macedonische nepnieuwsexploitanten naar Twitter
18 januari 2019 |
Peter Burger
Coördinator van Nieuwscheckers. Universitair docent aan de Universiteit Leiden.
Maarten Schenk
Maarten Schenk is redacteur van Leadstories.com en ontwikkelaar van Trendolizer.
‘Hallo. Wij heten allemaal ook Jesica!’

Hoewel Macedonische nepnieuwsfabrikanten nog steeds duizenden likes en shares genereren op Facebook, hebben de recente maatregelen van het platform hun bereik drastisch verkleind. De volgende fase van de wapenwedloop verlegt het strijdterrein naar Twitter. Dit zijn de cijfers – inclusief de greatest hits van het Kumanovo-netwerk.

Onderzoek door Nieuwscheckers en LeadStories naar een reeks nepnieuwssites bracht een wijdvertakt netwerk aan het licht dat werd gerund door een aantal Macedoniërs: meer dan 70 sites, waarvan enkele al uit 2016. Niet voor alle sites waren cijfers beschikbaar, maar uit gegevens van BuzzSumo blijkt dat ze bij elkaar goed waren voor 7226 artikelen die 7,1 miljoen ‘engagements’ opleverden (shares, reacties en comments op Facebook, retweets op Twitter, en op enkele andere platforms). De cijfers (hier in een spreadsheet) zijn van 10 januari.

(Ter vergelijking: volgens BuzzSumo publiceerde de grote factchecksite Snopes.com het afgelopen jaar 5.687 artikelen, die zo’n 8,8 miljoen engagements opleverden.)

De meeste engagements vonden plaats op Facebook, maar toen we de cijfers opsplitsen per platform werd een interessante trend zichtbaar. Voor elke site in het netwerk zochten we op Whois.com de registratiedatum zodat we in chronologische volgorde konden zetten. Daarna noteerden we met BuzzSumo voor elke site het gemiddelde aantal engagements per bericht, verdeeld over de verschillende sociale netwerken.

Gemiddelde engagement van de sites op alle sociale media,naar registratiedatum
Gemiddelde engagement van de sites op Facebook, naar registratiedatum
Gemiddelde engagement van de sites op Twitter, naar registratiedatum

Toen het netwerk net bestond, lanceerden de exploitanten ongeveer elke maand een nieuwe site. Zoals de volgende grafiek laat zien, liep dat na een tijdje snel op, met pieken waarin wel vijf of zes sites werden geregistreerd in een enkele maand.

Aantal domeinnaamregistraties per maand

De tijdas in de eerste drie grafieken is daardoor wat vervormd en uitgerekt. Voor de grafiek hieronder namen we het gemiddelde van de gemiddelde engagement per bericht voor alle sites in een bepaalde maand, zodat we een realistischer tijdas kregen (ten koste van een lichte vertekening in de engagements).

Het gemiddelde van de gemiddelde engagement per bericht voor alle sites in een maand (totaal, voor Facebook en voor Twitter)

Conclusies

Ten eerste lijkt het erop dat Facebooks maatregelen tegen nepnieuws dit netwerk pijn deden. Vanaf april zien we een onmiskenbare daling in het aantal engagements en hoewel er nog steeds gelukstreffers zijn die enigszins aanslaan, hebben de meeste verhalen op de sites weinig impact meer. Ergens in de zomer van 2018 is Facebook bovendien begonnen het bereik van berichten sterker in te perken als ze gekopieerd waren van berichten die al door factcheckers die met Facebook samenwerken waren gemarkeerd als vals. Dat heeft dit netwerk waarschijnlijk nog meer pijn gedaan, want de exploitanten knipten en plakten hun sites graag bij elkaar uit dubieuze bronnen.

In de tweede plaats blijkt uit de grafiek met het aantal domeinnaamregistraties per maand dat de uitbaters meer en meer sites moesten registreren om het bereik dat verdween door de blokkades en filters te compenseren.

In de derde plaats lijkt in die periode het aantal engagements op Twitter juist te groeien. Veel daarvan komt ongetwijfeld op het conto van de fake Twitteraccounts (de ‘Jessica’s’) die links naar verhalen op de sites van het netwerk spammen. Maar dat Twitterbereik is niets vergeleken met het succes op Facebook in de ‘gouden tijd’ van 2016.

Om commentaar gevraagd vertelde een woordvoerder voor Twitter ons dat de toegenomen engagement-cijfers niet noodzakelijk betekenden dat meer Twittergebruikers de links te zien hadden gekregen die de spammers verspreiden: het was mogelijk dat de spam-accounts werden geïdentificeerd en aangepakt door Twitters filters en daardoor aan het gezicht onttrokken werden in zoekresultaten en in de timeline van gebruikers.

Wij ontdekten echter veel van de spam-accounts door de openbare zoekfunctie van Twitter te gebruiken, wat toch sterk lijkt te impliceren dat ze detectie ontliepen. De accounts, merkten we, gedroegen zich heel omzichtig: ze twitterden maar een paar links naar sites binnen het netwerk, dan drie, dan vier, soms twaalf tijdens een paar dagen, en soms gooiden ze er links naar legitieme sites tussendoor. Nadat ze hun linkjes hadden gezaaid, stopten de accounts meestal met posten (maar ze bleven vindbaar via Twitters publieke zoekfunctie). 

Wij hadden de indruk dat de personen achter de fake accounts de grenzen van het filtersysteem aftastten en dat ze veel moeite deden om geen alarmbellen te laten afgaan.  Ze moesten daarvoor een grote hoeveelheid accounts aanmaken  en ze konden geen grote opkweken, met een groot publiek en voor langetermijngebruik. Daarom gebruikten ze in plaats daarvan massa’s kleintjes voor kortere periodes. 

Greatest hits

Twee verhalen op sites van het Kumanovo-netwerk haalden in 2018 de BuzzFeed top 50 van de succesvolste hoaxes van dat jaar:

  • Muslim Figure: “We Must Have Pork-Free Menus Or We Will Leave U.S.” How Would You Respond This? – gepubliceerd op vtamedia.com op 5 april 2018
  • Pedophile’s Decapitated Corpse Found On Judge’s Doorstep After Bail Hearing – gepubliceerd op cvikasdrv.com on 1 september 2018

En eigenlijk had er nog een derde verhaal in de top-50 moeten staan, want het kreeg meer dan genoeg engagement voor een plaatsje op de lijst:

  • Florida: Largest food stamp fraud bust in history, $20M, Muslim store owners arrested – Gepubliceerd op opreminfo.com op 4 juni 2018

We hebben zelf een lijst gemaakt met het artikel van elke site in het netwerk dat het meeste succes had in termen van shares, comments en reacties, en die gesorteerd op engagementcijfers. Hier is de top-10, die een goede indruk geeft van de stijl en onderwerpen waar de exploitanten van dit netwerk hun geld mee verdienden. De links gaan naar gearchiveerde kopieën. De vier eerste cijfers staan achtereenvolgens voor Facebook, Twitter, Pinterest en Reddit. Het vijfde cijfer is het aantal sites dat ernaar linkt, het zesde de ‘evergreen score: engagement en links 30 dagen nadat het artikel is gepubliceerd. Het meest rechtse cijfer is het totaal aantal engagements.

1. Muslim Figure: “We Must Have Pork-Free Menus Or We Will Leave U.S.” How Would You Respond This?

2. Florida: Largest food stamp fraud bust in history, $20M, Muslim store owners arrested – opreminfo.com

3. Pedophile’s Decapitated Corpse Found On Judge’s Doorstep After Bail Hearing – cvikasdrv.com

4. Civil War Erupts In Sweden as Irate Swedes Burn Nine Muslim Refugee Centers to the Ground – cvikas.com

5. Sweden has legalized child marriages For Muslim refugees who come from countries where Sharia was the law of the land

6. Major Muslim leader makes this message to all Americans: “In two years America will be land of Muslims and all Christians will be our slaves” (VIDEO)

7. Michelle Obama’s Doctor Goes On Record: ‘I Know What I Saw’ – svijmedia.com

8. Florida: Largest food stamp fraud bust in history, $20M, Muslim store owners arrested – cukam.com

9. 14 Year Old Girl Sexually Assaulted By Muslim Migrant…School Asks Her To Consider The Situation From His Point Of View

10. French Now Preparing For “Civil War” Against Muslims To Take Country Back – opremmedia.com

Reacties Facebook, Google en Twitter

Hoewel het probleem van de Macedonische nepnieuwssites en hun verdienmodel al sinds 2016 bekend zijn, bestaat deze business voort dankzij de mogelijkheden die Facebook, Google en – in mindere mate – andere platforms bieden. Toegegeven, de tech-bedrijven hebben maatregelen genomen, maar die hebben dit netwerk niet afdoende tegengehouden. We vroegen Google, Facebook en Twitter om commentaar.

Woordvoerders voor geen van de drie bedrijven wilden on the record en in concreto ingaan op de casus-Kumanovo of de tegenmaatregelen van het bedrijf. Google-woordvoerder Rachid Finge zei: ‘Het is niet toegestaan om AdSense te gebruiken op websites met bijvoorbeeld schadelijke, misleidende of ongepaste inhoud. We voeren continu controles uit en nemen onmiddellijk actie wanneer we een overtreding constateren. Toch kan het gebeuren dat onze systemen iets over het hoofd zien. We moedigen mensen daarom aan om het te melden wanneer ze websites tegenkomen die de regels overtreden.’

Een woordvoerder voor Twitter verwees ons naar de pagina met Twitters aanpak van bots en misinformatie, die onder meer stelt:

We werken er hard aan om spam-achtig gedrag zo vroeg mogelijk te detecteren, zoals de massale verspreiding van tweets  of pogingen om trending topics te manipuleren. We reduceren ook de zichtbaarheid van potentiele spam-tweets of accounts terwijl we onderzoeken of er sprake is van een schending van de regels. Wanneer we  kopieergedrag detecteren of andere verdachte activiteit, schorsen we accounts. We ondernemen ook regelmatig actie tegen apps die de publieke API misbruiken om activiteir op Twitter te automatiseren, waardoor we  potentieel manipulatieve bots in de kiem smoren. 

Het is de moeite waard om op te merken dat we, om deze uitdaging efficient te beantwoorden en ons ervan te verzekeren dat mensen deze beveiligingen niet kunnen omzeilen, niet in staat zijn om de details van deze interne signalen in onze publieke API te delen. Hoewel dit kan betekenen dat onderzoek door derden over de impact van bots op Twitter vaak onnauwkeurig en methodologisch onzuiver is, moeten we de toekomstige effectiviteit van ons werk beschermen.

We gaven de namen van twee fake profielen uit het netwerk (‘Ema Brown’ en ‘Lisa Sanders’) door aan Facebook, als voorbeeld van onze vondsten. ‘In dit geval’, zei een woordvoerder, ‘hebben we de profielen die met ons gedeeld zijn onderzocht en ze verwijderd wegens schending van ons beleid op het gebied van authenticiteit en misleiding. ’

Over de strijd tegen misbruik zoals dat door het Kumanovo-netwerk zei de woordvoerder van Facebook: ‘Wij voelen ons bemoedigd door drie afzonderlijke, recente onderzoeken die erop wijzen dat de hoeveelheid misinformatie op Facebook is gedaald en dat inspanningen van Facebook na de verkiezingen van 2016 om de verspreiding van misinformatie te beperken een significante impact kunnen hebben gehad. Deze resultaten zijn bemoedigend en komt overeen met onze eigen gegevens,  maar we weten dat er veel tegenstand is in deze speelruimte en dat we meer werk te doen hebben.’

 

Lees het hele verhaal in Dossier Kumanovo-Connectie

De Kumanovo-Connectie: Macedonische spam clans verdienen aan nepnieuws over moslims en migranten

De cijfers: maatregelen Facebook duwen Macedonische nepnieuwsexploitanten naar Twitter

Hoe een tattoo ons naar de Macedonische vrachtwagenchauffeur leidde die ladingen nepnieuws afleverde op internet

Met deze tools en technieken brachten we een Macedonisch nepnieuwsnetwerk in kaart

18 januari 2019 |
Peter Burger
Coördinator van Nieuwscheckers. Universitair docent aan de Universiteit Leiden.
Maarten Schenk
Maarten Schenk is redacteur van Leadstories.com en ontwikkelaar van Trendolizer.