Deze nieuwsclips over migranten zijn nep: ze zijn gemaakt met VEO3

Video’s laten nieuwsinterviews zien met bootmigranten die hoge verwachtingen hebben van gratis luxe in het Verenigd Koninkrijk.

Onwaar.

Op 19 juni postte een Nederlandse X-gebruiker een video waarin een Engelstalige verslaggeefster migranten interviewt ‘die staan te demonstreren voor een viersterrenhotel.’  De een wil een upgrade naar vijf sterren, de andere een extra controller voor de Xbox. Commentaar van de X-gebruiker die de video postte: ‘Het loopt toch de spuigaten uit. Een 4 sterren hotel, en nog is het niet goed.Een enkeltje thuisland zou het beste wezen, daar is alles vast veel beter.!!!’

De video in haar tweet is tot op heden meer dan 162.000 maal bekeken en meer dan 800 keer gerepost.

Twee dagen later post een andere Nederlandse X-gebruiker een soortgelijke video, met het commentaar: ‘En zo werkt de asiel industrie’. In de video interviewt een Engelstalige verslaggeefster op het strand bij Dover migranten die net zijn geland met een rubberboot. Een van hen wil voor Deliveroo werken, een ander rekent erop dat hij van de overheid geld en een nieuwe telefoon krijgt. De video is 12.700 maal bekeken en 127 keer gerepost.

Dezelfde video is op 20 juni gepost door een Engelstalig account. Dat bericht is goed voor 344.000 views en 1700 reposts. Het is ook te vinden op het TikTok-account van Make Britain Great Again (@XL_Gully, gearchiveerd). De video heeft meer dan 57.000 likes en meer dan 2700 comments.

Beide video’s zijn AI-gegenereerd, al is dat blijkens de reacties op X niet voor iedereen zichtbaar (het ‘AI-VIDEO’-watermerk in de video hierboven is door Nieuwscheckers toegevoegd). De video’s hebben problemen met continuïteit. Zo verdwijnt in de video voor het hotel bij een man die staat te roken een sigaret uit zijn mond. Let op de man rechts op de achtergrond:

In de video ‘op het strand van Dover’ wisselt het uiterlijk van de plopkap bij elk nieuw interview.

De strandvideo is overgenomen van het TikTok-account Make Britain Great Again van XL_Gully, waar ook de andere video te vinden is. Aan de caption bij de strandvideo is niet te zien dat de beelden fake zijn:

In andere video’s van hetzelfde account is het makkelijker te zien dat ze met AI gemaakt zijn en in de vorm van racistische satire een anti-migratiepolitiek steunen.

Of de video’s echt zijn, lijkt voor veel gebruikers weinig uit te maken. De vrouw die de hotelvideo postte, reageert als iemand beweert dat hij nep is met: ‘Nee, had het echt niet gezien.!!!!’ Gaat ze nu beter opletten, vraagt iemand. ‘Dit was inderdaad een foutje. Kan gebeuren.Helaas lijkt dit echt op de werkelijkheid. Jammer genoeg, heeft half NDL dit nog steeds niet door. Bizar.‘ Het probleem is voor haar niet dat de video AI-gegenereerd is, maar dat ‘half NDL’ nog steeds niet doorheeft dat de uitgebeelde situatie realistisch is.

Ook het posten van de strandvideo wordt zo gerechtvaardigd door het Engelstalige account (motto: ‘Keeping it real’) dat hem op X zette: ‘I know it’s AI but tells a true story’.

De video’s surfen mee op een nieuwsgolf over illegale migratie naar het VK: in de eerste helft van dit jaar staken al meer dan 15 duizend mensen het Kanaal over in bootjes. De piek werd bereikt op 31 mei, met 19 bootjes die in totaal 1195 mensen vervoerden.

De video’s zijn gemaakt met Googles VEO 3, een betaalde dienst die sinds eind mei op de markt is. Gebruikers kunnen door een beschrijving in te voeren, inclusief dialoog, clipjes van maximaal 8 seconden genereren. De Volkskrant gaf deze week een overzicht van de mogelijkheden: van ogenschijnlijk realistische straatinterviews en nieuwsuitzendingen tot overduidelijk fantastische monsters en een toespraak van Jezus aan het kruis.

De krant zelf maakte clipjes van rellen in Amsterdam met zombies en ridders en van een man in toga in het oude Athene die zegt dat Nietzsche zijn favoriete filosoof is. In het Engels, dat wel, omdat VEO 3-personages geen Nederlands spreken.

VEO 3 kan ook een wapen zijn om desinformatie te verspreiden en haat te zaaien, aldus de Volkskrant. De Nederlandse OSINT-specialist Henk van Ess liet al eerder zien hoe eenvoudig dat is: hij creëerde binnen een half uur en met een investering van 8 dollar een nieuwsvideo over een schandaal in Springfield, compleet met burgemeester die van de enige middelbare school een fabriek van jachten wil maken en met demonstrerende menigten. Het script liet hij schrijven door de chatbot Claude.

Dat VEO3 al gebruikt wordt om desinformatie te verspreiden, blijkt behalve uit de video’s die het onderwerp zijn van deze factcheck, uit gefabriceerde nieuwsvideo’s die werden gesignaleerd door andere factcheckers. IndiaToday analyseerde drie video’s van Iraanse raketaanvallen op Israël, Annielab (Hongkong) een neppe nieuwsvideo ‘uit Mexico’, waarin een man op een motorfiets in een ondergelopen straat verdwijnt in een gat in het wegdek.

Google doet weinig om dit soort misbruik van VEO3 te voorkomen. Het lukte de Volkskrant bijvoorbeeld niet om een video te genereren waarin Donald Trump optreedt, maar Time maakte zonder moeite een video die bewijst dat stembureaumedewerkers stembiljetten versnippperen en haatvideo’s tegen migranten  in het VK zijn op TikTok een populair genre.

Om misbruik te voorkomen is VEO3 enge tijd na de lancering een beeldmerk gaan toevoegen: ‘VEO’ in kleine letters in de rechterbenedenhoek. Het is nauelijks zichtbaar en makkelijk te verbergen of verwijderen. De twee video’s in deze factcheck missen zo’n logo. Wie meer wil betalen, voor Google-tool Flow met het AI Ultra-pakket, krijgt video’s zonder watermerk.

Google voorziet de video’s ook van een onzichtbare Synth ID-code, die te controleren is met de Synth ID Detector. Nieuwscheckers had dit graag uitgeprobeerd, maar deze tool is alleen beschikbaar na aanmelding op de wachtlijst voor early testers.

VEO3 is slecht nieuws voor factcheckers. Henk van Ess: ‘Factchecken op de traditionele manier kost uren of dagen. AI-misinformatie genereren is een kwestie van minuten. Fact-checkers rijden op de fiets mee in een Formule 1-wedstrijd.’

De twee video’s die nieuwsitems laten zien waarin migranten worden geïnterviewd die net in het VK zijn aangekomen, zijn gegenereerd met Googles nieuwste AI-videotool VEO3. Een deel van de gebruikers die deze video’s zien op TikTok en X denken dat ze authentiek zijn, maar voor veel anderen maakt dat niet uit, omdat ze achter de boodschap staan: het had waar kunnen zijn.