In de aanloop naar de Amerikaanse verkiezingen werd gespeculeerd over en gewaarschuwd voor de invloed van kunstmatige intelligentie. Deepfakes zouden het publiek op het verkeerde been kunnen zetten en zo het stemgedrag beïnvloeden. Vlak voor de stembusgang bleek de AI-soep toch niet zo heet te worden gegeten, want kunstmatige intelligentie gaf niet de doorslag.
Goed, er was een mediarelletje rond AI-gegenereerde plaatjes met Taylor Swift en haar fans die zich zogenaamd achter Donald Trump schaarden. Er circuleerden beelden van ‘Kameraad Harris’ in een communistisch uniform. Nadat Trump Haïtiaanse immigranten ervan had beschuldigd katten te stelen en op te eten, verspreidden zijn aanhangers beelden van Trump als kattenredder. Met AI kun je kortom politieke memes maken en vooral de MAGA-beweging is er creatief mee. Doel is niet zozeer misleiding als wel spot en framing rond personen en problemen, want niemand gelooft dat Donald Trump poezen beschermt met een machinegeweer.
Hersenloos beeldvermaak
Politieke AI-memes zijn een onderdeeltje van een veel omvangrijkere ontwikkeling rond AI-gegenereerde fictie. Er is een contentcategorie ontstaan met een nieuw Engels label: ‘AI slop’ (slop als in het Nederlandse slobber: met water aangelengd veevoer) of ‘AI garbage’. Zoals de naam al verraadt, gaat het hier niet echt om een prijzenswaardige ontwikkeling. AI-slop staat te boek als hersenloos beeldvermaak, met als boegbeeld Shrimp Jesus: een fusie van de verlosser met onderdelen van garnalen. Dit AI-slop-icoon zag het levenslicht op Facebook en illustreert hoe eenvoudig het is om met de juiste prompt fantasiebeelden te generen met Midjourney, Stable Diffusion of Dall-E.
Vooral Facebook lijkt voorop te lopen in de slop-trend: groteske, kitscherige beelden worden op grote schaal gepost, gedeeld en becommentarieerd. De makers van dit soort content zijn vooral te vinden in Azië, waar sommigen meer dan een bijverdienste scoren met AI-content. Facebook-accounts die op grote schaal AI-beelden posten kunnen via het Creator Bonus Program geld verdienen met posts die viraal gaan.
Spam en clickbait
Het algoritme van Facebook promoot AI-slop ook onder gebruikers die er niet naar op zoek zijn. Fantasie-beelden verschijnen in de feed van mensen die geen slop-accounts volgen, merkten medewerkers van het Stanford Internet Observatory tijdens recent onderzoek naar AI-slop op Facebook. Renee DiResta en Josh Goldstein bestudeerden 120 Facebook-pagina’s die elk meer dan 50 AI-beelden postten. Opgeteld oogsten deze beelden honderden miljoenen views en interacties.
DiResta en Goldstein beschouwen AI-slop als een nieuwe variant op de spam en clickbait die Facebook sinds jaar en dag plagen. AI-content kan met relatief weinig moeite aan de lopende band worden geproduceerd en als het meezit krijgt het veel aandacht. Lang niet elke post zal scoren, maar als enkele plaatjes veel views halen, dan kan er toch wat geld worden verdiend. Bovendien is posten van AI-slop een manier om het volgeraantal van een Facebook-pagina te laten groeien; verkoop van een account met veel volgers kan geld opleveren.
Volgens de Stanford-onderzoekers worden posts met AI-slop geregeld gecombineerd met andere strategieën. Gebruikers worden bijvoorbeeld verleid om te klikken op een link naar een externe site, waarmee de site-eigenaar advertentie-inkomsten genereert. Soms gaat de link naar een webshop waar producten aan de man worden gebracht. Een klein deel van de links leidt naar scam-sites die klanten oplichten met producten die niet worden geleverd.
DiResta en Goldstein hebben de indruk dat veel Facebook-gebruikers geen weet hebben dat de beelden die ze bekijken of liken door een computerprogramma zijn gegenereerd. Wie op Facebook door de comments scrollt bij populaire slop-posts ziet dat een enkeling opmerkt dat het om AI gaat. De meerderheid reageert gewoon enthousiast, complimenteus of empathisch op een beeld van een kleuter die een manshoge Messi-buste heeft gemaakt uit natte klei.
Vooral AI-slop die in de begeleidende tekst hengelt naar complimenten, medeleven en felicitaties krijgt veel reacties. Zulke slop-posts zijn te herkennen aan zinnen als ‘Made with my own hands, but I’m sad because no one liked my work’, ‘Today it’s my birthday’, of ‘You will never regret liking this photo’.
Cognitieve inspanning
Volgens de Stanford-onderzoekers is AI-slop op Facebook een bron van verwarring en misleiding. Zelfs in gevallen waar duidelijke sporen te zien zijn van AI, vraagt het identificeren van dat soort beelden een flinke cognitieve inspanning, waarvan het de vraag is of je dat van een gemiddelde Facebookgebruiker kunt verwachten die argeloos door een feed scrollt. Daarom zou AI-gegenereerd beeld volgens DiResta en Goldstein moeten worden voorzien van labels of een watermerk.
De eerste gedachte is misschien dat Facebook optreedt tegen spam, clickbait en tijdlijnvervuiling met AI, maar uiteindelijk telt vooral engagement: aandacht. Mark Zuckerberg beschouwt laagschedelige AI-content als een nieuwe feed-categorie. De komst van AI heeft volgens Meta de tijdsduur die gebruikers in de app doorbrengen met 8 procent laten stijgen. Het zal Meta daarom vooralsnog een zorg zijn of mensen hun tijd besteden aan interacties met vrienden, familie of nieuws, of staren naar een koe op gymschoenen.
