Google maakt AI herkenbaar met onzichtbaar watermerk SynthID

SynthID is een watermerk dat Google toevoegt aan content die gegenereerd is met Google AI, zowel op foto’s, video’s en geluidsbestanden. Het watermerk is niet zichtbaar voor mensen, maar wordt wel herkend door technologie. Google lanceerde de tool in augustus 2023. 

Het watermerk is ontwikkeld om meer transparantie te creëren over het gebruik van generatieve AI en draagt daardoor bij aan tegengaan van desinformatie.

SynthID laat een watermerk achter in de pixels, waardoor het watermerk geïntegreerd is in de inhoud zelf. Het ingebouwde watermerk heeft geen invloed op de kwaliteit van het gegenereerde materiaal. Doordat het watermerk is ingebed, is het moeilijker om het te verwijderen zonder dat de kwaliteit achteruit gaat en is er grote rekenkracht nodig om het watermerk überhaupt te verwijderen. Ook is het bestand tegen diverse aanpassingen, zoals afbeeldingen bijsnijden, de framesnelheid aanpassen of filters toevoegen. Het ingebouwde watermerk zorgt er bijvoorbeeld voor dat de foto wordt herkend als AI, ook als het zichtbare logo dat Gemini achterlaat is weggeknipt. 

Ook heeft Google SynthID Detector gelanceerd. Dit programma analyseert een ingevoerde foto, video, geluidsbestand of tekst om te bepalen of het de SynthID bevat. Dus of het is gemaakt met behulp van Google AI. SynthID Detector is momenteel alleen beschikbaar voor journalisten en verificatiespecialisten.

Wel kun je thuis Google Gemini gebruiken om te controleren of een beeld met Google AI is gemaakt. Hiervoor voer je het materiaal aan Gemini en stel je een eenvoudige vraag, zoals: ‘‘Is deze foto/video/audio gemaakt of bewerkt door Google AI?’’ of ‘‘Is dit AI-gegenereerd?’’

Deze checkmethode is alleen geschikt om te herkennen of het AI-materiaal is gecreëerd of bewerkt met Google AI. Materiaal dat met andere AI-software gemaakt is, kan Google helaas niet herkennen, omdat de SynthID alleen wordt toegevoegd door Google AI. 

SynthID geeft nuttige indicaties over de authenticiteit van beelden en is dus welkom gereedschap voor factcheckers.  

Zo circuleerde op X een afbeelding waarin de Iraanse opperste leider onder het puin vandaan gehaald leek te worden. LeadStories liet de afbeelding beoordelen door Google Gemini, die  een SynthID detecteerde in de foto, wat betekent dat het beeld met Google AI gegenereerd is. De conclusie dat de afbeelding nep is, werd ook getrokken door een factcheck van Reuters. 

Een ander voorbeeld waarin SynthID verificatie vergemakkelijkte, is een factheck van AFP. Een video lijkt Amerikaanse soldaten en militaire voertuigen in Iran te tonen, terwijl er geen officiële meldingen zijn dat het Amerikaanse leger zich daar bevindt. Ook in dit geval herkende Google de SynthID.

De volgende stap in de wapenwedloop tussen fakers en feitencontroleurs viel te voorspellen: verschillende websites beweren dat ze (gratis) de SynthID kunnen verwijderen. Uit tests met verschillende beelden blijkt echter dat deze verwijdering niet altijd succesvol is, ontdekte Nieuwscheckers. 

De onderstaande afbeelding hebben we bijgesneden zodat het Gemini-logo niet zichtbaar is en vervolgens door een online SynthID-verwijderaar gehaald. De bestandsnaam van de afbeelding is veranderd naar ‘‘foto zomerse dag iPhone’’, zodat er geen verwijzing is naar een foto die met Gemini gemaakt is.

Toch herkent Google de digitale vingerafdruk, wat bevestigt dat de afbeelding met Google AI is gegenereerd:

Ook bij een andere afbeelding die is bijgesneden en door een alternatieve SynthID-remover is gehaald, merkt Gemini op dat de afbeelding met Google AI is gemaakt. 

Een derde testbeeld halen we door nog een andere online tool om de SynthID te verwijderen. Opnieuw blijkt de verwijdering niet succesvol en detecteert Google Gemini het onzichtbare watermerk.

Googles onzichtbare watermerk blijft detecteerbaar, zelfs na bewerkingen zoals bijsnijden of het gebruik van programma’s die beweren dat ze de SynthID kunnen weghalen. 

Naast deze SynthID-removers heeft de AI-gemeenschap een techniek gevonden om de SynthID te kunnen omzeilen, ‘‘re-nosing’’. De uitleg staat op Github, maar de toepassing vraagt enige technische kennis.

Daarnaast blijkt inderdaad dat Gemini AI-gegenereerde afbeeldingen niet herkent wanneer deze zijn gemaakt met andere programma’s dan die van Google. Bij een foto van een hond, gegenereerd met DeepAI, geeft Gemini wel een indicatie van kenmerken die vaker voorkomen bij AI-afbeeldingen, maar geen definitief oordeel dat het beeld gemaakt is met AI.  

SynthID is een onzichtbaar watermerk dat moeilijk te verwijderen is omdat het door Google AI wordt ingebed in de pixels of audio van het materiaal. Het is een digitale vingerafdruk, die duidelijk maakt wanneer iets gemaakt is met Google AI, wat bijdraagt aan meer transparantie rond AI. Door middel van SynthID zijn beelden gemakkelijker te controleren voor factchecks of eigen onderzoek. Mits het materiaal daadwerkelijk met Google AI is gegenereerd.