Waarom een deepfake herkennen het echte probleem niet oplost
De paus in een pufferjas werd geloofd voordat iemand naar de bron vroeg. Dat zegt meer over onze beeldcultuur dan over de techniek.
Bijgewerkt op
In het kort: een deepfake is een beeld, video of geluidsopname die met kunstmatige intelligentie is gemaakt en eruitziet als een echte opname. De term wordt gebruikt voor gezichten die op andere lichamen zijn gezet, stemmen die zijn nagebootst en volledig gegenereerde foto’s, zoals het beeld van paus Franciscus in een witte pufferjas uit 2023.
Een man in een glanzende witte pufferjas loopt over een plein. Het is de paus. De foto ziet eruit als een straatopname van een fotograaf die toevallig op het juiste moment stond, met een bekend gezicht en een nonchalante pas. In maart 2023 ging het beeld de wereld over. Veel mensen deelden het als grap. Anderen namen aan dat iemand werkelijk tegenover paus Franciscus had gestaan. Pas als je langer keek, zag je dat de hand en het kruisbeeld niet klopten. Het beeld was gemaakt met Midjourney.
Een deepfake is een beeld of geluid dat met kunstmatige intelligentie is gemaakt en zich voordoet als een opname van iets wat werkelijk gebeurde. De gangbare reactie is dat we zulke beelden beter moeten leren herkennen. Dat lijkt me een antwoord op de verkeerde vraag. De pufferjas werkte niet omdat mensen slecht keken. Hij werkte omdat onze beeldcultuur al lang niet meer op bewijs rust.
Waarom een foto zich als bewijs voordoet
De Amerikaanse schrijver en cultuurcriticus Susan Sontag zag al vroeg dat beelden een scheef kennisinstrument zijn. Een foto lijkt alleen iets te tonen. Hij neemt ogenschijnlijk geen standpunt in en presenteert zich als een stukje werkelijkheid. De opvatting van de maker blijft buiten beeld. Daardoor valt een foto moeilijker te bestrijden dan een bewering. Een argument kun je weerleggen, maar een foto doet zich al voor als bewijs.
Sontag sprak van het contact met de werkelijkheid dat fotografie claimt, dus de indruk dat de camera erbij was. Die indruk geeft het beeld zijn gezag, en een synthetisch beeld houdt die vorm van getuigenis vast. Bij zo’n beeld was er geen camera en heeft de gebeurtenis nooit plaatsgevonden. Toch ziet het resultaat eruit alsof iemand getuige was.
Dat verklaart waarom de pufferjas werkte. Het beeld deed een beroep op herkenning. De paus draagt wit en beroemdheden worden in extravagante jassen gefotografeerd, dus het paste tussen de onverwachte momenten waar sociale media vol mee staan. De visuele aannemelijkheid kwam vóór de broncontrole. Mensen die het beeld doorstuurden, hadden het al geloofd voordat de vraag naar de bron kon opkomen.
Wat Warhol zag voordat de deepfake bestond
De Amerikaanse kunstenaar Andy Warhol ging verder dan Sontag. In The Philosophy of Andy Warhol (1975) schreef hij: “Als je alles wilt weten over Andy Warhol, kijk dan gewoon naar het oppervlak: van mijn schilderijen en films en van mij, en daar ben ik. Er zit niets achter.” Je kunt dat lezen als de grap van een kunstenaar, maar het beschrijft ook de wereld waarin een deepfake kan werken.
Klassieke propaganda ging uit van een dieptemodel. Er was een verborgen waarheid en een zichtbare leugen, een echte boodschap onder het oppervlak. Als je wilde weten wat er speelde, vroeg je wat iets werkelijk betekende en wie er voordeel bij had. Warhol haalde dat onderscheid weg. Als er niets achter het oppervlak zit, verliezen die vragen hun nut, want een oppervlak dat zichzelf alleen als oppervlak toont, kun je niet doorbreken.
Zijn seriewerken met de soepblikken en de Marilyns laten zien wat herhaling met een beeld doet. In klassieke retoriek versterkt herhaling een boodschap. Bij Warhol wordt het beeld door herhaling steeds gewoner en verliest het kracht. Dat werkt als een verdoving, want als je dagelijks honderden beelden ziet, voel je steeds minder dat een afzonderlijk beeld iets betekent.
Waarom herkennen de verkeerde vraag is
Zet die twee observaties naast elkaar en het probleem met herkennen wordt zichtbaar. Een foto ontleent gezag aan de indruk dat de camera erbij was, en die indruk is nu goedkoop te produceren. Tegelijk is de stroom beelden zo groot dat één overtuigend beeld overbodig is geworden. Sontag waarschuwde al dat een opeenhoping van beelden vertrouwdheid wekt zonder kennis op te leveren. Je denkt een plek te kennen omdat je er foto’s van hebt gezien.
Een deepfake hoeft daarom niet eens te overtuigen. Het volstaat dat hij meedrijft in een stroom waarin niemand meer per beeld nagaat wie het heeft gemaakt. Zodra beelden zo circuleren, raakt het publiek het vermogen kwijt om onderscheid te maken. Het idee van bewijs zelf wordt onbetrouwbaar, los van de vraag of iemand een afzonderlijke vervalsing gelooft. Moderne propaganda hoeft die situatie niet zelf te scheppen om er gebruik van te maken.
Als je deepfakes als een herkenningsprobleem ziet, kies je een verdediging die past bij het dieptemodel en zoek je naar de vervalsing achter het beeld. Maar de verdoving zit al in de omgeving. Een lezer die vandaag een echte foto van een bombardement ziet, kijkt daar met dezelfde vlakke blik naar als gisteren naar de pufferjas. De grootste schade van deepfakes is misschien wel dat ze het gezag van de echte foto mee afbreken.
Sontag voegde daar een tweede waarschuwing aan toe, namelijk dat fotografie lijden esthetisch maakt. Een beeld van een ramp roept empathie of schrik op en geeft de kijker het gevoel dat hij een politieke werkelijkheid heeft meegemaakt. Dat gevoel verdringt het nadenken, want je hebt iets gevoeld en denkt daardoor iets te weten. Dat gebeurt ook als niemand liegt. Een deepfake voegt daar alleen aan toe dat de gebeurtenis zelf niet hoeft te bestaan.
Wat redacties en lezers anders kunnen doen
Voor een redactie betekent dit dat detectietools een begin zijn. Een tool zegt of een bestand sporen van synthese vertoont. Hij zegt niets over de vraag of het beeld ooit als bewijs had mogen dienen. De werkelijke vraag bij elk beeld is daarom ouder dan de technologie. Wie heeft dit gemaakt, waar en wanneer, en wie kan dat bevestigen? Een beeld zonder herleidbare maker en moment is geen bewijs, hoe echt het er ook uitziet. Dat geldt evenzeer voor beelden die wél echt zijn.
In die werkwijze krijgt een beeld dat alleen op sociale media bestaat dezelfde status als een anonieme tip, en is het dus een aanleiding voor onderzoek. Een foto die de redactie wel plaatst, krijgt een vermelding van bron en herkomst, zodat de lezer kan zien waarop het gezag van het beeld rust. Dat kost meer tijd dan doorplaatsen, maar het is de enige manier om de vorm van getuigenis weer aan een werkelijke getuige te koppelen. Een factcheck achteraf herstelt dat verband zelden, want tegen die tijd is het beeld al duizend keer gedeeld.
Voor lezers is de consequentie kleiner en lastiger. De vraag of iets echt is, helpt weinig, omdat je ogen die vraag niet meer kunnen beantwoorden. Je hebt meer aan de vraag waar iets vandaan komt, en een beeld zonder bron verdient de status van een gerucht. Dat vraagt om een kleine gewoonte, namelijk zo’n beeld even niet doorsturen. Deel je beelden zonder bron, dan vul je de stroom waarin echt en gemaakt niet meer te onderscheiden zijn.
De paus in de pufferjas was onschuldig. Niemand werd erdoor benadeeld en de grap was snel ontmaskerd. De mensen die het geloofden, deden dat omdat ze allang gewend waren beelden te geloven zonder te vragen wie erachter stond, en aan die gewoonte verandert een betere detector niets.
Veelgestelde vragen
Wat is een deepfake?
Een deepfake is een beeld, video of geluidsopname die met kunstmatige intelligentie is gemaakt en eruitziet als een echte opname. De term wordt gebruikt voor gezichten die op andere lichamen zijn gezet, stemmen die zijn nagebootst en volledig gegenereerde foto’s, zoals het beeld van paus Franciscus in een witte pufferjas uit 2023.
Kun je een deepfake herkennen?
Soms wel, aan handen of sieraden die niet kloppen. Die aanwijzingen verdwijnen naarmate de techniek beter wordt. Belangrijker dan kijken naar het beeld is kijken naar de herkomst, dus wie het heeft gemaakt, wanneer en waar, en wie dat kan bevestigen. Een beeld zonder herleidbare bron is geen bewijs, ook als het er echt uitziet.
Hoe moeten redacties met deepfakes omgaan?
Door een beeld pas als bewijs te behandelen wanneer maker, plaats en moment zijn vastgesteld. Detectietools helpen bij het opsporen van synthese, maar zeggen niets over de bewijswaarde. Een beeld dat alleen op sociale media circuleert, is een aanleiding voor onderzoek. Bij publicatie hoort een vermelding van bron en herkomst, zodat lezers zien waarop het gezag van de foto rust.
