Deepfakes – Wat zijn het, en hoe kan je ze herkennen?

In de zomer van 2019 circuleerde een video van Mark Zuckerberg op Instagram, waarin de CEO claimde “totale controle te hebben over gestolen data van meer dan een miljard mensen, al hun geheimen, hun levens, en hun toekomst.” Het bleek een kunstproject te zijn, in plaats van een wilvolle poging tot het verspreiden van misinformatie, want de persoon in de video was niet Mark Zuckerberg zelf, maar een deepfake.

(Artikel gaat verder onder de advertentie)

Wat is een deepfake

Deepfakes zijn een manier van foto/video bewerking, en maken gebruik van AI technologie genaamd deep learning om afbeeldingen te creëren van neppe gebeurtenissen, vandaar de naam deepfake. Deze deepfakes kunnen voor verschillende doeleinden worden gebruikt zoals het verspreiden van misinformatie, het uitbrengen van schadelijke afbeeldingen, maar ook om grappige videos te maken. Inherent zijn deepfakes dus niet perse slecht, maar ligt het aan hoe het wordt gebruikt.

Het zijn niet alleen afbeeldingen die kunnen worden ‘gedeepfaked’, maar ook stemmen. Er worden zogenaamde ‘voice skins’ of ‘voice clones’ gemaakt. De technologie luistert dan naar iemands stem, en pakt bepaalde data op om de stem na te bootsen, maar dit keer zal de stem dus zeggen wat jij maar wilt dat het zegt. Een voorbeeld hiervan is een situatie in maart 2020 waarin een werknemer werd gebeld door ‘zijn baas’ en 200.000 overmaakte naar een bankrekening.

Hoe worden deepfakes gemaakt?

Het vergt een aantal stappen om een deepfake te maken, zoals een face-swap. Eerst is het nodig om duizenden gezichtsfoto’s van twee personen door een AI algoritme genaamd een encoder te laten scannen. De encoder zal dan gelijkenissen herkennen tussen de twee gezichten, en de verschillen minimaliseren zodat er meer gelijkenissen overblijven. Een tweede AI programma genaamd een decode wordt daarna gebruikt om de gezichten van de gecomprimeerde afbeeldingen weer te herstellen. Omdat de gezichten anders zijn, train je één decoder om het eerste gezicht te herstellen, en een tweede decoder voor het tweede gezicht. Om een face swap te doen voer je de afbeeldingen in de ‘verkeerde’ decoder. Als je bijvoorbeeld persoon A’s gezicht in de decoder stopt die is getraind op foto’s van decoder B. De decoder zal dan het gezicht van persoon B reconstrueren met de expressies en oriëntatie van gezicht A. Voor een video moet dit dus gebeuren voor elke frame als je het geloofwaardig wilt laten lijken.

Een tweede manier om deepfakes te maken is middels het gebruik van iets genaamd Gan (generative adversarial network). Een Gan zet twee AI algoritmes tegenover elkaar. Het eerste algoritme, genaamd een generator, krijgt willekeurig geluid gevoed en verandert het in een afbeelding. Deze synthetische afbeelding wordt dan toegevoegd aan een stroom échte afbeeldingen van bijvoorbeeld bekendheden. Deze afbeeldingen worden ‘gevoerd’ aan het tweede algoritme, de discriminator. De synthetische afbeeldingen zullen bij het begin niet op gezichten lijken, maar als je dit proces meerdere keren herhaald en de AI feedback binnenkrijgt zullen de discriminator en generator verbeteren.

Deepfake AI

Wie gebruiken deepfakes?

Deepfakes kunnen door iedereen worden gemaakt. Van academici en researchers tot de gemiddelde visual effects enthousiast.

Wat voor technologie heb je nodig?

Het is moeilijk om een goede deepfake te maken op een standaard computer. De meeste deepfakes worden gemaakt op high-end desktop computers met krachtige grafische kaarten of zelfs met de cloud. Hierdoor wordt het renderen van de afbeeldingen veel sneller, van een aantal dagen of weken, naar een aantal uur. Maar je hoeft het niet perse zelf te doen, er zijn ook bedrijven die je helpen met het maken van deepfakes, er is zelfs een smartphone app genaamd Zao die gebruikers hun gezichten laat zetten op een aantal beroemdheden waarop het systeem is getraind.

Hoe herken je een deepfake?

Het wordt steeds moeilijker om een deepfake te herkennen, want de technologie gaat natuurlijk ook nog steeds vooruit. Er was een tijd dat je deepfakes kon herkennen aan het knipperen van de ogen, want deepfakes werden niet getraind op ogenknipperen, (want foto’s zijn vaak van mensen met open ogen) maar dit werd al snel gefixt door makers van deepfakes.

Deepfakes van een lagere kwaliteit zijn wat makkelijker om te herkennen. De lip-sync is misschien wat slechter, of de huidskleur is ongelijk. Andere dingen die slechte deepfakes niet goed kunnen creëren zijn haren, sieraden of tanden.

Deepfakes; verwoestende technologie.

We kunnen meer deepfakes verwachten die mensen zwart maken, maar kunnen deepfakes ook internationale incidenten veroorzaken? Dat is nog een beetje onduidelijk, ik denk het zelf niet aangezien regeringen zelf ook informatie systemen hebben, maar het kan wel verwarring veroorzaken onder de bevolking.

Dit sluit geen bedrijven uit, zo was er  bijvoorbeeld een deepfaken van Elon Musk waarin hij een joint rookte. Als gevolg hiervan crashten de Tesla aandelen snel. Wat denken jullie? Zijn deepfakes gevaarlijk, of kunnen we hier wel mee leven?

(Visited 34 times, 1 visits today)

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *