De kansen en gevaren van deepfake

Wat als je niet meer op je eigen ogen en oren kunt vertrouwen? We weten dat er meesterlijke imitators zijn die bijna elk stemgeluid kunnen nadoen alsof de persoon de woorden uitspreekt. Maar deepfake voegt hier een dimensie van kansen en gevaren aan toe. Beeldmanipulatie waardoor een foto van iemand tot leven kan worden gebracht.

Dit wil zeggen dat als iemand een foto van jou heeft en jouw stemgeluid kan imiteren, dat er ineens een video op Internet kan verschijnen waarin jij dingen zegt die je nooit gezegd hebt. Misschien zelfs wel een bekentenis aan een strafbaar feit.

Deepfake is een combinatie van “deep learning” en “fake news”. Deep learning is de Artificial Intelligence technologie die wordt gebruikt om de beeldmanipulatie mogelijk te maken.

Deepfake in de porno industrie

De resultaten van deepfake zijn verbluffend realistisch, maar worden op dit moment vooral toegepast binnen de porno industrie. Gezichten van bijna uitsluitend vrouwelijke porno actrices worden uiterst realistisch vervangen voor beroemdheden. Dit natuurlijk tot grote ergernis van de beroemdheden zelf die er nagenoeg niets tegen kunnen doen.

Slechts 1 foto nodig om iemand tot leven te brengen

Het Samsung research lab in Moscow heeft begin 2019 realistische filmbeelden van Einstein geproduceerd aan de hand van slechts 1 oude foto. Hetzelfde is ze gelukt met Marilyn Monroe en zelfs met een afbeelding van het schilderij van de Mona Lisa!

Ook al zijn de resultaten op dit moment beter als er meerdere foto’s van iemand gebruikt worden, de technologie ontwikkelt zich razendsnel. Onlangs verscheen er een bijna niet van echt te onderscheiden filmpje van Facebook oprichter Mark Zuckerberg. Het filmpje werd geupload door Bill Posters op Instagram als onderdeel van een expositie die hij Spectre noemt. Op zijn account zijn ook deepfake beelden van andere beroemdheden te zien zoals Kim Kardashian en Donald Trump.

Hoe gevaarlijk is deepfake

De Amerikaanse overheid vindt deepfake zo gevaarlijk dat ze deze ziet als bedreiging voor de nationale veiligheid. Omdat de technologische ontwikkeling sneller gaat dan dat de wetgeving aangepast kan worden is nog onduidelijk welke gevolgen deepfake daadwerkelijk kan hebben op onze samenleving. Ook is onduidelijk welke rol de overheid of social media en andere online platformen hierin zouden moeten hebben.

Is deepfake illegaal?

Het is nog onduidelijk wanneer en in welke vorm deepfake illegaal is. Tot nu toe zijn er nog geen spraakmakende rechtszaken geweest en de wetgeving die er wel iets over zou kunnen zeggen verschilt ook nog eens per land. Wel zeker is dat je niet zomaar iemand schade kan toebrengen. Dat kan in de meeste landen berecht worden als smaad. Ook mag je niet zomaar gebruik maken van de afbeelding van iemand vanwege portretrechten.

Fake news en deepfake

Wereldwijd begint het internet aan alle kanten te kraken vanwege het vele fake news. Dit is mede door het weglaten van bepaalde informatie en onethisch gebruik van technologie en beeldmateriaal. Maar ook door het belichten van slechts een kant van het verhaal worden nieuws-, en bloglezers vaak voorgelogen over wat er werkelijk gaande is. Deepfake voegt hier een element aan toe omdat mensen van nature geneigd zijn te geloven wat ze zien.

Maar wat als er straks negatieve propaganda filmpjes op social media verschijnen over presidentskandidaten die voor waar worden aangenomen? Een kandidaat die bijvoorbeeld stellingen doet die hij nooit gezegd heeft.

In januarie 2020 heeft Facebook besloten deepfake filmpjes volledig van hun platform te verbannen in verband met het gevaar voor false informatieverspreiding. Alleen filmpjes die duidelijk satire zijn mogen in sommige gevallen gepost worden.

Hoe populair is deepfake?

Deepfake wordt in rap tempo populair omdat de technologie voor iedereen met een beetje kennis van computers en animatie beschikbaar is. Tot voor kort was deze beeldmanipulatie alleen weggelegd voor geavanceerde filmstudio’s en was de technologie relatief kostbaar.

Een andere reden waarom deepfake zo snel aan populariteit wint is vanwege de impact die dit soort filmpjes heeft op de kijker. Creatieven willen je dingen laten geloven die je verbazen, grappig zijn of bepaalde overtuigingen over iemand bevestigen.

Stel je voor dat je Barack Obama in een filmpje ziet die bevestigd dat hij helemaal niet in Amerika geboren is. Of Donald trump die vertelt dat hij wel degelijk met Putin heeft samengespannen om de verkiezingen in 2016 te winnen. Dat spreekt een groot publiek aan en dankzij social media gaan dit soort filmpjes heel snel viraal.

Is deepfake ook in te zetten voor iets positiefs?

Er zijn nog weinig voorbeelden van deepfake filmpjes die volledig als positief bestempeld kunnen worden. Er bestaat bijvoorbeeld een malaria campagne van RSA Film Amsterdam. In de video hoor en zie je David Beckham 9 talen spreken en het filmpje wordt op social media gretig gedeeld. Het is niet bekend of dit door de technologie komt of door de beroemdheid Beckham.

Je zou kunnen zeggen dat alles wat fake is per definitie nooit positief is. Maar elke Hollywood film is ook pure fantasie en slechts zelden een realistische weergave van de realiteit. Misschien hebben creatieven, scenarioschrijvers en regisseurs meer tijd nodig om positieve toepassingen voor deepfake te vinden. Vooralsnog is ze dat nog niet gelukt. Dat hoeft nog geen reden zijn om ons zorgen te maken, maar het vraagt wel om oplettendheid omdat je vanaf nu je eigen oren en ogen niet meer kunt vertrouwen.