Nu de technologie om media te vervalsen nog niet helemaal perfect is, moeten we snel bepalen hoe die mag worden gebruikt. Anders is het te laat. Aldus desinformatie-expert en auteur van ‘Deepfakes & the Infocalyps. What You Urgently Need to Know’: Nina Schick.
Het einde van de waarheid
De term ‘infocalyps’ is een samentrekking van informatie en apocalyps. Oftewel: een voorspelling van het einde der tijden voor wat betreft betrouwbare informatievoorzieningen. Nina Schick beschrijft een samenleving waarin desinformatie (bewuste misleiding) en misinformatie (slechte informatie vanuit onkunde) welig kunnen tieren en bevolkingsgroepen uit elkaar drijven.
Manipulatief
Leugens zijn zo oud als de mensheid, maar de technieken waarmee ze zich digitaal razendsnel verspreiden zijn betrekkelijk nieuw. Daardoor wordt het steeds ingewikkelder om het eens te worden en ontstaat er steeds meer polarisatie. Iedereen heeft zo zijn eigen waarheid. Daarnaast voelen mensen vanwege o.a. secularisatie de urgentie om wel partij te kiezen of in elk geval gelijkgestemden (digitaal) te ontmoeten. Dat is met name het geval bij discussiegevoelige onderwerpen als klimaatverandering, immigratie, globalisering, rassenstrijd, abortus en uiteraard: corona. Op dit moment is er nog te weinig know-how en techniek bij consumenten aanwezig om ‘echt’ en ‘gemanipuleerd’ uit elkaar te houden. En daardoor worden we nog verder uit elkaar gespeeld.
Je bent ineens porno-actrice
Wat er in de Verenigde Staten op het gebied van desinformatie gebeurt, heeft de toon gezet voor de rest van de wereld, schrijft Schick in haar boek. Naast ‘fake news’ is er de opkomst van de ‘deep fakes’, oftewel het gebruik van synthetische media om verdeeldheid te zaaien of mensen in een slecht daglicht te plaatsen. Het zijn stukken tekst, geluid en/of beeld die er levensecht uitzien, maar in werkelijkheid zijn bewerkt middels AI. De eerste kwaadaardige inzet van die deepfakes was gericht tegen vrouwen. Hun gezichten werden ‘naadloos’ op die van pornoactrices gemonteerd. 96% van de nu bestaande deepfakes is seksgerelateerd. Niet alleen van celebs, maar ook van onbekende vrouwen. En de huidige consument ‘gelooft’ wat hij of zij ziet, leest en hoort. Met hele nare gevolgen.
Monddood maken
Tegenstanders van de Indiase journaliste Rana Ayyub verspreidden een deepfake-pornovideo van haar via WhatsApp om haar monddood te maken. “Zoals zo vaak in het internettijdperk staan vrouwen in de frontlinie”, vertelt Nina Schick in een interview met de Belgische krant ‘De Morgen’. “Maar naarmate deze technologie breder beschikbaar wordt, zal ze op veel meer manieren worden misbruikt. Er zijn al fraudegevallen met deepfake-technologie bekend. Een Brits energiebedrijf raakte €250.000,- kwijt aan oplichters die een deepfake hadden gebruikt van de stem van de Duitse directeur.”
Deze persoon bestaat niet
En er is nog een technische ontwikkeling gaande, namelijk het maken van nepgezichten. Net als bij deepfakes wordt GAN-technologie (generative adversarial networks) toegepast. Het ene netwerk laat duizenden foto’s van mensen zien, het andere leert zo mensengezichten te herkennen en zelf nieuwe samen te stellen. Scroll eens eens door ThisPersonDoesNotExist.com en geef toe: net echt, je zou ze zomaar tegen kunnen komen.
Opnieuw verdeeldheid zaaien
In landen als China en Rusland zijn al botcampagnes met nepgezichten ontdekt. Met behulp van trollen, nepnieuws en valse Facebook-groepen wisten de Russen verdeeldheid te zaaien over onder meer de Krimoorlog, de immigratiecrisis, het brexitreferendum en de Amerikaanse verkiezingen van 2016. Ook de campagne van Emmanuel Macron kreeg te maken met Russische hackers, waarbij gestolen documenten samen met nepdocumenten online werden gezet. China en Iran kijken de kunst inmiddels van Rusland af, met als doel het destabiliseren van andere landen.
Verdedigen
Er is niet één manier om deepfakes aan te pakken, schrijft Schick. Het is belangrijk dat meer mensen begrijpen hoe het werkt. Daarnaast moeten burgers zich er tegen kunnen verdedigen met behulp van journalistiek, wetenschap en organisaties die desinformatie in kaart brengen, maar ook met software die laat zien waar en wanneer iets is gemaakt. Ten slotte hebben mensen een ‘psychologische verdedigingsmuur’ nodig, waar desinformatie niet zomaar langskomt.
Obama over Trump, maar niet heus!
Het begint dus bij de consument die moet gaan snappen wat er (nu reeds) mogelijk is aan beduvelarij en dat die technieken steeds vernuftiger worden. Een bekend exposé daarvan is de video waarin voormalig president Barack Obama president Trump ‘a total and complete dipshit’ noemt. Het filmpje, ingesproken door cabaretier Jordan Peele, was juist bedoeld om mensen te waarschuwen tegen deepfakes. “Ik zou dit soort dingen nooit zeggen”, vertelt Obama later in de ‘video’. “Tenminste, niet in het openbaar.”
Wie of wat is jouw bron?
“De subjectieve werkelijkheid van mensen gaat teveel afwijken en is gebaseerd op wat zij als betrouwbare bronnen zien”, vertel Schick in de docu ‘Zien is geloven’ van VPRO Tegenlicht. Dat was tot pakembeet de jaren ’60 van de vorige eeuw ook het geval. Want als je als goed katholiek ‘De Volkskrant’ las, las je wat anders over de Haagse politiek of over de wereld daar buiten dan als je je dagelijks nieuws uit de communistische ‘De Waarheid’ tot je nam. En de waarheid is niet alleen wat bericht wordt, maar vaak nog meer datgene waar niet over bericht wordt. Met synthetische media erbij wordt dat nog een tandje verwarrender.
Valse informatie wint
Wanneer niet meer duidelijk is wat echt is en wat nep, zijn degenen die valse informatie willen verspreiden zelfs in het voordeel, volgens Nina Schick. “Mensen krijgen daardoor minder vertrouwen in bestuurders, maar ook in het democratische proces zelf. Het doet er niet meer toe wát de waarheid is, maar wie het voor elkaar krijgt zoveel mogelijk berichten te pushen.” Al een hele tijd geleden schreef ik zelf over een pleidooi voor een Burgelijk Wetboek voor ons digitale bestaan. Volgens Schick moet het hele systeem op de schop. “Het internet is te lang ongereguleerd geweest. Leugens vertellen, mensen intimideren: het kan allemaal anoniem en ongestraft. Er is geen mechanisme, zoals we dat in de rest van de samenleving wél hebben, dat wangedrag dempt.”
Capitool & Corona
Het Trump-twitter-tijdperk was nog maar een voorproefje. De bestorming van het Capitool liet zien hoe digitale desinformatie kan omslaan in geweld in de echte wereld. Als je geen gedeelde objectieve werkelijkheid en/of waarheid meer hebt, wordt een liberale democratie bijkans een onmogelijkheid. Met synthetische audio- & video-technologie kun je niet alleen iedereen laten doen en zeggen wat je wilt, maar je kunt ook alles ontkennen wat je gezegd hebt of gedaan hebt. Om Trump nog maar eens aan te halen: “Fake News!” Deze ontwikkeling in combinatie met de pandemie maken dat we allemaal onze eigen waarheid hebben. We zitten allemaal in onze eigen ‘filterbubbel’. Dat geeft veel onzekerheid en angst. Je kunt namelijk niet zeggen dat vaccins niet bijdragen aan de volksgezondheid, maar je kunt ook niet zeggen dat ze 100% veilig zijn. Goed-fout, zwart-wit bestaat niet meer. Iets vinden omdat je vader, de dominee of je politiek leider het zegt ook niet. Het vraagt een behoorlijke dosis intelligentie om te kunnen denken in grijstinten in plaats van in extreem gedachtengoed te vervallen. Aan alle kanten van het politieke spectrum wordt geframed en gemanipuleerd en de synthetische media maken de verdeeldheid alleen nog maar groter.
Laat je daarom vooral bijspijkeren. Bijvoorbeeld middels de documentaire ‘Zien is Geloven’ van VPRO’s Tegenlicht, die ook de positieve mogelijkheden van de allernieuwste mediatechnieken laat zien.
Beeld: Piqsels
