Nieuw onderzoek levert bewijs dat psychopathische persoonlijkheidskenmerken worden geassocieerd met de creatie en verspreiding van deepfake-pornografie. De bevindingen zijn gepubliceerd in het tijdschrift Computers in Human Behaviour .
Deepfakes, een samentrekking van ‘deep learning=diep leren’ en ‘fake=nep’, beschrijven realistische nepbeelden, audio en video’s die worden gegenereerd met behulp van kunstmatige-intelligentiesoftware. Een deepfake-video van voormalig president Barack Obama die een krachtterm gebruikte om president Donald Trump te beschrijven, ging in 2018 viraal. Meer zorgwekkend is dat de technologie is gebruikt om neppornografische inhoud te creëren waarbij echte individuen zonder toestemming betrokken zijn.
“Hoewel beoefenaars en wetgevers in het Verenigd Koninkrijk onlangs grote vooruitgang hebben geboekt om gedragingen die verband houden met op afbeeldingen gebaseerd seksueel misbruik illegaal te maken (bijv. ‘wraakpornografie’), moet er nog meer worden gedaan voor even impactvol en schadelijk gedrag, zoals als deepfake-productie van seksuele media”, legt studieauteur Dean Fido uit , een universitair hoofddocent forensische psychologie aan de Universiteit van Derby.
“Deepfaking verwijst in dit geval naar de productie van seksueel expliciete afbeeldingen met behulp van kunstmatige intelligentie om één afbeelding naar een secundaire bron te transponeren om de indruk te wekken dat iemand seksueel gedrag vertoont. Onderzoek op dit gebied is van cruciaal belang vanwege zowel de frequentie waarmee dergelijke afbeeldingen en video’s worden gemaakt, als de sociale (bijv. reputatie), professionele (bijv. beëindiging van het dienstverband) en fysieke en mentale gevolgen voor de gezondheid (bijv. slecht geestelijk welzijn en mogelijk zelfmoord en zelfbeschadiging) om het slachtoffer te worden van deepfaking.”
Voor hun studie hebben de onderzoekers willekeurig 290 Britse deelnemers toegewezen om een van de vier beschrijvingen te lezen die een deepfake-incident beschrijven waarbij een persoon een nep-geseksualiseerde afbeelding van een andere persoon had gecreëerd en gedeeld nadat hij niet in staat was om hen in een fysieke relatie te betrekken. Het slachtoffer werd beschreven als een man of een vrouw en als een beroemdheid of een gewoon persoon.
De onderzoekers ontdekten dat deelnemers die hoger scoorden op een mate van psychopathie, meer geneigd waren te geloven dat het slachtoffer verantwoordelijk was voor het incident, minder geneigd waren de situatie als schadelijk te beschouwen en minder geneigd waren te geloven dat het incident een criminele zaak was. Meer psychopathische individuen waren ook meer bereid om zelf deepfakes te maken en te verspreiden. Degenen die hoger scoorden op een mate van geloof in een rechtvaardige wereld, waren ook meer geneigd het slachtoffer de schuld te geven en deepfakes te verspreiden.
“Persoonlijkheidskenmerken die verband houden met de ondersteuning van afwijkend online gedrag en seksuele delicten in het algemeen, bijvoorbeeld psychopathie, voorspelden mildere oordelen over misdrijven en een grotere neiging om afbeeldingen te maken en te delen – wat suggereert dat we door verder onderzoek mogelijk in staat zouden kunnen zijn om beter voorspellen van mensen die meer geneigd zijn om dergelijk gedrag te vertonen en dienovereenkomstig in te grijpen, “legde Fido uit.
De onderzoekers ontdekten ook dat deepfake-pornografie met vrouwelijke slachtoffers geassocieerd was met een grotere perceptie van schade en criminaliteit dan gevallen met mannelijke slachtoffers. Vrouwen hadden de neiging om de deepfake-incidenten als schadelijker en crimineler te beschouwen dan mannen. Mannen hadden de neiging om gevallen van deepfake-pornografie waarbij slachtoffers van beroemdheden betrokken waren, als minder schadelijk en minder crimineel te beschouwen dan zaken waarbij niet-beroemde slachtoffers betrokken waren. Vrouwen maakten daarentegen geen onderscheid tussen slachtoffers van beroemdheden en niet-beroemdheden.
In een tweede onderzoek repliceerden de onderzoekers hun bevindingen in een steekproef van 364 Britse deelnemers. Ze probeerden ook te onderzoeken of deepfake-afbeeldingen die uitsluitend voor persoonlijk gebruik zijn gegenereerd, anders zouden worden waargenomen dan afbeeldingen die werden gedeeld. Voor zowel slachtoffers van beroemdheden als niet-beroemdheden, ervoeren deelnemers meer slachtofferschade wanneer de afbeeldingen werden gedeeld in vergelijking met wanneer de afbeeldingen alleen voor persoonlijk gebruik werden gemaakt.
Foto van Markus Spiske
“We merkten consequent op dat bij mildere beoordelingen van scenario’s waarbij gebruik werd gemaakt van deepfaking, slachtoffers betrokken waren die beroemdheden en mannen waren, en wanneer afbeeldingen werden gemaakt voor zelf-seksuele bevrediging in plaats van te worden gedeeld – wat suggereert dat situationele elementen en demografische gegevens van slachtoffers van invloed zijn op hoe ze zullen worden gezien door de algemene bevolking,” vertelde Fido aan PsyPost.
De onderzoekers ontdekten ook dat deelnemers die zich aangetrokken voelden tot vrouwen (een steekproef die voornamelijk bestond uit heteroseksuele mannen maar ook enkele homoseksuele vrouwen) aangaven minder bereid te zijn om deepfake-afbeeldingen te delen.
“Wat ook interessant is, is de neiging van mannen om niet bereid te zijn om deepfaked materiaal te delen”, legt co-auteur Craig Harper uit , een hoofddocent aan de Nottingham Trent University. “Voor ons lijkt dit erop te wijzen dat mannen die bereid zouden zijn om deepfake-pornografie te maken, dit niet zouden doen om een potentieel slachtoffer in verlegenheid te brengen of te vernederen, maar dit materiaal in plaats daarvan voornamelijk zouden gebruiken voor hun eigen seksuele bevrediging. Met dit privégebruik in gedachten, is het heel goed mogelijk dat sommige slachtoffers van deepfaking nooit weten dat hun afbeeldingen op zo’n manier zijn gebruikt.”
Zoals bij elke studie, bevat het nieuwe onderzoek enkele beperkingen.
“Er zijn twee belangrijke kanttekeningen bij dit onderzoek”, legt Fido uit. “De eerste is dat het volledig deelnemers uit het Verenigd Koninkrijk heeft gesampled. Hoewel dit is ontworpen om consistentie van de context, bredere waarden en wetgeving te garanderen, is het belangrijk om deze bevindingen internationaal te repliceren en mogelijke culturele elementen te onderzoeken die kunnen bijdragen aan variatie in resultaten.”
“Ten tweede, hoewel we vertrouwen hebben in de contextuele nauwkeurigheid van de verhalen die we aan onze deelnemers hebben gepresenteerd, zijn deze niet geïnformeerd door personen met ervaring met het plegen van of het slachtoffer zijn van deepfaking. Toekomstig onderzoek zou baat hebben bij dit adviesbureau om onze onderzoeksstrategieën beter te informeren.”
Deepfakes zijn een relatief nieuw fenomeen en de onderzoekers merkten op dat er nog veel te leren is over de psychologische variabelen die erbij betrokken zijn.
“Tot op heden is er extreem weinig onderzoek gedaan naar voorspellers van het deelnemen aan deepfake-mediaproductie en -verspreiding,” zei Fido. “Hoewel we gegevens hebben kunnen genereren met betrekking tot de hypothetische generatie van dergelijke afbeeldingen, moeten we nog precies begrijpen waarom iemand dergelijke media zou willen genereren en/of verspreiden. Het ontwikkelen van deze kennis is een belangrijke toekomstige stap, die ook zal worden meegenomen in adviesinformatie en interventieprogramma’s om deepfaking te voorkomen. Als zodanig verwelkomen we contact van slachtoffers, beleidsmakers en academische/industriële medewerkers om ons begrip op dit gebied te verbeteren.”
“Er is nog zoveel dat we niet weten over dit soort gedrag,” voegde Harper eraan toe. “We zijn er met name niet in geslaagd om de stem van het slachtoffer te vangen in dit werk, en dit is iets dat we graag willen doen in toekomstige werkzaamheden om zowel de kwaliteit van ons vermogen om mensen te detecteren die het risico lopen om deel te nemen aan deepfaking, te verbeteren, maar ook om de verhalen te vertellen van degenen die hebben meegemaakt dat hun beelden zonder hun toestemming werden gebruikt.”
Deze website bevat info die mogelijks niet geschikt is voor kinderen. U bevestigt minstens 16 jaar te zijn. Deze website gebruikt cookies. U gaat daarmee akkoord.
