In een wereld waar je online identiteit direct gekoppeld is, is het vooruitzicht van een perfecte herhaling van je look verontrustend. Maar dat is precies waar we mee te maken hebben met de komst van deepfake-technologie.
Wat zijn de gevaren van deepfakes naarmate technologie goedkoper en gebruiksvriendelijker wordt? Bovendien, hoe herken je een deepfake in vergelijking met de real deal?
Snelle links
Wat is deepfake?
Deepfakes is de term voor media waarbij een persoon in een video of foto wordt vervangen door het uiterlijk van een ander. De term is een combinatie vandiep leren" En de "de nepHet maakt gebruik van machine learning en kunstmatige intelligentie-algoritmen om media te creëren die er perfect realistisch uitzien, maar kunstmatig zijn.
Op zijn eenvoudigst zou je een gezicht op een ander model kunnen vinden. Op zijn snelst evoluerende ergste, deepfake-technologie integreert nietsvermoedende slachtoffers in neppornovideo's, nepnieuws, hoaxes en meer.
Wat zijn de risico's van deepfakes?
nep foto's altijd aanwezig. Detecteren wat nep is en wat niet is een normaal onderdeel van het leven, vooral na de opkomst van digitale media. Maar de problemen die deepfake-technologie met zich meebrengt, zijn anders en bieden een ongeëvenaarde nauwkeurigheid voor nepfoto's en gereproduceerde video's.
Een van de eerste deepfakes die een breder publiek bereikte, was Jordan Peele, die zich voordeed als Barack Obama in een video waarin de kwestie werd besproken:
De video ziet er grof uit, met een vreemd geluid en wat bultjes op het gezicht van de kloon. Het demonstreert echter de techniek van diepe nep.
Of heb je je ooit afgevraagd hoe het zou zijn als Will Smith Neo in The Matrix zou spelen in plaats van Keanu Reeves (ik bedoel, wie niet?!)? Ik vraag me niet meer af:
Deze video's zijn niet kwaadaardig, omdat het honderden uren machine learning kost om ze te compileren. Maar de technologie zelf is beschikbaar voor iedereen die voldoende tijd heeft om te leren en de rekenkracht die daarbij hoort. De drempel voor het gebruik van de diepgaande vervalsingstechniek was aanvankelijk erg hoog. Maar naarmate de technologie is verbeterd en de toegangsdrempels drastisch zijn gedaald, beginnen steeds meer mensen deepfakes te gebruiken voor veel negatieve en schadelijke dingen.
Voordat we ingaan op de donkere kant van deepfake-technologie, hier is Jim Carrey die Jack Nicholson verving in The Shining:
1. Neppornografie van een aantal beroemdheden
Een van de belangrijkste bedreigingen van deepfake-technologie is pornografie, of neppornografie zoals het bekend staat. Er zijn tienduizenden nepvideo's met de gezichten van beroemde vrouwen als Emma Watson, Natalie Portman en Taylor Swift.
Ze gebruiken allemaal valse algoritmen voor machinaal leren om het gezicht van een beroemdheid op het lichaam van een actrice te snijden, en ze trekken allemaal tientallen miljoenen views op veel websites met inhoud voor volwassenen.
Geen van deze websites doet echter iets aan deepfakes van beroemdheden.
Giorgio Patrini zegt: "Zolang er geen sterke reden is om ze eruit te filteren, gebeurt er niets." "Mensen zullen nog steeds vrij zijn om dit soort materiaal te uploaden zonder enige gevolgen voor deze websites die door honderden miljoenen mensen worden bekeken."
De video's zijn uitbuitend en verre van slachtoffervrij, aangezien sommige makers van inhoud beweren deepfakes te zijn.
2. Neppornografie die gewone mensen treft
Wat is erger dan nep-porno van beroemdheden? Dat klopt: neppornografie die vrouwen laat zien die minder beroemd of onvoorspelbaar zijn voor wat er om hen heen gebeurt en wier levens schade kunnen oplopen als ze worden vervalst in pornovideo's of zoiets. Een Cinecity-onderzoek heeft een deepfake-bot onthuld op de social messaging-app Telegram, die meer dan 100.000 nep-naaktfoto's heeft gemaakt. Veel foto's werden gestolen van sociale netwerkaccounts, waaronder vriendjes, vriendinnen, echtgenotes, moeders, enz.
De bot is een grote vooruitgang in deepfake-technologie, omdat de bot voor het uploaden van afbeeldingen geen actuele kennis van deepfakes, machine learning of kunstmatige intelligentie nodig heeft. Het is een geautomatiseerd proces waarvoor één afbeelding nodig is. Bovendien lijkt de Telegram-bot alleen te werken met vrouwenfoto's, en zijn premium abonnementen (meer foto's, verwijderd watermerk) super goedkoop.
Laten we eerlijk zijn: de aanjagers van dit soort AI-onderzoek zijn bijna allemaal mannen. De slachtoffers zijn bijna allemaal vrouwen. Zouden ze "zo arrogant zijn als die nare dingen met hen gebeurde, in tegenstelling tot een vrouw verderop in de straat?" https://t.co/d3rbIb9g5F
— Drew Harwell (@drewharwell) October 20, 2020
Net als deepfake-afbeeldingen van beroemdheden, zijn deepfake-afbeeldingen van Telegram-bots uitbuitend, beledigend en immoreel. Ze heeft gemakkelijk toegang tot de inbox van een echtgenoot, partner, familielid, collega of bedrijfseigenaar, wat mogelijk levens verwoest. De kans op afpersing en andere vormen van afpersing is zeer groot en vergroot de dreiging van bestaande problemen, zoals wraakporno.
Het verspreiden van deepfakes op Telegram leidt ook tot een ander probleem. Telegram is een berichtenservice die zich richt op privacy en die zijn gebruikers niet veel hindert. Het heeft een beleid om pornobots en andere bots met betrekking tot materiaal voor volwassenen te verwijderen, maar het heeft in dit geval niets gedaan.
3. Misleidend materiaal
Je hebt Jordan Peele Obama zien spelen. In deze video waarschuwt hij voor de gevaren van deepfakes. Een van de grootste zorgen over deepfake-technologie is dat iemand een video zal maken en posten die zo realistisch is dat het op de een of andere manier tot een tragedie leidt.
Aan de extremen van de schaal zeggen sommige mensen dat deepfake-video-inhoud een oorlog kan uitlokken. Maar er zijn ook andere grote gevolgen. Een nepvideo waarin een groot bedrijf of een bankdirecteur een kwaadaardige verklaring aflegt, kan bijvoorbeeld leiden tot een beurscrash. Nogmaals, hij is een extremist. Maar echte mensen kunnen de video bekijken en controleren of deze betrouwbaar is, terwijl wereldwijde markten direct op het nieuws reageren en er geautomatiseerde verkoop plaatsvindt.
Het andere ding om te overwegen is de grootte. Naarmate de kosten voor het maken van deepfake-inhoud toenemen, vergroot dit de mogelijkheid om enorme hoeveelheden deepfake-inhoud voor dezelfde persoon te hebben, waarbij de nadruk ligt op het verzenden van hetzelfde nepbericht in verschillende kleuren, plaatsen, patronen en meer.
4. Ontkenning van echt materiaal
Als een verlengstuk van misleidend en nepmateriaal, moet je bedenken dat deepfakes ongelooflijk realistisch zullen worden. Zozeer zelfs dat mensen zich gaan afvragen of de video echt is of niet, ongeacht de inhoud.
Als iemand een misdaad heeft begaan en het enige bewijs is video, wat weerhoudt hem er dan van om te zeggen: "Het is nep, het is vals bewijs"? Omgekeerd, hoe zit het met het plaatsen van nep videobewijs dat iemand kan vinden?
5. Geleid door vals denken en sociale contacten
Er zijn zelfs veel gevallen geweest van deepfake-inhoud die pretendeerde doordacht te zijn. LinkedIn- en Twitter-profielen beschrijven functies op hoog niveau in strategische organisaties, maar deze persoonlijkheden bestaan niet en zullen waarschijnlijk worden gecreëerd met behulp van deepfake-technologie.
Dit is echter geen specifiek probleem voor deepfakes. Sinds het begin van de geschiedenis hebben regeringen, spionagenetwerken en bedrijven valse profielen en persoonlijkheden gebruikt om informatie te verzamelen, agenda's te bevorderen en te manipuleren.
6. Phishing-zwendel, social engineering en andere oplichting
Social engineering is al een issue als het om veiligheid gaat. Mensen willen anderen vertrouwen. Dit zit in onze natuur. Maar dit vertrouwen kan leiden tot beveiligingsinbreuken, gegevensdiefstal en meer. Social engineering vereist vaak persoonlijk contact, of het nu via de telefoon is, via een videogesprek, enz.
Laten we zeggen dat iemand diepe nep kan gebruiken om een bedrijfsmanager te imiteren om toegang te krijgen tot beveiligingscodes of andere gevoelige informatie. In dit geval kan dit leiden tot een stortvloed aan deepfake-zwendel.
Hoe herken en detecteer je deepfakes
Naarmate de kwaliteit van deepfakes toeneemt, is het belangrijk om methoden van deepfakes te ontdekken. In het begin waren er een paar kleine anekdotes: wazige beelden, videocorruptie en stoten en andere gebreken. Deze veelbetekenende problemen nemen echter af, terwijl de kosten van het gebruik van technologie snel dalen.
Er is geen perfecte manier om deepfake-inhoud te herkennen, maar hier zijn vier handige tips:
- de details. Hoe goed deepfake-technologie ook is geworden, er zijn nog steeds kleine onderdelen om mee te worstelen. Met name minuscule details in video's, zoals haarbeweging, oogbeweging, wangstructuren, beweging tijdens spraak en abnormale gezichtsuitdrukkingen. Geweldige oogbeweging. Hoewel deepfakes nu effectief kunnen flitsen (in de begintijd was dit een belangrijk signaal), was oogbeweging nog steeds een probleem.
- gevoelens. Hechten aan detail is een passie. Als iemand een sterk statement maakt, zal zijn gezicht een scala aan emoties vertonen en tegelijkertijd details geven. Een diepe neptechniek kan niet dezelfde diepte van emotie bieden als een echt persoon.
- inconsistentie. De videokwaliteit is op een historisch hoogtepunt. De smartphone in je zak kan opnemen en verzenden in 4K. Als een politiek leider een statement maakt, staat hij voor een zaal vol eersteklas opnameapparatuur. Daarom is een slechte opnamekwaliteit, zowel visueel als hoorbaar, een opvallende tegenstrijdigheid.
- Bron. Verschijnt de video op een geverifieerd platform? Sociale netwerkplatforms gebruiken verificatie om ervoor te zorgen dat wereldwijd bekende mensen niet worden geïmiteerd. Natuurlijk zijn er problemen met de platforms. Maar door te controleren waar een bijzonder expliciete video wordt gestreamd of gehost, weet je of deze echt is. Je kunt ook proberen Voer een omgekeerde afbeeldingszoekopdracht uit Om andere plaatsen te detecteren, staat de afbeelding op internet.
Tools voor diepgaande detectie en preventie van vervalsingen
U bent niet de enige in de strijd tegen deepfake-detectie. Verschillende grote technologiebedrijven ontwikkelen tools om deepfakes te detecteren, terwijl andere platforms stappen ondernemen om deepfakes permanent te voorkomen.
De deepfake-detectietool van Microsoft, Microsoft Video Authenticator, analyseert bijvoorbeeld binnen enkele seconden en informeert de gebruiker over de authenticiteit ervan (zie het GIF-bestand hieronder voor een voorbeeld). Tegelijkertijd stelt Adobe u in staat om inhoud digitaal te ondertekenen om deze te beschermen tegen manipulatie.
De Video Authenticator-app van Microsoft detecteert deepfakes en analyseert snel functieshttps://t.co/dFQBclXJgL
— Gavin Phillips (@GavinSpavin) October 26, 2020
Platformen als Facebook en Twitter hebben al kwaadaardige deepfake-content verbannen (deepfake-content zoals Will Smith in The Matrix is nog steeds fair game), terwijl Google werkt aan een text-to-speech-analysetool om nep-audiofragmenten tegen te gaan.
Deepfakes komen eraan - en ze worden beter
Het feit is dat sinds de deepfake-technologie in 2018 mainstream werd, het primaire gebruik ervan is om vrouwen te misbruiken. Of het nu gaat om het maken van nepporno met het gezicht van een beroemdheid of het strippen van iemand op sociale netwerken, het is allemaal gericht op het uitbuiten, manipuleren en vernederen van vrouwen over de hele wereld.
Het lijdt geen twijfel dat er een deepfake-opstand op komst is. De opkomst van dergelijke technologie vormt een gevaar voor het publiek, maar er zijn weinig middelen om de opmars ervan te stoppen.
