In een technologisch tijdperk waarin de kracht van computers en kunstmatige-intelligentiemodellen aanzienlijk is toegenomen, is de prevalentie van deepfakes toegenomen, waardoor iedereen geïnteresseerd is. Deepfaking betekent het creëren van visuele of audio-inhoud die door menselijke individuen in hoge resolutie lijkt te zijn opgenomen. Deepfakes bedreigen elk aspect van de samenleving.
Ons vermogen om nep-inhoud te identificeren is cruciaal voor het neutraliseren van desinformatie, maar naarmate de AI-technologie verbetert, wie kunnen we dan vertrouwen om deepfakes te ontdekken? Hier rijst de vraag: wie is beter in het detecteren van deep fakes: mensen of kunstmatige intelligentie?
Al duizenden jaren zijn mensen succesvol in het onderscheiden van geluiden, gezichten en het begrijpen van talen. Maar kunnen AI-aangedreven machines deze capaciteiten overtreffen? Dit artikel onderzoekt de uitdagingen en ontwikkelingen op het gebied van deepfake-detectie en vergelijkt de capaciteiten van menselijke en kunstmatige intelligentie in deze context. Verifiëren Hoe weet je of een video deepfake is aangepast?
Snelle links
De gevaren van deepfakes
Naarmate de AI-technologie vordert, vormen de gevaren van deepfakes een steeds grotere bedreiging voor ons allemaal. Hier is een korte samenvatting van enkele van de meest urgente problemen die door deepfakes worden veroorzaakt:
- Desinformatie: Valse video- en audio-opnamen kunnen misleidende informatie verspreiden, zoals nepnieuws.
- identiteitsdiefstal: Door zich voor te doen als individuen kunnen deepfakes de reputatie van mensen schaden of iedereen die ze kennen voor de gek houden.
- Nationale veiligheid: Een voor de hand liggend deepfake-oorlogsscenario zijn gefabriceerde beelden of audio-opnamen van een wereldleider die aanzet tot conflicten.
- Maatschappelijke onrust: Partijen kunnen ook misleidende beelden en audiofragmenten gebruiken om woede en burgerlijke onrust onder specifieke groepen aan te wakkeren.
- Cyberbeveiliging: Cybercriminelen maken al gebruik van door AI aangedreven tools voor het klonen van stemmen om individuen te targeten met overtuigende berichten van mensen die ze kennen.
- Privacy en toestemming: Het kwaadwillige gebruik van deepfakes neemt de vorm aan van individuen zonder hun toestemming.
- Vertrouwen en het gebrek daaraan: Als je geen onderscheid kunt maken tussen waarheid en bedrog, wordt nauwkeurige informatie even onbetrouwbaar.
Deepfakes zullen overtuigender worden, dus we hebben krachtige tools en methoden nodig om ze te detecteren. Kunstmatige intelligentie biedt zo’n instrument in de vorm van deepfake-detectiemodellen. Maar net als algoritmen die zijn ontworpen om door AI gegenereerd schrijven te herkennen, zijn deepfake-detectietools niet perfect en zullen ze nooit perfect accuraat zijn.
Op dit moment is het menselijk oordeel het enige andere instrument waarop we kunnen vertrouwen. Zijn we dus beter dan algoritmen in het identificeren van deepfakes?
Kunnen algoritmen deepfakes beter detecteren dan mensen?
Deepfakes vormen een bedreiging die zo ernstig is dat gigantische technologiebedrijven en onderzoeksgroepen enorme middelen aan onderzoek en ontwikkeling besteden. In 2019 boden bedrijven als Meta, Microsoft en Amazon $ XNUMX miljoen aan prijzen aan tijdens een uitdaging Deepfake Detection Challenge Voor het meest nauwkeurige detectiemodel.
Het best presterende model was 82.56% nauwkeurig vergeleken met een dataset van openbaar beschikbare video's. Toen dezelfde modellen echter werden getest aan de hand van een ‘black box dataset’ van 10000 ongeziene video’s, was het best presterende model slechts 65.18% nauwkeurig.
We hebben ook veel onderzoeken waarin de prestaties van AI-deepfake-detectietools tegen mensen worden geanalyseerd. Uiteraard variëren de resultaten van onderzoek tot onderzoek, maar over het algemeen evenaren mensen het succespercentage van deepfake-detectietools of overtreffen ze dit zelfs.
Uit een in 2021 gepubliceerd onderzoek bleek... PNAS ‘Gewone menselijke waarnemers’ bereikten een iets hogere nauwkeurigheid dan toonaangevende deepfake-detectietools. Uit het onderzoek bleek echter ook dat menselijke deelnemers en AI-modellen gevoelig waren voor verschillende soorten fouten.
Interessant is dat het onderzoek van... Universiteit van Sydney Ik ontdekte dat het menselijk brein onbewust effectiever is in het detecteren van deepfakes dan onze bewuste inspanningen. Verifiëren De belangrijkste risico's van deepfake-technologie en hoe deze te detecteren.
Ontdek visuele aanwijzingen in deepfake-technologie
De wetenschap achter deepfake-detectie is complex en de vereiste analyse varieert afhankelijk van de aard van de beelden. Zo is een nepvideo van de Noord-Koreaanse leider Kim Jong Un uit 2020 in wezen een discussievideo. In dit geval is de meest effectieve manier om deepfakes te detecteren het analyseren van fonemen (mondbewegingen) en fonemen (stemgeluiden) op inconsistenties.
Menselijke experts, gewone kijkers en algoritmen kunnen dit soort analyses uitvoeren, zelfs als de resultaten variëren. Hij specificeert Massachusetts Institute of Technology (MIT) Acht vragen om nepvideo's te helpen identificeren:
- Besteed aandacht aan het gezicht. Bij geavanceerde deepfake-manipulaties zijn vaak gezichtstransformaties betrokken.
- Besteed aandacht aan de wangen en het voorhoofd. Ziet de huid er te glad of te gerimpeld uit? Komt de leeftijd van de huid overeen met de leeftijd van het haar en de ogen? Het kan zijn dat ze in sommige dimensies niet overeenkomen.
- Let op de ogen en wenkbrauwen. Verschijnen er schaduwen op de plaatsen die u verwacht? Deepfake-technologie kan de natuurlijke fysica van de scène mogelijk niet volledig weergeven.
- Let op de bril. Is er sprake van verblinding? Is er veel verblinding? Verandert de verblindingshoek wanneer de persoon beweegt? Opnieuw zal deepfake-technologie er wellicht niet in slagen de natuurlijke fysica van verlichting volledig weer te geven.
- Aandacht besteden aan gezichtshaar of het ontbreken daarvan. Ziet dit gezichtshaar er echt uit? Deepfake-technologie kan een snor, bakkebaarden of baard toevoegen of verwijderen. Het kan echter zijn dat deepfake-technologie er niet in slaagt volledig natuurlijke gezichtshaartransformaties te creëren.
- Besteed aandacht aan gezichtsvlekken. Ziet de mol er echt uit?
- Let op de wimpers. Knippert de persoon voldoende of te veel?
- Let op de lipbewegingen. Sommige deepfakes zijn afhankelijk van lipsynchronisatie. Zien uw lipbewegingen er normaal uit?
De nieuwste AI-deepfake-detectietools kunnen dezelfde factoren opnieuw analyseren, met wisselend succes. Datawetenschappers ontwikkelen ook voortdurend nieuwe methoden, zoals het detecteren van de normale bloedstroom in de gezichten van luidsprekers op het scherm. Nieuwe methoden en verbeteringen aan bestaande methoden kunnen ertoe leiden dat AI-deepfake-detectietools in de toekomst consequent beter presteren dan mensen.
Detecteren van audio-aanwijzingen in deepfakes
Het detecteren van nepgeluid is een heel andere uitdaging. Zonder de visuele signalen van video en de mogelijkheid om audiovisuele inconsistenties te identificeren, leunt deepfake-detectie sterk op audio-analyse (andere methoden zoals metadataverificatie kunnen in sommige gevallen ook helpen).
Ik heb een onderzoek gevonden dat je hebt gepubliceerd Universiteits Hogeschool Londen In 2023 kunnen mensen nepaudio met 73% detecteren (in het Engels en Mandarijn). Net als bij nepvideo's detecteren menselijke luisteraars vaak intuïtief onnatuurlijke spraakpatronen in door AI gegenereerde spraak, zelfs als ze niet kunnen identificeren wat onnatuurlijk klinkt.
Veelvoorkomende symptomen zijn onder meer:
- De lettergrepen.
- Gebrek aan expressie.
- Achtergrondgeluid of interferentie.
- – Inconsistentie in stem of spraak.
- Gebrek aan “volheid” in klanken.
- Overdreven schriftelijke levering.
- Geen gebreken (valse starts, correcties, keelschrapen, etc.).
Ook hier kunnen algoritmen ook spraak analyseren op dezelfde deepfake-signalen, maar nieuwe methoden maken de tools nog effectiever. Ze schetste het onderzoek dat ze deed USENIX Patronen in de reconstructie van het stemkanaal met behulp van kunstmatige intelligentie die natuurlijke spraak niet nabootsen. Waar het op neerkomt is dat AI-geluidsgeneratoren identiek geluid produceren over smalle stemkanalen (ongeveer zo groot als een rietje) zonder de natuurlijke bewegingen van menselijke spraak.
Eerder onderzoek uitgevoerd door Horst Goertz Instituut Het analyseerde echte en nep-audio in het Engels en Japans, waarbij subtiele verschillen in de hoge frequenties van echte en nep-spraak aan het licht kwamen.
Zowel de contrasten van het stemkanaal als de hoge frequenties kunnen worden waargenomen door menselijke luisteraars en AI-detectiemodellen. In het geval van hoogfrequente verschillen zouden AI-modellen in theorie steeds nauwkeuriger kunnen worden – hoewel hetzelfde ook zou kunnen worden gezegd voor AI-deepfakes.
Mensen en algoritmen worden misleid door deepfakes, maar op verschillende manieren
Studies suggereren dat mensen en de nieuwste AI-detectietools op dezelfde manier deepfakes kunnen opmerken. Slagingspercentages kunnen variëren van 50% tot 90+%, afhankelijk van de testcriteria.
Mensen en machines worden dus in vergelijkbare mate ook misleid door deepfakes. Het is echter van cruciaal belang dat we op verschillende manieren kwetsbaar zijn, en dit kan onze grootste troef zijn bij het aanpakken van de risico’s van deepfake-technologie. Het combineren van de sterke punten van mensen en deepfake-detectietools zal hun respectievelijke zwakke punten verzachten en de succespercentages verbeteren.
Ik heb bijvoorbeeld gevonden Onderzoek van het Massachusetts Institute of Technology Mensen waren beter in het herkennen van nepbeelden van wereldleiders en beroemdheden dan modellen van kunstmatige intelligentie. Daaruit bleek ook dat de AI-modellen moeite hadden met het oppikken van audio van meerdere mensen, hoewel dit suggereert dat dit een gevolg kan zijn van het feit dat de algoritmen werden getraind op beelden met individuele stemmen.
Omgekeerd bleek uit hetzelfde onderzoek dat AI-modellen beter presteren dan mensen met video's van lage kwaliteit (wazig, korrelig, donker, enz.) die opzettelijk kunnen worden gebruikt om menselijke kijkers te misleiden. Op dezelfde manier omvatten moderne AI-detectiemethoden, zoals het monitoren van de bloedstroom in specifieke delen van het gezicht, analyses die mensen niet kunnen uitvoeren.
Naarmate er meer methoden worden ontwikkeld, zal niet alleen het vermogen van AI om signalen te detecteren die we niet kunnen detecteren verbeteren, maar ook het vermogen om te misleiden. De grote vraag is of deepfake-detectietechnologie deepfakes zelf kan overtreffen. Verifiëren Hoe kunt u de dreiging van virtuele ontvoering aanpakken en uzelf online beschermen? Herken bedreigingen.
veelgestelde vragen
Q1. Wat is deepfake-technologie?
Deepfakes zijn een technologie die kunstmatige intelligentie gebruikt om visuele of audio-inhoud te creëren die met hoge nauwkeurigheid door menselijke proefpersonen lijkt te zijn geproduceerd.
Vraag 2. Wat zijn de toepassingen van deepfakes?
Deepfake-technologie wordt gebruikt in een breed scala aan toepassingen, waaronder film, de game-industrie, beveiliging, fraude en meer.
Q3. Hoe kunnen deepfakes worden gedetecteerd?
Er is aanhoudende vooruitgang op het gebied van deepfake-detectietechnieken met bijdragen van kunstmatige intelligentie, maar menselijke hulpmiddelen en methoden zijn nog steeds noodzakelijk.
Q4. Wat zijn de uitdagingen waarmee deepfake-detectie wordt geconfronteerd?
Tot de uitdagingen behoren de voortdurende ontwikkeling van namaaktechnologieën en de moeilijkheid om onderscheid te maken tussen echte inhoud en deepfakes.
Vraag 5. Kan kunstmatige intelligentie beter presteren dan mensen bij het detecteren van deep fakes?
Kunstmatige intelligentie boekt aanzienlijke vooruitgang, maar menselijke capaciteiten zijn in deze context nog steeds belangrijk.
Dingen anders zien in het tijdperk van deepfakes
Op AI gebaseerde deepfake-detectietools zullen blijven verbeteren, evenals de kwaliteit van deepfake-inhoud zelf. Als het vermogen van AI om te misleiden groter is dan het vermogen om te detecteren (zoals het geval is met door AI gegenereerde teksten), zou het menselijk oordeel het enige instrument kunnen zijn dat we nog hebben om deepfakes te bestrijden.
Het is de verantwoordelijkheid van iedereen om de tekenen van deepfakes te herkennen en te herkennen. Afgezien van het beschermen van onszelf tegen oplichting en veiligheidsbedreigingen, is alles wat we online bespreken en delen kwetsbaar voor verkeerde informatie als we het zicht op de realiteit verliezen. Je kunt nu bekijken Risico's van het schrijven van AI-inhoud en hoe door AI gegenereerde tekst te detecteren.
