Samenvatting:
- Onderzoekers vergeleken spamberichten van vóór het GPT-tijdperk met berichten van erna.
- Tegenwoordig wordt de meeste spam gegenereerd door kunstmatige intelligentie.
- BEC-berichten vereisen een grotere precisie.
Uit een recent onderzoek is gebleken dat de meeste spam-e-mails die tegenwoordig worden verzonden, worden geschreven door Generative Artificial Intelligence (GenAI).
Uit een rapport van Barracuda Networks blijkt dat cybercriminelen AI niet gebruiken om hun aanvalsmethoden radicaal te veranderen, maar juist om ze te verbeteren en moeilijker detecteerbaar te maken. Deze verbetering omvat aspecten zoals de kwaliteit van het taalgebruik, de vormgeving van berichten en personalisatie, waardoor ze geloofwaardiger overkomen.
De studie vergeleek e-mails die vóór de introductie van ChatGPT (d.w.z. vóór november 2022) werden verzonden met e-mails die daarna werden verzonden en constateerde een significante verschuiving, waarbij criminelen GenAI voornamelijk voor spam gebruiken. Deze verschuiving vormt een aanzienlijke uitdaging voor zowel individuen als organisaties, omdat het steeds moeilijker wordt om legitieme berichten van kwaadaardige te onderscheiden.
Verbeter de geloofwaardigheid
Studies hebben aangetoond dat in april 2025 51% van de spam-e-mails gegenereerd zal worden door kunstmatige intelligentie (AI) in plaats van door mensen. Deze verschuiving vormt een aanzienlijke uitdaging op het gebied van cybersecurity.
De onderzoekers legden uit dat "de meerderheid van de e-mails die momenteel in de map Ongewenste e-mail/Spam terechtkomen, is geschreven met behulp van een groot taalmodel (LLM)." Dit betekent dat kunstmatige intelligentie een belangrijk hulpmiddel is geworden in de handen van spammers.
Criminelen lijken daarentegen weinig enthousiast over het gebruik van AI in Business Email Compromise (BEC)-aanvallen. Volgens onderzoekers vereisen dit soort aanvallen een hoge precisie en zijn ze meestal gericht op een hooggeplaatste persoon binnen de organisatie. Hierdoor werd in april 2025 slechts 14% van de BEC-aanvallen gegenereerd door AI.
Zoals verwacht zijn door AI gegenereerde berichten beter geschreven. Ze zijn formeler, bevatten minder grammaticale fouten en zijn taalkundig verfijnder. Daardoor komen ze geloofwaardiger en professioneler over op slachtoffers, waardoor de kans groter wordt dat ze slachtoffer worden.
Het betekent ook dat cyberaanvallers die Engels niet als moedertaal hebben, het minder moeilijk zullen hebben om bedrijven in Engelstalige landen aan te vallen. Tot slot lijken oplichters AI te gebruiken om A/B-tests uit te voeren op verschillende spamvarianten, om te bepalen welke formuleringen het beste presteren in de praktijk.
De beste manier om je te verdedigen tegen door AI gegenereerde spam is door gebruik te maken van AI-gestuurde e-mailbeveiligingsoplossingen. In het pre-GPT-tijdperk kon je phishing en spam detecteren door simpelweg e-mails te scannen. Deze berichten stonden meestal vol met spelfouten en grammaticale fouten, en de taal was vaak grof en onbekend.
Omdat AI deze rode vlaggen heeft verwijderd, is er een geavanceerde oplossing voor e-mailbeveiliging, uitgerust met meerlaagse detectie en mogelijk gemaakt door Kunstmatige intelligentie/machinaal leren (AI/ML)Dit is "cruciaal", concludeerden de onderzoekers. Dit vereist investeringen in geavanceerde technologieën om organisaties te beschermen tegen geavanceerde bedreigingen.
