De phishingmail die je AI-filter overtuigt

Veel organisaties laten phishing inmiddels aan AI over. Het filter leest de hele mail, weegt toon en context, en velt een oordeel. Dat werkt goed, tot aanvallers begrijpen hoe dat oordeel tot stand komt. En dat begrijpen ze inmiddels.

Onderzoekers van Barracuda kwamen ruim een miljoen phishingmails tegen waarin een oude techniek weer opduikt. Reden om je eigen mailbeveiliging tegen het licht te houden.

Een oude truc in een nieuw jasje

De techniek heet text salting. Aanvallers verstoppen grote lappen onzichtbare tekst in een mail. Jij ziet daar niets van, de scanner leest alles mee.

Een phishingmail bevat meestal woorden waar filters op reageren. Dringend, beloning, verlopen. Bij text salting verdrinken die woorden in een berg onschuldige zinnen die de ontvanger nooit te zien krijgt. Vaak willekeurige verhaaltjes over neutrale onderwerpen, van puppy’s tot notities en boeken. De verdachte signalen vallen daardoor veel minder op.

Hoe het werkt

De trucs zijn technisch simpel. Lettergrootte op nul. Een weergavevenster dat helemaal is verkleind. Tekst die zo ver is ingesprongen dat hij buiten beeld valt. Ook knippen aanvallers zinnen in de HTML op rare plekken op. Zet in “Uw wachtwoord is verlopen” wat onzichtbare tekst tussen de woorden, en een filter dat op die exacte zin zoekt vindt niets meer.

Wat de ontvanger uiteindelijk wél ziet, is een gewoon lokkertje. Verlopende spaarpunten, een cadeaubon, een beloning die je even moet claimen.

Waarom AI hier onderuit gaat

Traditionele filters kennen deze aanpak al langer. Nieuw is dat steeds meer organisaties hun mailbeveiliging op taalmodellen bouwen, en die zijn er extra gevoelig voor.

Een taalmodel beoordeelt een mail op het geheel. Toon, context, sentiment, de sfeer van de tekst. Daarom zet je het in. Het betekent ook dat al die verstopte, onschuldig ogende tekst net zo zwaar meeweegt als de eigenlijke boodschap. Die rustige zinnen trekken het oordeel de verkeerde kant op en het model concludeert dat er niets aan de hand is.

Wat het erger maakt, is de schaal. Met generatieve AI kost het een aanvaller vrijwel niets om voor elke mail nieuwe, natuurlijk klinkende vultekst te maken. Detectie op vaste patronen levert weinig op. Je verdedigt je met AI tegen een aanvaller die dezelfde AI inzet, en voor hem is het goedkoper. Dat AI zich laat misleiden zagen we eerder bij een AI-browser die tijdens een spelletje wachtwoorden weggaf.

Van losse filters naar regie

De eerste reactie is meestal een nieuwe truc, dus een nieuwe tool. Daarmee sla je de plank mis. Elke afzonderlijke laag is te omzeilen zodra iemand weet hoe die laag redeneert. En dat weten aanvallers.

Hier zit precies waar Running IT voor staat. Wij voeren de regie over het geheel. Welke lagen je nodig hebt, hoe ze elkaar opvangen als er eentje faalt, en of dat samen nog klopt zodra de aanvalstechniek verandert. Oplossingen van Barracuda, dezelfde partij die dit onderzoek publiceerde, zetten we daarbij in als een van die lagen. Dezelfde denkwijze zie je terug in cyberincidenten ontstaan zelden door één fout.

Dat houden we in de gaten voordat jij het merkt. Een klant betaalt bij ons voor minder risico, meer controle en het bewijs dat het klopt. In sectoren met NIS2, ISO of een toezichthouder in de buurt is dat laatste hoofdzaak. Daar zit het verschil tussen “we hebben een filter” en aantoonbaar in control zijn.

Wat je zelf kunt doen

Begin bij een simpele vraag aan de partij die je mail beveiligt. Hoe gaat jullie filter om met verborgen tekst? Blijft een helder antwoord uit, dan weet je genoeg.

Controleer daarna of DMARC, SPF en DKIM ingericht staan én echt worden gemonitord. Die vertellen je of een mail komt van wie hij beweert te zijn, en dat laat zich met verstopte tekst niet wegpoetsen. Laat verder kijken of je beveiliging in lagen afwijkingen in de opmaak zelf oppikt, zoals lettergrootte nul en verborgen HTML-blokken. Dat is een signaal los van wat er in de tekst staat.

En onderschat de mens niet. De medewerker die stilstaat bij een verzoek dat net te dringend of te mooi is en het meldt in plaats van erop klikt, vangt precies wat de techniek liet passeren. Doorlopende bewustwording met echte phishingsimulaties is vaak de controle die het verschil maakt.

De bredere les

Text salting is klein en technisch, het punt erachter is dat niet. AI verandert de aanvalskant net zo hard als de verdedigingskant, en meestal iets eerder. Elke keer dat we een nieuwe detectielaag als het definitieve antwoord omarmen, gaat de aanvaller op zoek naar de aanname eronder.

De mail die je filter overtuigt, is nu juist de mail waar je scherp op moet zijn. Dat scherp blijven is het werk dat wij van je overnemen. Twijfel je of je mailbeveiliging nog op de juiste aannames rust? We denken graag met je mee.