Millaista on hyperpersonoitu, tekoälyavusteinen tietojenkalastelu ja sen torjunta?

Tekoäly tekee yksilöllisestä, asiayhteyteen sidotusta ja luottamusta hyväksikäyttävästä tietojenkalastelusta nopeampaa, halvempaa ja helpommin toistettavaa. Lähestymistapa ei kuitenkaan perustu uuteen ihmispsykologiaan, vaan vanhojen inhimillisten heikkouksien täsmällisempään hyödyntämiseen rikollisten tarpeita varten.

Huijausviestit eivät ole enää kaikille lähetettyjä massaviestejä, vaan hyökkääjät rakentavat huijausviestejään vastaanottajalle ja hänen elämäntilanteeseensa sopiviksi, suunnitelmallisiksi viesteiksi tekoälyn avulla.

Tekoälyä käytetään potentiaalisten kohteiden etsimiseen ja saatavilla olevan tiedon yhdistelemiseen kohteiksi valikoituneista ihmisistä, esimerkiksi heidän vapaa-aikansa ja työelämän rooleistaan, ammatillisista yhteyksistään, työorganisaatioistaan ja ajankohtaisista tapahtumista, joihin kohteet ovat voineet ottaa kantaa sosiaalisessa mediassa.

Tiedon etsimisen, analysoinnin ja jäsentämisen jälkeen hyökkääjä voi tekoälypohjaisesti tuottaa viestin, joka näyttää liittyvän vastaanottajan todelliseen arkeen, kuten työhön, laskutukseen, henkilöstöhallintoon, käyttöoikeuksiin tai mahdollisesti meneillään olevaan työ- tai vapaa-ajan hankkeeseen.

Tärkein uusi muutos kalasteluviesteissä on uskottavan asiayhteyden rakentaminen. Ihminen ei välttämättä lankea kalasteluun vain siksi, että viesti on kirjoitettu sujuvalla ja virheettömällä kielellä, vaan koska viesti osuu sopivaan hetkeen tai hänen työrooliinsa. Jos lisäksi viesti näyttää tulevan oikealta taholta, liittyy tuttuun prosessiin ja sisältää vastaanottajalle merkityksellisiä yksityiskohtia, se ohittaa helpommin normaalin epäilyn siitä, että kyseessä olisi kalastelu- tai huijausviesti. Tekoäly tekee kalasteluviestien yksilöimisestä helpompaa, koska se voi nopeasti muokata saman huijausidean eri henkilöille eri muotoon.

Usein tekoälyn uhka kalasteluviesteissä kiteytetään kielen virheettömyyteen, mutta virheettömyys kannattaa nähdä vain sivutekijänä. Ihmiset ovat langenneet huijauksiin silloinkin, kun viestit ovat olleet kielellisesti kömpelöitä, koska kalasteluviestit käyttävät hyväkseen kohteen kiireen tunnetta, luottamusta auktoriteetteihin, velvollisuudentuntoa ja rutiininomaisia työskentelymalleja.

Tekoäly ei keksi näitä ihmispsykologian mekanismeja uudelleen, vaan auttaa osumaan niihin tarkemmin huijauksen kohteesta kerätyn tiedon pohjalta.

Olennainen muutos on myös mittakaava. Aiemmin tarkasti kohdistettu kalasteluviesti (spear phishing) vaati paljon ihmistyötä, tiedonhakua ja viestin muokkaamista. Siksi sitä käytettiin lähinnä arvokkaisiin kohteisiin. Tekoäly alentaa tätä kynnystä: hyökkääjä voi tuottaa suuren määrän erilaisille ihmisille räätälöityjä viestejä nopeasti ja halvalla. Tämä tekee yksilöidyistä kalasteluviesteistä tavallisempia.

Lisäksi kyse ei välttämättä ole enää vain sähköpostista tai tekstiviestistä. Sama huijaustarina voidaan viedä useaan kanavaan: viestiksi, puheluksi, kokouskutsuksi tai ääntä ja kuvaa hyödyntäväksi esiintymiseksi. Tämä tekee hyökkäyksestä uskottavamman, koska se muistuttaa tavallista työelämän viestintäketjua. Useasta suunnasta tuleva viestintä voi myös luoda kiireen ja paineen tuntua. Tekoälyä voidaan käyttää tekstin lisäksi äänen ja kuvan väärentämiseen, mikä lisää entisestään monikanavaisen huijauksen uskottavuutta.

Koska huijaukset edelleen hyödyntävät vanhoja inhimillisiä heikkouksia, torjunnan pitää yhdistää teknologia ja ihmiset. Teknologian tehtävä on tukea poikkeamien havaitsemista, viestien alkuperän arviointia ja epätyypillisten pyyntöjen nostamista tarkistettavaksi. Samalla työntekijöille on annettava selkeät toimintamallit:

• epäilyttävä pyyntö varmistetaan toisesta kanavasta,

• kiireeseen ei reagoida automaattisesti,

• poikkeavat maksut, käyttöoikeudet tai tietopyynnöt pysäytetään tarkistusta varten

Paras suoja syntyy, kun teknologia auttaa huomaamaan poikkeamat ja ihmisillä on lupa hidastaa silloin, kun viesti tuntuu liian kiireelliseltä, henkilökohtaiselta tai poikkeukselliselta.

Microsoft-ympäristössä tätä tukevat erityisesti Microsoft Defender for Office 365:n kalastelun, lähettäjän väärentämisen ja esiintymishyökkäysten tunnistus sekä Microsoft Defender XDR:n tutkintanäkymät ja kehittyneet hakukyselyt.

Me Context&:llä olemme erikoistuneet Microsoft-teknologioiden hyödyntämiseen asiakasympäristöissä, ja voimme lisäksi auttaa ihmiskeskeisessä lähestymismallissa; koulutuksissa ja toimintamallien kehittämisessä.

Tämä kirjoitus on toinen blogisarjassa, jossa keskitymme tekoälyn avustamiin petoksiin ja kuinka organisaatiot pystyvät suojautumaan niiltä. Lue ensimmäinen osa täältä!