Bezpečnostní experti sa obávajú, že nástroje umelej inteligencie (AI) budú čoskoro vykonávať sofistikované a ťažko odhaliteľné kybernetické útoky vo veľkom rozsahu. Vydanie ChatGPT v roku 2022 zmenilo prostredie kyberkriminality automatizovaným phishingom, deepfakemi a vývojom malvéru. Nová správa ThreatDown od kyberbezpečnostnej firmy Malwarebytes varuje pred bezprostredným nárastom autonómnych útočníkov s umelou inteligenciou a hroziacou transformáciou kyberkriminality. „Kyberkriminalita prechádza transformáciou,“ povedal Marcin Kleczynski, zakladateľ a generálny riaditeľ spoločnosti Malwarebytes.
Čítajte viac V Taliansku sa v roku 2024 zvýšil počet kybernetických útokov
„Nevidíme len nárast počtu útokov, ale aj úplne nové formy podvodov a automatizácie, ktoré by boli ešte pred niekoľkými rokmi nepredstaviteľné.“ Podľa správy umelá inteligencia uľahčila kyberzločincom skúmanie zraniteľností, písanie phishingových e-mailov, písanie kódu a vytváranie nových foriem sociálneho inžinierstva s klonovanými hlasmi a falošnými podobami. Uvádza niektoré z najvýznamnejších trendov:
- V januári 2024 videokonferencia, ktorá bola kompletne preplnená deepfakemi vrcholových manažérov generovanými umelou inteligenciou, oklamala finančného pracovníka globálnej inžinierskej firmy Arup a prinútila ho odovzdať kyberzločincom 25 miliónov dolárov.
- V roku 2023, po vydaní ChatGPT, výskumníci zo spoločnosti SlashNext zaznamenali masívny nárast škodlivých phishingových správ o 1 265 %.
- Podľa výskumu spoločnosti The Transparency Company umelá inteligencia čiastočne alebo úplne vygenerovala v roku 2024 najmenej 2,3 milióna recenzií produktov.
- Podľa Centra pre finančné služby spoločnosti Deloitte sa očakáva, že straty spôsobené podvodmi s e-mailami s umelou inteligenciou dosiahnu do roku 2027 11,5 miliardy dolárov.
- Propaganda preniká do chatbotov. V roku 2024 dezinformačná sieť „Pravda“ publikovala 3,6 milióna článkov, ktorým sa podarilo infikovať mnoho populárnych generatívnych nástrojov umelej inteligencie kremeľskou propagandou.
- Finančné inštitúcie zaznamenali nárast používania podvodných dokladov totožnosti generovaných umelou inteligenciou, varoval úrad FinCEN amerického ministerstva financií.
Zdá sa však, že to najhoršie ešte len príde, keďže kyberzločinci sa stávajú zručnejšími v používaní nástrojov umelej inteligencie. „Budú nevyhnutne použité na zvýšenie počtu a rýchlosti útokov, ktoré si vyžadujú veľa ľudskej práce – vrátane najnebezpečnejšej formy kybernetických útokov, ransomvéru vo veľkom,“ uvádza sa v správe. Nástroje umelej inteligencie umožnia hackerom nasadiť „roje škodlivých nástrojov a enormne škálovať svoje útoky“ a budú bežať 24 hodín denne, 7 dní v týždni. Výskumníci úspešne demonštrovali, ako sa nástroje umelej inteligencie dajú použiť aj na ofenzívnu kybernetickú bezpečnosť.
Čítajte viac Pochopenie sociálneho inžinierstva - ochrana pred kybernetickými hrozbami
Minulý rok výskumníci vytvorili ReaperAI, plne autonómny nástroj kybernetickej bezpečnosti, ktorý dokáže vykonávať útočné operácie s minimálnym ľudským dohľadom. Ďalší nástroj s umelou inteligenciou s názvom AutoAttacker napodobňuje gangy s ransomvérom a demonštruje, že občasné útoky sa dajú premeniť na rutinné, vysokorýchlostné operácie. Google's Big Sleep bola prvá umelá inteligencia, ktorá objavila reálnu zero-day zraniteľnosť v široko používanej softvérovej aplikácii. Výskumníci spoločnosti Malwarebytes sa domnievajú, že na to, aby organizácie čelili rastúcej hrozbe kyberkriminality poháňanej umelou inteligenciou, musia zmenšiť priestor pre jej útoky, neustále monitorovať systémy a okamžite reagovať na upozornenia.
