Spoločnosť IBM vo svojej každoročnej správe o nákladoch na narušenie bezpečnosti údajov uvádza, že nekontrolované nástroje umelej inteligencie robia kybernetické útoky nákladnejšími.
- Pätina opýtaných organizácií zažila kybernetický útok spôsobený bezpečnostnými problémami s tieňovou AI, čo je pojem pre neriadené a neschválené nástroje AI.
- Tieto útoky stáli v priemere o 670 000 dolárov viac než úniky v spoločnostiach s malým alebo žiadnym využívaním tieňovej AI.
- Hoci len 13 % organizácií priznalo, že ich narušenie bezpečnosti zahŕňalo nástroje AI, až 97 % z nich nemalo zavedené správne kontroly prístupu.
Správa tak ilustruje možné dôsledky nedostatočnej pozornosti venovanej bezpečnosti AI.
Čítajte viac Spoločnosť OpenAI podpísala strategické partnerstvo s Veľkou Britániou
Najčastejším pôvodom týchto útokov boli útoky na dodávateľský reťazec, pri ktorých hackeri získali prístup k nástrojom AI prostredníctvom kompromitovaných aplikácií, API alebo doplnkov. To poukazuje na dôležitosť základných bezpečnostných princípov, ako je napríklad nulová dôvera. Po preniknutí na platformu AI hackeri často narušili aj iné dátové úložiská (v 60 % prípadov) a niekedy dokonca spôsobili prevádzkové narušenia dôležitej infraštruktúry (31 % prípadov).
Čítajte viac Je umelá inteligencia hrozbou pre ľudstvo? Nie, Golema tiež zneškodnil jeho stvoriteľ
Napriek jasným dôkazom, že prísne bezpečnostné opatrenia môžu zabrániť nákladným únikom, podniky sa neponáhľajú s implementáciou riadiacich programov. Až 63 % spoločností, ktoré zažili narušenie, uviedlo, že nemali žiadnu politiku riadenia AI. Aj organizácie s existujúcimi politikami často zlyhávajú – menej než polovica z nich má schvaľovací proces pre nasadzovanie AI a 62 % z nich nezaviedlo silné kontroly prístupu. Iba 34 % organizácií s politikami riadenia AI pravidelne kontroluje svoje siete, či neobsahujú schválené nástroje, čo vysvetľuje prevahu tieňovej AI.
Čítajte viac Umelá inteligencia redefinuje detekciu kybernetických hrozieb
Hackeri naďalej využívajú generatívnu AI na spúšťanie útokov. V priemere 16 % narušení bezpečnosti zahŕňalo útočníkov, ktorí použili AI, najčastejšie na AI-generovaný phishing (37 %) a deepfake útoky (35 %). IBM už predtým uviedla, že generatívna AI skrátila čas potrebný na napísanie presvedčivého phishingu zo 16 hodín na päť minút. Správa spoločnosti IBM je založená na 470 rozhovoroch s pracovníkmi 600 organizácií, ktoré utrpeli narušenie bezpečnosti údajov medzi marcom 2024 a februárom 2025.
