Spoločnosť Microsoft zrýchľuje vývoj agentov AI súvisiacich s kybernetickou bezpečnosťou. 5. augusta firma predstavila Projekt Ire, systém umelej inteligencie navrhnutý na automatickú detekciu a autonómnu klasifikáciu malvéru. Táto iniciatíva spája divízie počítačového výskumu a výskumu kybernetickej bezpečnosti spoločnosti Microsoft. Na rozdiel od bežných nástrojov na detekciu a analýzu malvéru dokáže agent Projektu Ire sám určiť, či je softvér nebezpečný alebo neškodný, a to tak, že vykoná reverzné inžinierstvo softvérového súboru – úlohu, ktorá umožňuje pochopiť, ako a prečo program funguje. „Systém využíva pokročilé veľké jazykové modely (LLM) a sadu nástrojov na reverzné inžinierstvo a binárnu analýzu na uskutočnenie vyšetrovania a vynesenie verdiktu,“ vysvetľuje tím desiatich výskumníkov.
Čítajte viac Čínski štátni hackeri sa zameriavajú na zákazníkov Microsoftu
Microsoft objasňuje, že jeho systém je založený na architektúre schopnej uvažovať na „viacerých úrovniach, od nízkoúrovňovej binárnej analýzy, cez rekonštrukciu riadiaceho toku, až po hĺbkovú interpretáciu správania kódu“. Agent najprv identifikuje typ súboru, jeho štruktúru a kľúčové prvky, potom rekonštruuje jeho riadiaci graf pomocou open-source rámcov, ako sú Ghidra (vyvinutá NSA) a ANGR (analytická platforma pre Python). Kľúčové prvky sa následne analyzujú prostredníctvom API, čo umožňuje vygenerovať reťaz dôkazov, ktorá podrobne opisuje použitú metódu. „Na overenie svojich záverov môže Projekt Ire použiť overovací nástroj, ktorý porovnáva tvrdenia zo správy s reťazcom dôkazov,“ spresňuje Microsoft. „Tento nástroj sa spolieha na svedectvá expertov na reverzné inžinierstvo malvéru z tímu Projektu Ire.“ Nakoniec sa vytvorí záverečná správa, ktorá automaticky klasifikuje softvér ako malvér alebo neškodný.
Čítajte viac Microsoft ohlasuje AI systém lepší ako lekári pri diagnostike komplexných zdravotných stavov
Spoločnosť vykonala test v reálnych podmienkach so 4 000 súbormi označenými ako ťažké ciele, teda súbormi, ktoré nemohli byť klasifikované automatizovanými systémami a vyžadovali si ľudskú kontrolu. „Systém dosiahol vysoké skóre presnosti 0,89, čo znamená, že takmer 9 z 10 súborov označených ako malvér bolo správne identifikovaných,“ tvrdia výskumníci z Microsoftu. „Skóre spätného vyhľadávania bolo 0,26, čo naznačuje, že v týchto náročných podmienkach systém detegoval približne štvrtinu skutočného malvéru.“ Miera falošných poplachov dosiahla 4 %.
Čítajte viac Francúzsky telekomunikačný gigant Orange odhalil kybernetický útok
Nástroj, ktorý je zatiaľ vo fáze prototypu, by mal byť čoskoro integrovaný do balíka bezpečnostných riešení Microsoft Defender pod názvom Binary Analyzer. Počítačový gigant tvrdí, že analyzuje viac ako miliardu koncových zariadení mesačne, čo si vyžaduje pravidelnú ľudskú kontrolu. „Naším cieľom je optimalizovať rýchlosť a presnosť systému, aby dokázal správne klasifikovať súbory z akéhokoľvek zdroja už pri prvej detekcii,“ sľubuje spoločnosť. „V konečnom dôsledku je našou víziou detegovať nový malvér priamo v pamäti, a to vo veľkom rozsahu.“ Prezentácia tohto systému prichádza niekoľko mesiacov po tom, ako Microsoft integroval desiatky agentov AI do svojej ponuky Security Copilot, ktorá bola pôvodne spustená v marci 2023. Šesť agentov vyvinula samotná spoločnosť, pričom zahŕňajú nástroje na spracovanie upozornení na phishing a úniky údajov.
