Súčasná digitálna éra prináša výzvy, na ktoré tradičné byrokratické štruktúry často nedokážu reagovať dostatočnou rýchlosťou. Príkladom tohto napätia je objavenie sa nového elitného hackerského modelu umelej inteligencie s názvom Mythos, ktorý vyvinula spoločnosť Anthropic. Tento technologický prelom naplno odhalil slabiny a limity Úradu Európskej únie pre umelú inteligenciu, ktorý bol zriadený s ambíciou stať sa globálnym arbitrom v oblasti bezpečnosti a regulácie AI. Ukazuje sa však, že európsky regulátor momentálne bojuje s nedostatkom prístupu k najmodernejším technológiám, ako aj s kritickým deficitom expertov, ktorí by dokázali čeliť hroziacej kríze v kybernetickej bezpečnosti. O probléme písal server Politico.
Čítajte viac Etika vs. Armáda: Pentagón zaradil Anthropic na čiernu listinu uprostred vojny
Model Mythos vzbudzuje značné obavy, pretože podľa dostupných informácií dokáže prekonávať ľudské schopnosti pri identifikácii a zneužívaní softvérových zraniteľností. Ak by sa takýto nástroj dostal do nepovolaných rúk, mohol by slúžiť ako zbraň pre škodlivých hackerov pri útokoch na kritickú IT infraštruktúru. Spoločnosť Anthropic si je tohto rizika vedomá, preto prístup k modelu prísne limituje a zdieľa ho len s vybranou skupinou partnerov a vládnych organizácií. Európska komisia však momentálne v tomto exkluzívnom zozname štyridsiatich entít chýba, čo potvrdil aj jej hovorca Thomas Regnier. Tento stav je v ostrom kontraste so Spojeným kráľovstvom, ktorého Inštitút pre bezpečnosť AI nielenže prístup získal, ale dokázal v rekordne krátkom čase vypracovať a zverejniť hĺbkovú analýzu rizík spojených s týmto modelom.
Čítajte viac Odtrhnutá umelá inteligencia: Keď sa algoritmy začnú brániť a šikanovať svojich tvorcov
Zástancovia bezpečnosti a odborná verejnosť varujú, že ak chce Európska únia naplniť svoje ambície, musí urýchlene posilniť personálne kapacity svojho úradu. Aktuálnych 140 zamestnancov, z ktorých len 36 pôsobí v kľúčovej bezpečnostnej jednotke, je považovaných za nepostačujúci počet vzhľadom na komplexnosť a rýchlosť vývoja v oblasti prelomovej AI. Koalícia ôsmich skupín pre bezpečnosť AI v liste adresovanom Komisii zdôraznila, že regulátor s nedostatočnými zdrojmi nemôže efektívne chrániť trh. Presadzujú preto radikálne navýšenie počtu expertov v bezpečnostnej jednotke na 160 členov do roku 2030, čo by zodpovedalo dôležitosti, akú EÚ prikladá presadzovaniu pravidiel na digitálnych platformách.
Čítajte viac Chatbot od Anthropic bol údajne zneužitý na kybernetické útoky
Okrem personálneho poddimenzovania čelí Úrad pre AI aj štrukturálnym a hierarchickým prekážkam. V súčasnosti je začlenený hlboko v rámci technologického oddelenia Komisie, čo vytvára viacero úrovní riadenia a oddeľuje technických expertov od politických rozhodovacích procesov. Táto odtrhnutosť od skutočnej moci spomaľuje akcieschopnosť v prípade krízových situácií. V porovnaní s britským modelom, kde má premiér priamu poradkyňu pre umelú inteligenciu a inštitút funguje bez regulačných právomocí, čo uľahčuje spoluprácu s firmami bez strachu z pokút, pôsobí európsky prístup ťažkopádne. Firmy sa môžu zdráhať zdieľať svoje najcitlivejšie modely s orgánom, ktorý má zároveň právomoc udeľovať pokuty až do výšky 35 miliónov eur.
Čítajte viac Keď algoritmus stlačí spúšť: Nová éra vojenstva bez ľudí
Brusel sa pokúša na tieto výhrady reagovať plánmi na nábor ďalších zamestnancov, no naráža na tvrdú realitu trhu práce. Úrad musí súperiť o talenty s technologickými gigantmi, ktorí ponúkajú neporovnateľne vyššie platy a pôsobia v atraktívnejších inovačných centrách, ako je napríklad Londýn. Zatiaľ čo britský inštitút je vnímaný ako špičkové vedecké pracovisko na hraniciach možného, európsky úrad musí ešte len dokázať, že dokáže vybudovať porovnateľnú technickú odbornosť. Krátkodobý plán najať pol tucta nových zamestnancov do konca júna je síce krokom vpred, ale v kontexte explozívneho nárastu schopností AI modelov môže ísť len o povestnú kvapku v mori. Ak sa Európe nepodarí prepojiť technickú excelentnosť s politickou agilitou, riskuje, že zostane len pasívnym pozorovateľom technologických pretekov, namiesto toho, aby určovala ich bezpečné smerovanie.
