Plne autonómne drony bez ľudského dohľadu mali na Ukrajine po prvý raz zabiť vojakov na bojisku. Tvrdí to Oleksandr Kochanovskyj, predstaviteľ ukrajinského obranného priemyslu, ktorý o teste hovoril pre magazín New Scientist na podujatí ukrajinskej ambasády.
Podľa Kochanovského išlo o jednorazový test spred dvoch rokov na fronte pri Bachmute a Časiv Jare. Zúčastniť sa ho malo desať dronov riadených umelou inteligenciou (AI), označovaných ako ‚Terminator‘. Drony mali byť vyslané smerom k ruskej línii, za približne desať minút prekonať tri až päť kilometrov a následne zapnúť režim, v ktorom systém AI samostatne vyhľadával a zasahoval ciele.
„Vyskúšali sme to. Bol to test. Nikdy sme to nezaviedli vo väčšom rozsahu,“ povedal Kochanovskyj. Tvrdí, že operáciu vykonala nemenovaná ukrajinská vojenská jednotka počas protiofenzívy. Sám podľa vlastných slov pri teste osobne nebol.
Vypustíme ho a zničí, čo nájde
Kochanovskyj opísal systém ako zbraň bez spojenia s operátorom po vypustení. Obsluha podľa neho nemala obraz, nemohla sledovať, čo dron vidí, a nemala možnosť zasiahnuť do výberu cieľa. „Jednoducho ho vypustíme a vieme, že všetko, čo sa v danej oblasti nájde, bude zničené,“ uviedol. Po teste boli do oblasti vyslané prieskumné drony riadené ľuďmi, aby výsledky skontrolovali. Podľa Kochanovského bolo medzi zasiahnutými cieľmi „niekoľko vojakov a jedno nákladné auto“.
Tvrdenie však nie je nezávisle potvrdené záznamom samotného útoku. New Scientist uvádza, že neexistuje video, ktoré by zachytávalo automatizované drony pri zásahu cieľov. Záver, že ruských vojakov a vozidlo zničili práve tieto stroje, bol vyvodený až po následnej kontrole oblasti.
Ukrajinské ministerstvo obrany na otázky magazínu o teste ani o súčasnom právnom režime plne autonómnych zbraní nereagovalo. Podľa zdrojov z obranných firiem, ktoré vystúpili na rovnakom podujatí ukrajinskej ambasády, však Kyjev v súčasnosti zakazuje použitie umelej inteligencie v poslednej fáze zásahu cieľa.
Major Danylo Položuchno z ukrajinského 21. samostatného pluku bezpilotných systémov 3. armádneho zboru, ktorý o teste nevedel a nebol doň zapojený, uviedol, že jeho vojaci používajú poloautonómne systémy, no vždy so zapojením človeka. „Nepoužívame plne autonómne dronové systémy, ktoré by samostatne vyberali a zasahovali ciele bez účasti operátora,“ povedal. Dodal, že Ukrajina dodržiava medzinárodné humanitárne právo a pri rozhodovaní postupuje opatrne, aby zabránila civilným obetiam.
Umelá inteligencia na bojisku
AI sa už v rôznych systémoch používa pri rozpoznávaní objektov, sledovaní cieľov, navádzaní alebo prekonávaní elektronického rušenia. Umelá inteligencia stáva súčasťou bojového rozhodovania. Analýza amerického think-tanku CSIS konštatuje, že Ukrajina výrazne pokročila najmä v čiastočnej autonómii bezpilotných systémov, predovšetkým vo vzduchu, no pri rozhodnutí o použití zbrane má podľa doterajšej praxe zostať kritická ľudská kontrola.
Ukrajinské ministerstvo obrany 17. marca oznámilo vznik Defense AI Center „A1“, prvého rezortného centra excelentnosti pre integráciu umelej inteligencie do obrany. Medzi jeho úlohy zaradilo analýzu bojových dát, predpovedanie krokov nepriateľa, vývoj autonómnych systémov a nové nástroje velenia a riadenia.
Rezort neskôr spresnil, že A1 sa má zamerať aj na AI pre drony a robotické platformy schopné fungovať bez GPS a v prostredí silného elektronického boja. Cieľom je prepájať tieto systémy do jednotnej bojovej siete, aby mohli plniť úlohy s menšou prítomnosťou vojakov priamo na bojisku.
Ako sme už skôr informovali, podobný vývoj je vidieť aj pri ukrajinských útokoch na ruskú logistiku v okupovanej Doneckej oblasti. Jednotky 1. zboru Azov uviedli, že sledujú a ničia ruské zásobovacie trasy pri Donecku a že ruské kolóny už nemajú pri meste voľný pohyb. V súvislosti s týmito útokmi sa objavili drony Hornet, spájané s viacstupňovým AI navádzaním a výberom cieľa pred finálnym potvrdením operátorom.
Reuters tento týždeň napísal, že Azov používa AI-podporované drony Hornet pri útokoch na ruské logistické trasy v okolí Mariupoľa a Donecka. Podľa agentúry operátori jednotky upravili systém tak, že doň integrovali terminály Starlink, čím rozšírili pôvodný dosah okolo 100 kilometrov. Cieľom týchto útokov má byť najmä narušenie prepravy paliva a zásob cez kľúčové trasy v okupovanom juhovýchode Ukrajiny.
Čítajte aj Nočná mora ľudstva. Vedci zverili jadrové zbrane umelej inteligencii, výsledok naháňa strach
Na väzbu medzi ukrajinským dronovým programom a americkým technologickým kapitálom existuje aj oficiálna stopa. Kancelária ukrajinského prezidenta vlani uviedla, že minister obrany Rustem Umerov a Eric Schmidt, bývalý šéf Googlu a šéf spoločnosti Swift Beat, podpísali memorandum o dlhodobom strategickom partnerstve. Dokument podľa Kyjeva predpokladá prioritné dodávky moderných dronov pre Ukrajinu vrátane interceptorov proti ruským bezpilotným prostriedkom a raketám.
Drony s AI sa zároveň stávajú odpoveďou na ruské elektronické rušenie. Reuters už skôr informoval, že ukrajinské aj ruské jednotky nasadzujú obrazové rozpoznávanie, ktoré dronu umožňuje pokračovať na cieľ aj po strate spojenia s operátorom. Kyjev pritom verejne tvrdí, že konečné rozhodnutie o útoku má zostať na človeku.
„Morálne odpudivé a desivé“
Medzinárodný zákaz smrtiacich autonómnych zbraní zatiaľ neexistuje, no OSN aj humanitárne organizácie dlhodobo varujú pred systémami, ktoré by mohli samostatne vyberať a ničiť ľudí bez ľudskej kontroly. Generálny tajomník OSN António Guterres takéto zbrane označil za politicky neprijateľné a morálne odpudivé. Medzinárodný výbor Červeného kríža odporúča nové právne záväzné pravidlá, ktoré by zakázali nepredvídateľné autonómne zbrane a systémy navrhnuté na použitie sily proti ľuďom.
Obavy sa netýkajú len etiky, ale aj praktickej spoľahlivosti. Autonómny systém môže zle vyhodnotiť cieľ, nerozlíšiť civilistu od vojaka, zasiahnuť vlastné jednotky alebo konať v prostredí, ktoré sa líši od dát, na ktorých bol trénovaný. Problémom je aj zodpovednosť. Ak stroj bez priameho ľudského zásahu vyberie a zničí cieľ, nie je jasné, kto nesie právnu a morálnu zodpovednosť za následky.
Mariarosaria Taddeová z Oxfordskej univerzity pre New Scientist povedala, že zabíjanie pomocou AI berie vojakovi dôstojnosť, odstraňuje zodpovednosť útočníka a malo by byť zakázané. „Nie je to len problematické, je to desivé,“ uviedla.
Anthony King z Exeterskej univerzity naopak upozorňuje, že hoci plne autonómne útoky sú technologicky možné, z vojenského hľadiska zatiaľ nemusia byť také rozhodujúce, ako sa často predpokladá. Podľa neho je zachovanie človeka v rozhodovacom procese v tejto fáze nielen eticky správne, ale aj vojensky efektívnejšie.
Kochanovskyj tvrdí, že projekt Terminator po teste nepokračoval práve pre ukrajinské pravidlá. V súčasnosti vedie spoločnosť Aero Center, ktorá podľa neho do spomínaného testu zapojená nebola, keďže vtedy ešte neexistovala. Firma vyvíja autonómne záchytné drony proti ruským kamikadze dronom typu Šáhid.
Jej systém ALITA má pozostávať zo 16 odpaľovacích stanovíšť so 64 dronmi. Podľa Kokhanovského má byť pripravený do októbra a má byť schopný automaticky vyhľadávať prichádzajúce drony, štartovať a letieť k cieľu rýchlosťou 450 kilometrov za hodinu. Cieľom je ničiť menšie drony, ale aj väčšie vzdušné ciele vrátane vrtuľníkov.
Kochanovskyj tvrdí, že každý krok systému môže byť manuálny alebo automatický, no finálnu fázu automatizovať nesmú. Na otázku, či by chcel pravidlá zmeniť, odpovedal: „Rád by som.“
Čítajte aj Na Ukrajine sa objavila zbraň, ktorá vzbudila pozornosť. Projekt exšéfa Googlu môže byť prelomový
