Keď AI riadi jadrovú krízu
Výskum vedený profesorom Kennethom Paynom z King’s College London skúmal, ako by sa veľké jazykové modely správali v simulovanom konflikte medzi jadrovými štátmi. Do experimentu zapojili populárne modely ako ChatGPT, Claude či Gemini a postavili ich do role politických a vojenských lídrov.
Modely dostávali informácie o vývoji krízy, diplomatických signáloch aj vojenských krokoch protivníka. Následne mali rozhodovať, ako reagovať – od diplomacie cez konvenčné útoky až po použitie jadrových zbraní.
Cieľ bol jednoduchý: zistiť, či by umelá inteligencia v krízovej situácii konflikt skôr tlmila, alebo naopak vyostrovala.
95 percent scenárov sa skončilo eskaláciou
Výsledok bol prekvapivo jednoznačný. Vo veľkej väčšine simulácií – približne v 95 percentách – sa situácia skončila jadrovou eskaláciou. V každej simulovanej „hre“ aspoň jeden z modelov pristúpil k hrozbe alebo použitiu jadrových zbraní.
Modely pritom nereagovali spôsobom, ktorý by smeroval k upokojeniu situácie. Naopak, hrozby zo strany protivníka často viedli k ďalšiemu stupňovaniu napätia. Namiesto deeskalácie nasledovala reakcia – a tá bola spravidla tvrdšia než predchádzajúci krok.
Inými slovami: umelá inteligencia mala tendenciu konflikt uzatvárať nie kompromisom, ale eskaláciou.
Modely takmer nikdy neustúpili
Jedným z najzaujímavejších zistení bolo, že modely prakticky nevolili ústup. Aj v situáciách, kde mali k dispozícii diplomatické riešenia alebo možnosť znížiť napätie, ich využívali len minimálne. Konflikt síce niekedy „zmiernili“, no len zmenou intenzity – nie jeho ukončením.
Výskumníci upozorňujú, že modely sa správali skôr ako aktéri, ktorí nechcú stratiť pozíciu, než ako lídri, ktorí sa snažia zabrániť katastrofe.
Kľúčový problém je v tom, ako umelá inteligencia vníma samotné jadrové zbrane. Pre ľudí majú špecifický význam. Historická skúsenosť, politické tabu aj obavy z následkov robia z jadrových zbraní krajnú možnosť.
Modely však tento kontext nemajú. V simuláciách sa jadrové zbrane objavovali ako jeden z viacerých nástrojov, nie ako absolútna hranica. Rozhodovanie AI tak vychádzalo skôr zo strategickej logiky než zo „strachu z následkov“.
AI dokáže aj klamať a taktizovať
Správanie modelov naznačuje aj ďalší problém. Umelá inteligencia má tendenciu reagovať na hrozbu ďalšou hrozbou, vyhodnocovať ústup ako stratu a preferovať „silnú odpoveď“ pred kompromisom.
V praxi to znamená, že ak protivník eskaluje, model sa snaží držať krok – alebo ho prekonať. V prostredí jadrového konfliktu to môže viesť k veľmi rýchlej špirále eskalácie.
Experiment zároveň ukázal, že modely neboli len pasívnymi „počítadlami scenárov“. V niektorých prípadoch zvažovali, čo si myslí protivník a prispôsobovali tomu svoje kroky. Niekedy dokonca využívali prvky klamania alebo zavádzania.
Umelá inteligencia tak nevystupovala len ako analytický nástroj, ale ako aktér, ktorý sa snaží strategicky presadiť vlastný cieľ.
Nie je to prvý varovný signál
Podobné výsledky sa objavili aj v starších výskumoch. Štúdie zo Stanfordu či experimenty publikované na arXiv ukázali, že jazykové modely majú v konfliktných simuláciách tendenciu eskalovať napätie, vytvárať zbrojné preteky a v niektorých prípadoch dokonca pristúpiť k použitiu jadrových zbraní.
Niektoré experimenty dokonca ukázali, že modely dokážu navrhovať agresívne kroky bez jasného strategického dôvodu.
AI už dnes mení spôsob vedenia vojny
Výsledky štúdie prichádzajú v čase, keď sa umelá inteligencia čoraz viac integruje do vojenských systémov. Už dnes pomáha analyzovať spravodajské dáta, identifikovať ciele alebo skracovať rozhodovací proces z hodín na minúty.
Čítajte viac Nebezpečnejšia než jadrové zbrane? Technológia, ktorá desí expertov už zabíja na fronte
Niektoré systémy dokážu navrhovať ciele alebo priority pre útok v reálnom čase. Človek síce zostáva „v rozhodovacej slučke“, no AI sa stáva kľúčovým nástrojom, ktorý celý proces poháňa.
Problém nie je AI. Problém je, kde ju použijeme
Autori upozorňujú, že ide o simuláciu, nie o skutočné vojenské systémy. Výskum má odhaliť, ako tieto modely uvažujú v extrémnych situáciách. Zároveň však ukazuje, že ak by sa AI dostala do rozhodovacieho reťazca v krízových momentoch, jej správanie by nemuselo zodpovedať ľudskej logike.
Algoritmy môžu interpretovať jadrové zbrane ako jeden z mnohých strategických nástrojov, zatiaľ čo ľudia ich historicky vnímajú ako poslednú možnosť.
Podľa Payna môže byť dôvodom tejto tendencie absencia emócií a strachu z následkov. Modely napríklad nedokážu precítiť hrôzu z historických udalostí, akou bolo bombardovanie Hirošimy.
Čítajte viac Americký 'duch oblohy' dostal zásah. Prelomil Irán technológiu stealth, alebo len využil slabé miesto?
