Zatiahne nás AI do jadrovej vojny? Vedci ju nechali riadiť krízy a výsledok je znepokojivý
Experiment z King’s College London ukázal, že jazykové modely v simulovaných vojnových scenároch siahajú po taktických jadrových zbraniach v 95 % prípadov. Výskum upozorňuje na riziko eskalácie, ak by AI získala väčší vplyv v armádnom rozhodovaní.
Veľké jazykové modely sú takmer všade. Nájdeš ich vo svojom smartfóne, vyhľadávaš pomocou nich informácie, upravujú ti fotografie. No využívajú ich už aj armády, najmä pri analýzach, logistike či simuláciách. Nedávny experiment však ukázal, ako by to mohlo vyzerať, keby takéto modely rozhodovali v mene štátov počas krízy. A výsledky nie sú práve upokojujúce.
Výskumníci z King’s College London priniesli zistenia o tom, ako sa umelá inteligencia správa v simulovaných vojnových konfliktoch. Autormi experimentu boli odborníci na obranné štúdiá vedení Kennethom Paynom, ktorí testovali tri pokročilé jazykové modely: GPT-5.2, Claude Sonnet 4 a Google Gemini 3 Flash.
Každý z nich bol zasadený do viacerých napätých globálnych scenárov. Od regionálnych hraničných kríz až po situácie, kde išlo o samotné prežitie štátu. Modely dostali rozpracovanú „škálu eskalácie“, teda možnosti konania od diplomatického dialógu až po použitie taktických jadrových zbraní.
Zatiaľ bude dobré, ak sa AI nezverí všetko
Počas 21 hier a 329 rozhodovacích kôl vyprodukovali systémy vyše 780-tisíc slov argumentácie na obhajobu svojich krokov. V 95 % simulovaných konfliktov sa aspoň jedna strana rozhodla pre použitie taktických jadrových zbraní. Ani jeden model pritom nikdy úplne nekapituloval alebo sa bezpodmienečne nepodriadil protivníkovi.
Payne k tomu poznamenal, že „zábrany voči jadrovému útoku, ktoré sú pre ľudí silné, sa u strojov jednoducho neprejavujú“. Zaujímavé však je, že po prvom použití taktickej jadrovej zbrane ustúpil protivník bez odvety len v približne 18 % prípadov. To znamená, že vo väčšine simulácií nasledovala ďalšia eskalácia.
Neprehliadni
Modely sa navyše nesprávali tak racionálne, ako by si niekto mohol myslieť. V 86 % simulácií došlo k neúmyselnej eskalácii. Inými slovami, systémy zvolili tvrdší postup, než aký samy vo svojom zdôvodnení označovali za primeraný. Namiesto deeskalácie mali tendenciu „pritvrdiť“, pričom zníženie napätia využívali skôr ako dočasnú taktiku než ako dlhodobú stratégiu.
Spoločnosti stojace za vývojom týchto modelov zatiaľ na výskum nereagovali. Vedúci výskumu zároveň zdôraznil, že cieľom experimentu nebolo dokázať, že súčasné modely sú pripravené spôsobiť katastrofu. Skôr chceli upozorniť na to, ako by sa mohli správať, ak by im bol zverený príliš veľký rozhodovací vplyv bez adekvátneho dohľadu.
Takéto správanie vzbudilo pozornosť aj u bezpečnostných expertov. James Johnson z Univerzity v Aberdeene označil výsledky za znepokojujúce a upozornil, že interakcia viacerých AI systémov by mohla viesť k reťazovej eskalácii. V porovnaní s ľudským rozhodovaním, kde zohráva úlohu strach z následkov a skúsenosť s rizikom, môže byť strojová kalkulácia chladnejšia a nekompromisnejšia.
Spôsobí umelá inteligencia vyhladenie ľudstva?
Umelá inteligencia už dnes zohráva v armádnych simuláciách čoraz väčšiu úlohu. Ako pripomenul Tong Zhao z Princeton University, veľmoci AI využívajú najmä pri modelovaní scenárov a analýzach. Zatiaľ však nejde o priame rozhodovanie o odpálení zbraní. Riziko spočíva skôr v tom, že pri extrémne krátkych reakčných časoch – napríklad pri varovaní pred raketovým útokom – môže narásť tlak spoliehať sa na odporúčania algoritmov.
„Krátke reakčné časy pri raketových varovaniach môžu vytvoriť silnejšiu motiváciu spoliehať sa na AI,“ upozornil Zhao.
Jazykovým modelom nechýbajú len emócie, ale aj subjektívne vnímanie „stávky“. Dokážu síce pracovať s pravdepodobnosťami a rizikami, no nemajú skúsenosť straty ani inštinkt prežitia. Preto môže byť existenčná hrozba pre ne len ďalšou premennou v strategickom modeli. Takýto prístup by mohol oslabiť logiku vzájomného odstrašovania, ktorá počas studenej vojny stála na obave z totálneho zničenia.
Jazykové modely sú dnes silné v analýze dát, sumarizácii a simuláciách. No politické rozhodovanie, riadenie vojny či jadrová stratégia by mali zatiaľ zostať pevne v ľudských rukách, a pod prísnym dohľadom.
