Rozhodne AI o spustení jadrovej vojny? Špičkoví experti prelomili mlčanie
Umelá inteligencia čoraz viac preniká aj do sveta jadrových zbraní. Experti varujú pred rizikami automatizovaného rozhodovania v najcitlivejších bezpečnostných systémoch a apelujú na zachovanie ľudskej kontroly.
Umelá inteligencia sa čoraz silnejšie tlačí do oblastí, kde by si to nepovedal. Veru áno, týka sa to aj jadrových zbraní. Otázka teda už nie je „či“, ale „kedy“ sa AI stane neoddeliteľnou súčasťou týchto extrémne citlivých systémov. Odborníci so skúsenosťami z jadrového bezpečnostného prostredia, a tiež laureáti Nobelovej ceny, sa zhodujú, že technologický posun je neodvratný, hoci ľudský faktor naďalej zostáva nenahraditeľný.
Minulý mesiac sa na Chicagskej univerzite stretli výnimoční experti, vedci, bývalí vojenskí dôstojníci a osobnosti globálnej bezpečnosti, aby diskutovali o budúcnosti jadrových zbraní v ére AI. Počas dvojdňového seminára sa venovali nielen technickým možnostiam, ktoré umelá inteligencia prináša, ale aj veľkým rizikám, ktorým bude musieť spoločnosť čeliť. Scott Sagan, profesor zo Stanfordu a uznávaný odborník na jadrové odzbrojenie, vyslovil zásadnú myšlienku:
„Vstupujeme do éry, kde sa technológie prelínajú s otázkami globálnej bezpečnosti tak, ako nikdy predtým.“
AI totiž začína zasahovať nielen do každodenného života, ale i do rozhodnutí, ktoré môžu znamenať život alebo smrť pre milióny ľudí.
Generálmajor vo výslužbe Bob Latiff prirovnáva AI k elektrickému prúdu, ktorý nevyhnutne preniká do všetkých oblastí.
„Je úplne prirodzené, že vojenské systémy budú tieto technológie využívať. Otázka je len, ako to spravíme bezpečne,“ tvrdí Latiff, ktorý sa zároveň podieľa na vývoji Hodín súdneho dňa, symbolického meradla globálnej hrozby.
AI bude čo raz viac prepojená aj s armádou
Výzvy však nie sú zanedbateľné. Jon Wolfsthal z Federácie amerických vedcov upozorňuje, že dnešná definícia AI sa stále rozplýva, hlavne vďaka rozsiahlym jazykovým modelom, ako napríklad ChatGPT, ktoré vytvárajú zmätok ohľadom skutočných možností a limitov týchto systémov.
Neprehliadni
„Téma sa často krúti okolo nesprávnych predstáv,“ hovorí Wolfsthal. Profesor Herb Lin zo Stanfordu zas kladie najdôležitejšiu otázku: „Môžeme do rúk počítačov vložiť rozhodnutie o spustení jadrovej zbrane? AI nemá emocionálnu alebo etickú inteligenciu, aby rozpoznala komplexitu týchto momentov.“ V jadrovom spoločenstve, teda aspoň zatiaľ panuje konsenzus, ľudský úsudok musí zostať nadradený.
Súčasne sa objavujú aj neisté špekulácie o využití AI na analyzovanie nálad svetových lídrov, ako Putin či Si Ťin-pching. Wolfsthal však zdôrazňuje nepredvídateľnosť:
„Ťažko povedať, či ich oficiálne výroky skutočne odrážajú ich skutočné záujmy alebo taktiku.“
Takáto analýza je preto veľmi problematická. AI pritom už dnes nachádza uplatnenie v podpore rozhodovaní, ako pripomína generál Anthony Cotton. Tento prístup však vždy vyžaduje ľudskú kontrolu, aby sa zabránilo chybným interpretáciám či zneužitiu technológie. Automatizácia totiž môže priniesť nové bezpečnostné riziká. Teda môže vytvárať neprehľadné odporúčania, ktoré sa dajú len ťažko overiť.
Jadrové velenie dnes funguje podľa prísnych bezpečnostných protokolov, napríklad v USA musia pri štarte rakety súčasne aktivovať mechanizmus dvaja ľudia. Zavedenie AI do takého procesu otvára otázky, ako zabezpečiť, aby systém nerozhodol na základe falošného signálu alebo útoku kybernetických protivníkov. Ďalším problémom je „čierna skrinka“. AI systémy pozostávajú z algoritmov, ktorých procesy nie sú ľuďom celkom známe (paradoxne stojíme za ich vývojom). Bob Latiff varuje, že AI navyše môže zosilniť zaujatosť, čo výrazne môže ovplyvniť schopnosť človeka efektívne kontrolovať a korigovať rozhodnutia.
Môže AI vyvolať vojnu?
Príbeh Stanislava Petrova, sovietskeho dôstojníka, ktorý v roku 1983 zabráni jadrovej katastrofe tým, že ignoroval falošné varovanie systému, zdôrazňuje nezastupiteľnú rolu ľudskej intuície a skúseností. AI, na rozdiel od človeka, nemá schopnosť prekročiť rámec svojich tréningových dát.
Napätie okolo AI v jadrovej sfére ďalej zvyšujú nové zbrojné preteky. Administratíva prezidenta Donalda Trumpa i Ministerstvo energetiky označili AI za prioritu, prirovnávajúc ju k projektu Manhattan, ktorý kedysi znamenal zrod jadrových zbraní. Tento prístup však podľa Herba Lina kladie príliš veľký dôraz na súťaživosť, zatiaľ čo vývoj AI a jeho dôsledky zostávajú neisté a veľmi komplexné.
Medzinárodné spoločenstvo zatiaľ bojuje s legislatívnymi a etickými pravidlami pre AI v armádnych systémoch. Výzva je jasná: ako nastaviť hranicu medzi ľudskou kontrolou a automatizovanými rozhodnutiami tak, aby svet zostal v bezpečí? Jadrové zbrane a umelá inteligencia sú tak prepojené v komplexnom tanci medzi pokrokom a rizikom – výzva, ktorej dôsledky pocítime všetci.
