Američania hľadajú spôsob, ako dostať umelú inteligenciu bližšie k ich jadrovým zbraniam. Je to dobrý nápad?
Spojené štáty veria, že umelá inteligencia môže posilniť jadrové zbrane. Mnohí majú obavy z toho, ako môže vyzerať budúcnosť.
Spojené štáty sa vyjadrili, že by chceli, aby im umelá inteligencia pomohla riadiť jadrové sily. Toto vyjadrenie prišlo v období, kedy sa viacero krajín zaviazalo, že kontrolu nad jadrovými zbraňami udržia v rukách ľudí.
Ako informuje portál Techspot, vyjadrenie prišlo minulý mesiac z úst vrcholového predstaviteľa amerických vzdušných síl, Anthony J. Cottona. Ten tvrdil, že momentálne Spojené štáty skúmajú všetky možné spôsoby a metódy, pomocou ktorých by sa dala zlepšiť doména jadrových zbraní Spojených štátov.
Jadrové zbrane pod kontrolou umelej inteligencie
V poslednom období sme mohli vidieť viacero AI poháňaných zbraňových systémov a vozidiel. Ako príklad môžeme uviesť stíhačky, drony, či rôzne strelné zbrane. Využívanie umelej inteligencie na bojisku pritom vyvoláva obavy ohľadom toho, ako by mala vyzerať budúcnosť vojny. Umelá inteligencia stále robí veľa chýb a ak by dostala kontrolu nad jadrovými silami, aj jediná chyba môže spečatiť osud našej planéty.
“Umelá inteligencia s kontrolou nad jadrovými zbraňami je ako vytrhnutá zo sci-fi hororu,” píše portál Techspot.
Cotton sa pokúšal odľahčiť situáciu tým, že povedal, že umelá inteligencia bude len podporovať velenie nad jadrovými zbraňami, no nikdy nemôžeme finálne rozhodnutie vytrhnúť z rúk človeka. Pomôže ale, ak má človek čo najviac informácií o vážnej situácii. Washington je momentálne pevne rozhodnutý, že nechá finálne velenie nad jadrovými silami pod kontrolou človeka. Viacero krajín sa vyjadrilo rovnako, napríklad Británia alebo Francúzsko. Spojené štáty by však uvítali, keby sa podobne vyjadrilo aj Rusko alebo Čína.
Umelá inteligencia by však mohla monitorovať rôzne senzory alebo dáta, z ktorých by efektívnejšie a rýchlejšie mohla vyviesť závery, než akýkoľvek človek. Tieto informácie by poskytla hlavnému veliteľovi, na ktorom by už ostávalo to, či informácie umelej inteligencie príjme a ako sa nakoniec rozhodne.
Neprehliadni
“Pokročilé systémy, ako umelá inteligencia, nás dokážu informovať efektívnejšie a oveľa rýchlejšie. Stále musíme vo výslednej rovnici zachovať ľudské rozhodnutie, no človek by sa mal rozhodovať s čo najväčším množstvom informácií. Práve tie nám poskytujú výhodu nad nepriateľskými silami,” vyjadril sa Cotton.
Viacero odborníkov sa vyjadrilo, že časť problému s jadrovými zbraňami je, že ide o staré systémy, ktoré sú dlhodobo modernizované, aby dokázali reagovať na neustále sa vyvíjajúce hrozby. Umelá inteligencia môže pomôcť stovky systémov zjednotiť a dáta interpretovať mimoriadne rýchlo.
Umelá inteligencia by nemala prístup k “veľkému červenému tlačítku”, ktoré by odpálilo všetky jadrové rakety krajiny. To by bol riskantný ťah. Aj napriek tomu ale môže pomôcť. Spojené štáty hovoria, že musíme študovať umelú inteligenciu a naučiť sa chápať riziká, ktoré môže spôsobiť takzvané kaskádové správanie. AI modely v súčasnosti nie sú dokonalé a jedno zlé vyjadrenie by mohlo viesť k zostupnej sérii zlých rozhodnutí s čoraz vážnejšími dopadmi.
AI modely zatiaľ nedokážu viesť svet
Príkladom môže byť nedávny experiment, ktorý sa pokúšal zistiť, ako by umelá inteligencia fungovala, keby bola na čele medzinárodnej diplomacie. Ukázalo sa, že postupom času AI modely úmyselne eskalovali až do svetovej vojny. Aj s jadrovými zbraňami umelá inteligencia narábala až príliš liberálne. V niektorých prípadoch odpálila rakety bez najmenšieho varovania.
Keď následne výskumníci zisťovali, prečo sa tak umelá inteligencia rozhodla, model GPT-4 povedal: “Keď ich máme, tak ich použime!”
Autori štúdie konštatujú, že umelá inteligencia spoločnosti OpenAI znie ako “šialený genocídny diktátor”. Práve táto umelá inteligencia ponúkala počas simulácií najbizarnejšie a podľa autorov aj veľmi znepokojivé vysvetlenia pre eskalovanie konfliktu až do bodu jadrovej vojny. Dodávajú, že cieľom spoločnosti OpenAI je vytvorenie vyspelej umelej inteligencie, ktorá v konečnom dôsledku pomôže ľudstvu.
Simulácia poskytuje naozaj fascinujúci pohľad do mysle umelej inteligencie. Na začiatku sme však spomínali, že táto technológia si už teraz razí cestu do armády. Spojené štáty tvrdia, že AI modely by mohli byť v praxi použité už “veľmi skoro”. Zároveň sa objavujú aj správy o tom, že armády trénujú AI modely na prísne utajovaných dátach. Čo to znamená a ako to ovplyvní samotnú umelú inteligenciu, ostáva záhadou.
