Odborníci varujú, že umelá inteligencia môže spustiť jadrovú vojnu a nikto v nej nebude víťazom
Umelá inteligencia začína prenikať aj do rozhodovania o jadrových zbraniach a odborníci varujú pred katastrofálnymi následkami.
Siaho-dlhé debaty o tom, čo sa stane, ak do rozhodovania o jadrových zbraniach vstúpi umelá inteligencia, už dávno nepatria len do úvah. Vojenskí analytici upozorňujú, že hoci Washington opakovane uisťuje verejnosť o „neprelomiteľnosti ľudského dohľadu“. Realita však smutne ukazuje, že algoritmy sa postupne stávajú súčasťou procesov v rámci rozhodovania, v ktorých by jedna jediná chyba mohla mať fatálne následky pre ľudstvo a všetko živé. Na tému upozornil portál Futurism.
Experimenty uskutočnené na Stanfordskej univerzite naznačili, že správanie umelej inteligencie vo vojenských simuláciách sa výrazne odlišuje od ľudského rozhodovania. Profesorka Jacquelyn Schneiderová sledovala, ako modely reagujú pri krízových situáciách a výsledok bol znepokojujúci.
Totiž namiesto hľadania cesty k upokojeniu konfliktu sa systémy prikláňali k jeho eskalácii až po jadrový úder. Ľudskí velitelia by pritom podľa nej volili zdržanlivejšie kroky. Prečo je AI nastavená skôr na „stupňovanie napätia“, zatiaľ nie je jasné? Čo ak je to tým, že to má načítané to čo jej spoločnosti dávajú a jedná podľa toho?
Prestane existovať ľudstvo, len vďaka rozhodnutiu umelej inteligencii?
Odborníci upozorňujú aj na nedostatok jasne formulovaných smerníc v americkom ministerstve obrany. Podľa Jona Wolfsthala z Federácie amerických vedcov Pentagon zatiaľ nestanovil, aké úlohy smie umelá inteligencia pri riadení jadrových síl plniť. Pričom kde sa musí rozhodovanie striktne ponechať na človeku, tak nejak chýba. Kritici sa preto obávajú, že otvorený priestor zvádza k experimentom bez potrebnej kontroly.
Oficiálna politika USA stavia na tvrdení, že „posledné rozhodnutie“ zostane v rukách človeka. Problém je, že v situácii, keď by iné mocnosti, napríklad Čína či Rusko, začali využívať rýchlejšie automatizované mechanizmy. By tak tlak na zrýchlenie reakcií by mohol spôsobiť, že politické záväzky ustúpia pragmatizmu. Riziko tak nespočíva len v predstave, že algoritmus sám „odpáli“ rakety, ale aj v tom, že velitelia sa nechajú ovplyvniť jeho odporúčaniami a rozhodnú sa bez kritického myslenia a odstupu.
Neprehliadni
Príklady z minulosti ukazujú, aká krehká je hranica medzi mierom a katastrofou. V roku 1983 zachránil svet sovietsky dôstojník Stanislav Petrov, keď odmietol vyhlásiť odvetný úder po chybnom varovaní systému. Keby vtedy na jeho mieste rozhodoval algoritmus bez schopnosti spochybniť vstupné dáta, mohlo dôjsť k jadrovej vojne.
Kto prvý začne atómovú vojnu?
Rusko si navyše podľa dostupných informácií stále udržuje tzv. „mŕtvu ruku“. Má ísť o automatizovaný odvetný mechanizmus zo studenej vojny, ktorý by spustil útok aj bez zásahu vedenia krajiny. Analógia s možným budúcim využitím AI je viac než reálna.
Niektorí optimisti pripúšťajú, že algoritmy by mohli zároveň znížiť počet omylov a falošných poplachov. Napriek tomu prevláda skepticizmus. Nakoľko máme do činenia s technológiou, ktorej princípom sami nie vždy rozumieme, a ktorá už v simuláciách ukázala obavy vyvolávajúce správanie. Výzvy na medzinárodné dohody, alebo obmedzenia preto pribúdajú, no tempo, akým krajiny systematicky zavádzajú AI do armádnych štruktúr, naznačuje, že sa hranica medzi sci-fi filmami a realitou rýchlo stiera.
