Americká armáda nasadzuje AI rýchlejšie, než ju stíha testovať. Analýza varuje, že chyby algoritmov môžu stáť životy nevinných ľudí
Americká armáda čoraz intenzívnejšie nasadzuje umelú inteligenciu na analýzu bojových dát a identifikáciu cieľov. Analýza varuje, že chyby algoritmov môžu viesť k civilným obetiam a nesprávnym vojenským rozhodnutiam.
Americká armáda čoraz viac spolieha na umelú inteligenciu pri rozhodovaní na bojisku. Nová analýza však varuje, že Pentagon zavádza tieto systémy rýchlejšie, než ich dokáže dôkladne otestovať.
Ak sa algoritmus pomýli, nejde len o technickú chybu. Môže ísť o nesprávne označený cieľ, civilné obete alebo zásahy, ktoré porušujú základné pravidlá vojny.
Umelá inteligencia sa stáva súčasťou moderného bojiska
Pentagon v posledných rokoch výrazne zrýchlil spoluprácu s technologickými firmami. Moderné vojny totiž produkujú obrovské množstvo dát, ktoré ľudia nedokážu spracovať dostatočne rýchlo.
Práve tu vstupuje do hry umelá inteligencia. Algoritmy dokážu analyzovať satelitné snímky, video z dronov alebo spravodajské dáta v priebehu sekúnd. Rozhodovanie na bojisku sa tak môže výrazne zrýchliť.
Jedným z najznámejších projektov je Project Maven, ktorý vznikol v roku 2017. Jeho cieľom je analyzovať obrazové dáta z dronov a satelitov a pomáhať identifikovať potenciálne vojenské ciele.
Neprehliadni
Americkí vojenskí predstavitelia tvrdia, že projekt dramaticky zrýchlil proces analýzy. Podľa reportu sa čas potrebný na identifikáciu cieľov skrátil z hodín alebo dní na minúty.
Umelá inteligencia sa však nepoužíva len pri bojových operáciách. Pentagon ju nasadzuje aj v logistike, plánovaní zásobovania alebo pri predpovedaní porúch vojenskej techniky.
Algoritmy môžu robiť chyby, ktoré stoja ľudské životy
Autori analýzy upozorňujú, že technologický optimizmus môže skrývať vážne riziká.
Algoritmy totiž nie sú neomylné. Ak AI nesprávne vyhodnotí situáciu, môže označiť civilistu ako legitímny vojenský cieľ alebo naopak prehliadnuť skutočnú hrozbu.
„Chyby umelej inteligencie sa môžu reťaziť a viesť k zlyhaniu celého systému, ktorý nesprávne identifikuje civilistov ako ciele a zároveň prehliadne skutočné hrozby,“ upozorňujú autori analýzy.
Takéto zlyhania môžu mať vážne následky. Nesprávne rozhodnutie môže ohroziť civilistov, vojakov aj samotnú operáciu.
Ani človek nemusí byť spoľahlivou poistkou
Na prvý pohľad sa môže zdať, že riešením je jednoduché pravidlo. Umelá inteligencia odporučí cieľ a človek ho musí potvrdiť.
Analýza však upozorňuje na jav, ktorý odborníci nazývajú automation bias. Ide o psychologický efekt, pri ktorom majú ľudia tendenciu dôverovať rozhodnutiam algoritmov viac než vlastnému úsudku.
„Tieto zlyhania sa môžu stať aj v prípade, že je v procese človek. Operátori zbraňových systémov majú síce cieľ nezávisle overiť, v praxi však môžu byť príliš ochotní spoliehať sa na odporúčania algoritmu,“ uvádza report.
Človek tak síce formálne zostáva v rozhodovacom procese, no v praxi môže len potvrdzovať to, čo navrhne stroj.
Vojaci vidia ciele ako body na obrazovke. Analýza varuje, že AI môže otupiť rozhodovanie o zabíjaní
Autori analýzy upozorňujú aj na menej viditeľný problém. Technológia môže zmeniť spôsob, akým vojaci vnímajú samotnú vojnu.
Ak operátori sledujú bojisko len cez obrazovky plné dát, ľudia sa môžu premeniť na anonymné body alebo symboly.
„Väčšia závislosť od umelej inteligencie môže redukovať životy jednotlivcov na body a dátové položky na obrazovke, čo môže vojakov otupiť voči aktom zabíjania a ničenia,“ píšu autori.
Podobnú kritiku už v minulosti vyvolali aj dronové operácie, kde operátori riadia útoky z tisíce kilometrov vzdialených základní.
Firmy ako Palantir a Anduril tlačia armádu k rýchlejšiemu nasadeniu umelej inteligencie
Zavádzanie umelej inteligencie do armády zároveň výrazne posilňuje technologické firmy.
Pentagon uzatvára stále viac kontraktov so spoločnosťami, ktoré sa špecializujú na dátovú analytiku alebo autonómne systémy. Medzi najvýznamnejších hráčov patria napríklad Palantir Technologies alebo Anduril Industries.
Tieto spoločnosti dodávajú armáde softvér, analytické platformy aj autonómne drony. Zároveň čoraz častejšie vstupujú do diskusie o tom, ako rýchlo by sa mali nové technológie zavádzať.
Niektorí technologickí lídri dokonca tvrdia, že armáda postupuje príliš pomaly.
Technologický riaditeľ spoločnosti Palantir Shyam Sankar napríklad varoval, že Západ podľa neho stráca technologickú prevahu.
„Západ empiricky stratil odstrašovanie voči Číne,“ povedal Sankar, pričom za hlavný problém označil nadmernú reguláciu a byrokraciu.
Pentagon dostane rozpočet okolo 1 bilióna dolárov. Tlak na rýchle zavádzanie AI ešte rastie
Tlak na rýchle zavádzanie technológií prichádza aj zo samotnej politiky.
Rozpočet amerického ministerstva obrany má v roku 2026 dosiahnuť približne 1 bilión dolárov, čo predstavuje viac než 13-percentný nárast oproti predchádzajúcemu roku.
Minister obrany Pete Hegseth už skôr vyhlásil, že proces získavania nových zbraní je „neprijateľne pomalý“ a armáda sa musí preorientovať na režim, ktorý zodpovedá vojnovým podmienkam.
Bez kontroly môže AI spôsobiť viac škody než úžitku
Analýza upozorňuje, že zavádzanie umelej inteligencie do vojenských operácií zatiaľ sprevádza pomerne nízka transparentnosť.
Verejnosť ani zákonodarcovia často nemajú prístup k základným informáciám. Napríklad k tomu, aké systémy armáda používa, ako boli testované alebo aké majú riziká.
„Najzákladnejšie informácie o systémoch, ktoré Pentagon zavádza, o ich bezpečnosti alebo o tom, či dodržiavajú zákony vojny, sú často skryté pred Kongresom aj verejnosťou,“ upozorňujú autori reportu.
Ak sa totiž umelá inteligencia stane súčasťou jadra vojenských operácií bez dôkladného testovania a dohľadu, armáda môže získať systémy, ktoré sú nielen neefektívne, ale aj nebezpečné. Na bojisku totiž chyba algoritmu neznamená pád aplikácie, ale nesprávne označený cieľ.
