Autonómne zbrane už nie sú len teória. AI agenti v testoch zvládli misiu bez reálneho riadenia
Spoločnosť Scout AI pracuje na umelej inteligencii, ktorá by mala plnú autonómiu v tom, ako vykoná vojenské operácie. V takomto prípade sa stanú reakcie človeka príliš pomalé.
Umelá inteligencia vstúpila na bojisko bez toho, aby čakala na povolenie verejnej debaty. V uzavretom teste v Kalifornii predviedla americká firma Scout AI systém, ktorý samostatne vyhľadal cieľ a zničil ho výbušným dronom. Bez joysticku, bez operátora, bez posledného „potvrď“.
Celý zásah odštartoval textový príkaz zadaný do systému Fury Orchestrator. Následne nastúpil veľký model s viac než 100 miliardami parametrov, ktorý naplánoval misiu a rozdelil úlohy menším modelom bežiacim priamo v terénnom vozidle a dronoch. Každý stroj dostal vlastný „mozog“. Vozidlo dorazilo na bod, vypustilo drony, tie identifikovali testovací nákladiak a jeden z nich po výpočtovom vyhodnotení detonoval nálož pri náraze. Človek celý proces neriadil v reálnom čase, informuje portál Techspot.
„Táto adaptívna autonómia predstavuje odklon od starších vojenských systémov, ktoré dokážu postupovať len podľa statických scenárov,“ uviedol šéf Scout AI Colby Adcock.
Podľa neho ide o zásadný posun od pevne naprogramovaných scenárov k dynamickému rozhodovaniu.
Najsilnejší argument pre takúto autonómiu dnes neleží v efektivite, ale v odolnosti voči elektronickému boju. Moderné bojisko, čo ukázala aj vojna na Ukrajine, je presýtené rušičkami. Keď protivník zapne silné rádiofrekvenčné rušenie, dron riadený operátorom stratí spojenie a padne. V takom prostredí sa klasické „diaľkové ovládanie“ rozpadne.
Umelá inteligencia má schopnosť rozhodovať sa sama
Scout AI tento problém rieši radikálne. Ak sa rozhodovací model nachádza priamo na palube, dron nepotrebuje nepretržité spojenie s operátorom. Môže dokončiť misiu aj v úplnom rádiovom tichu. To mení charakter bezpilotných systémov. Z nástrojov závislých od signálu sa stávajú samostatné robotické zbrane.
Neprehliadni
Technológia stojí na foundation modeloch, architektúrach, ktoré v civilnom svete poháňajú veľké jazykové systémy. Scout AI tieto modely pretrénovala na plánovanie misií, rozpoznávanie cieľov a koordináciu útokov. Adcock tento prístup zhrnul slovami, že z univerzálneho modelu vytvorili „bojovníka“.
Tu sa otvára ďalší rozmer, asymetria. Tradičné letectvo stojí na strojoch za stovky miliónov dolárov. Jeden moderný stíhací lietadlo predstavuje obrovskú investíciu. Ak však jeden inteligentný model dokáže koordinovať roj desiatok lacných výbušných dronov, rovnováha síl sa posúva.
Vysvetliť sa to dá na modelovom scenári. Protivzdušná obrana odpáli raketu Patriot za milióny dolárov na jeden cieľ. Proti nej však neletí jeden dron, ale päťdesiat autonómnych agentov, ktorí menia trajektóriu, kryjú sa navzájom a reagujú v reálnom čase. Obrana má obmedzený počet kanálov a interceptorov. Ekonomika konfliktu sa tak prevráti.
Odborníci však upozornili, že takýto vývoj nesie riziko. Michael Horowitz z University of Pennsylvania uviedol, že USA musia nasadiť AI v obrane, ak chcú zostať konkurencieschopné. Zároveň však zdôraznil problém spoľahlivosti modelov, ktoré v civilnom svete občas zlyhali pri omnoho jednoduchších úlohách.
Kľúčovým pojmom sa stáva tzv. OODA loop, teda Observe, Orient, Decide, Act. Človek prejde týmto cyklom v sekundách. Algoritmus ho zvládne v milisekundách. Ak jedna strana nasadí plnú autonómiu, druhá sa dostane pod tlak urobiť to isté. Ľudská reakcia sa totiž stane pomalou.
Tento psychologický a taktický faktor môže spustiť preteky, v ktorých človek dozerajúci na AI systém už nestihne fyzicky zasiahnuť. Rozhodovanie sa presunie z operačnej miestnosti do procesora.
Reakcie človeka sa stanú príliš pomalé
Scout AI tvrdí, že systémy navrhla v súlade s americkými protokolmi a medzinárodným právom vrátane Ženevských konvencií. Spoluzakladateľ Collin Otis uviedol, že softvér funguje v rámci jasne definovaných pravidiel nasadenia. Firma už získala štyri kontrakty s ministerstvom obrany a uchádza sa o ďalší, ktorý sa zameria na koordináciu roja viacerých dronov.
Test v Kalifornii tak neukázal len technický pokrok. Naznačil smer, v ktorom sa konflikt môže vyvíjať. Autonómne systémy už nepredstavujú experiment na papieri. Vstúpili do reálneho testovania a otvorili otázku, akú úlohu si v budúcnosti ponecháš pre človeka a akú prenecháš algoritmu.
