Blížime sa k „černobyľskému momentu“ umelej inteligencie? Asimovove zákony znovu ožívajú
Asimovove tri zákony robotiky vznikli dávno pred nástupom modernej AI, no dnes znejú aktuálnejšie než kedykoľvek predtým. V čase, keď umelá inteligencia zasahuje aj do vojny, sa znovu otvára otázka, aké hranice jej vôbec chceme nastaviť.
Isaac Asimov je legendou sci-fi žánru. Napísal romány a poviedky, ktoré dodnes formujú spôsob, akým premýšľame o robotike, umelej inteligencii a budúcnosti ľudstva. Jeho rukopis cítiť v množstve diel iných autorov aj filmových spracovaní. Za zmienku stojí najmä jeho poviedka Runaround, v ktorej sformuloval tri zákony robotiky:
- zákon: Robot nesmie ublížiť človeku, ani svojou nečinnosťou dopustiť, aby bolo človeku ublížené.
- zákon: Robot musí poslúchnuť príkazy človeka, okrem prípadov, keď sú tieto príkazy v rozpore s prvým zákonom.
- zákon: Robot sa musí chrániť pred poškodením, okrem prípadov, ktoré sú v rozpore s prvým alebo druhým zákonom.
Na to, že vznikli pred desaťročiami, pôsobia dnes tieto zákony až nepríjemne aktuálne. Na rozdiel od prekomplikovaných a prebyrokratizovaných dokumentov Európskej únie, OECD a ďalších inštitúcií sú stručné, priamočiare a každý na prvé prečítanie chápe, čo hovoria.
Paradoxne však aj samotný Asimov vo svojich dielach ukazoval, že takáto jednoduchosť môže viesť ku kolíziám a paradoxom. Napriek tomu ide o pevný základ, od ktorého sa dá odraziť. Možno práve teraz viac než kedykoľvek predtým. Na tému upozornil portál The Conversation.
Umelá inteligencia zasahuje čoraz viac aj do vojenských konfliktov
Máme tu vojnu u susedov, ale aj ďalšie konflikty, v ktorých technológie preberajú stále väčšiu rolu. Aktuálne je v centre pozornosti aj napätie medzi Spojenými štátmi americkými, Izraelom a Iránom. V mnohých týchto konfliktoch sa používa určitá forma „umelej inteligencie“. Úvodzovky sú na mieste, pretože nie vždy ide o plnohodnotnú AI v tom zmysle, ako si ju väčšina ľudí predstaví. Často ide o systémy, ktoré pomáhajú s navádzaním dronov, vyhodnocovaním útokov, rozpoznávaním objektov alebo spracovaním obrovského množstva dát v reálnom čase.
Lenže výsledok je rovnaký, tieto systémy pomáhajú rozhodovať o živote a smrti človeka. Nie vždy stláčajú spúšť priamo, no zjavne sa podieľajú na procese, ktorého cieľom je zasiahnuť nepriateľa. A práve tu sa dostávame do priameho stretu s Asimovovými zákonmi. Tie sú už roky vnímané ako dôležitý etický referenčný bod, hoci ich nevytvoril vedec ani právnik, ale autor sci-fi. A to je na celej veci možno to najzaujímavejšie.
Neprehliadni
K využívaniu AI vo vojenských konfliktoch sa vyjadril aj Dario Amodei, zakladateľ spoločnosti Anthropic. Otvorene priznal, že ani on nepozná jednoduchý spôsob, ako zastaviť eskaláciu rizík, ktoré s rozvojom AI prichádzajú. Podľa neho sa blížime k bodu, keď nás možno prinúti až veľká katastrofa pochopiť, že takéto technológie nemožno nechať bez medzinárodných pravidiel a kontroly. Dá sa to prirovnať k obdobiu po Černobyle, keď si svet naplno uvedomil, že pri rizikových technológiách nestačí len veriť, že všetko nejako dopadne dobre.
Anthropic pritom dlhodobo hovorí, že AI by nemala byť nasadzovaná na masový dohľad či plne autonómne zbrane. Práve takýto postoj ju dostáva do napätia s časťou politického a bezpečnostného prostredia v USA, kde je tlak na rýchlejšie nasadzovanie AI do obrany čoraz silnejší. Zakladateľ firmy však zároveň zastáva názor, že by nebolo zlé zakotviť morálne limity pre AI priamo do medzinárodných dohôd, podobne ako to ľudstvo v minulosti skúšalo pri jadrových zbraniach. Lenže, ako dobre vieme, aj tie najvážnejšie dohody na papieri bývajú v praxi krehké.
Asimov predbehol svoju dobu a dnes to vidno ešte výraznejšie
Takéto pravidlá by museli byť navrhnuté tak, aby pokryli čo najviac reálnych hrozieb a šedých zón. A práve tam sa začínajú problémy.
Robot alebo AI systém by napríklad mohol odmietnuť vykonať rozkaz namierený proti určitému cieľu, čo by v praxi komplikovalo politické aj vojenské rozhodovanie. Navyše, identifikácia toho, kto je človek, kto je civilista, kto je hrozba a kto nie, zatiaľ zďaleka nie je dokonalá. A presne toto bol problém, ktorý Asimov vo svojich neskorších dielach v rôznych podobách predvídal.
Ako to celé dopadne? To je zatiaľ stále vo hviezdach. Vývoj ide ďalej, veľké jazykové modely sa zrýchľujú, zlepšujú a čoraz častejšie sa používajú aj pri vývoji ďalších systémov. Inak povedané, každý nový model býva výkonnejší než ten predchádzajúci. A občas to pôsobí tak, že ani samotní tvorcovia presne netušia, kam sa celý systém posúva. Práve preto by nebolo zlé myslieť dopredu, kým ešte máme priestor nastavovať hranice. Lenže žijeme v dobe, v ktorej veľmoci sledujú najmä vlastné záujmy a bežný človek sa na to môže väčšinou len prizerať. A ak sa veci vymknú spod kontroly, sci-fi prestane byť len zábavou. Môže sa zmeniť na veľmi nepríjemnú predpoveď.
