Vrcholoví AI experti sa boja „Černobyľského momentu“ pre umelú inteligenciu: Jedna chyba by mohla ľudstvo odradiť na desaťročia
Vedci a odborníci na umelú inteligenciu sa obávajú, že jedna obrovská chyba AI by mohla ľudstvo od tejto technológie odradiť na veľmi dlhú dobu.
Umelá inteligencia patrí medzi najrýchlejšie sa rozvíjajúce technológie súčasnosti. Firmy predstavujú čoraz výkonnejšie modely, vlády investujú miliardy a konkurencia medzi Spojenými štátmi a Čínou naberá na obrátkach. Popri nadšení však rastú aj obavy. Časť odborníkov totiž upozornila, že ak svet vývoj AI nezvládne, môže prísť udalosť s následkami, ktoré zasiahnu milióny ľudí a na dlhé roky zmenia pohľad verejnosti na túto technológiu.
Na veľkej konferencii o umelej inteligencii v Pekingu preto zaznela výzva na užšiu spoluprácu medzi krajinami, informuje Futurism. Vedci z USA aj Číny sa zhodli, že bezpečnosť by nemala ustúpiť súpereniu o prvenstvo vo vývoji AI. Podľa nich totiž riziká nepoznajú hranice a prípadný problém v jednej krajine môže veľmi rýchlo zasiahnuť celý svet.
Počítačový vedec Stephen Casper z MIT použil prirovnanie, ktoré okamžite vzbudilo pozornosť.
„Na jednej veci sa dnes zhodne takmer každý, kto pracuje v oblasti AI, umelá inteligencia nepotrebuje svoj Černobyľ,“ povedal pre magazín Wired.
Narážal tým na jadrovú katastrofu z roku 1986. Nešlo pritom iba o samotnú tragédiu, ale aj o jej následky. Černobyľ totiž výrazne ovplyvnil dôveru verejnosti v jadrovú energetiku na celé desaťročia. Podobný scenár by podľa viacerých odborníkov mohol postihnúť aj umelú inteligenciu, ak by spôsobila veľký incident s množstvom obetí alebo škodami obrovského rozsahu.
Jeden obrovský bezpečnostný incident môže ľudí odradiť od AI na dekády
Odborníci pritom nehovoria iba o katastrofických scenároch zo science fiction. V posledných mesiacoch čoraz častejšie upozorňujú na oveľa realistickejšie riziko, kybernetické útoky. Moderné AI modely totiž zvládnu písať programový kód, analyzovať bezpečnostné chyby alebo automaticky vytvárať nové skripty. Rovnaké schopnosti, ktoré pomôžu programátorom, môžu zneužiť aj kyberzločinci.
Neprehliadni
Útočníci vďaka AI pripravia sofistikovanejšie útoky za kratší čas. Navyše nepotrebujú také rozsiahle technické znalosti ako v minulosti. Umelá inteligencia totiž dokáže časť práce výrazne zjednodušiť alebo úplne prevziať.
Niektoré technologické firmy už podobné riziká otvorene priznali. Spoločnosť Anthropic napríklad predstavila experimentálny model Claude Mythos, no následne sa rozhodla nezverejniť ho. Firma tvrdila, že model disponoval mimoriadne pokročilými schopnosťami pri vyhľadávaní zraniteľností v softvéri. Podľa dostupných informácií dokonca existovali obavy, že by dokázal preniknúť do veľkého množstva operačných systémov a internetových prehliadačov.
Veľká diskusia sa vedie aj okolo open-source modelov umelej inteligencie. Ich zdrojový kód alebo parametre bývajú voľne dostupné, čo výrazne pomáha výskumu a transparentnosti. Zároveň však vzniká otázka, kto zabezpečí kontrolu nad ich ďalším využitím. Ak sa výkonný model dostane prakticky ku každému, môžu ho okrem vývojárov využiť aj podvodníci alebo organizované hackerské skupiny. Práve preto niektoré čínske spoločnosti podľa magazínu Wired prestali najpokročilejšie modely zverejňovať ako open source.
Profesor Lin Yun zo Shanghai Jiao Tong University upozornil, že v najbližších rokoch môžu zločinci získať pomocou AI určitý náskok. Zároveň však verí, že v dlhšom horizonte poslúži rovnaká technológia aj na lepšiu ochranu počítačových systémov. Hovorí, že ak rôzne krajiny pochopia riziká podobným spôsobom, oveľa ľahšie vytvoria spoločné bezpečnostné princípy a technické štandardy. Práve spoločné pravidlá podľa neho znížia systémové riziká bez toho, aby štáty museli zdieľať citlivé informácie.
Dohody môžu vzniknúť aj medzi súperiacimi krajinami
Spolupráca medzi USA a Čínou pritom nemusí pôsobiť veľmi reálne. Obe krajiny totiž vedú tvrdý boj o technologické prvenstvo a umelá inteligencia patrí medzi ich najväčšie strategické priority. Napriek tomu viacerí odborníci pripomínajú historický príklad zo studenej vojny.
Spojené štáty aj Sovietsky zväz síce pokračovali vo vývoji jadrových zbraní, no zároveň uzatvorili viaceré dohody, ktoré mali obmedziť riziko katastrof alebo nekontrolovanej eskalácie. Podľa Stephena Caspera by podobný prístup mohol pomôcť aj v oblasti umelej inteligencie.
Vývoj AI sa totiž pravdepodobne nezastaví. Oveľa dôležitejšie preto bude nájsť spôsob, ako jednotlivé krajiny nastavia pravidlá a bezpečnostné opatrenia. Ak sa to podarí, umelá inteligencia môže priniesť množstvo užitočných riešení. Ak však vývoj predbehne bezpečnosť, odborníci upozorňujú, že následky jednej veľkej chyby by mohli ovplyvniť dôveru verejnosti na veľmi dlhý čas.
