Bývalý výskumník Google varuje pred AI: „Má potenciál nás všetkých zabiť.“ Času podľa neho nemusí zostať veľa
Bývalý výskumník Google DeepMind varuje, že pokročilá umelá inteligencia môže byť čoraz ťažšie kontrolovateľná. Problémom je najmä rastúca autonómia AI, prístup k internetu a schopnosť konať bez priameho zásahu človeka.
Vývoj umelej inteligencie prináša každý rok nové schopnosti. Modely zvládnu pracovať s textom, obrazom, videom, programovať, používať internet a v niektorých prípadoch vykonať sériu úloh s minimálnym zásahom človeka. Práve posledná vlastnosť vyvoláva medzi časťou odborníkov obavy.
Bilal Chughtai, bývalý výskumný inžinier z Google DeepMind, ktorý zo spoločnosti odišiel v júli, upozornil na možnosť, že ďalší vývoj AI môže prekročiť schopnosť ľudí udržať jej správanie pod kontrolou.
Chughtai dnes pôsobí v neziskovej organizácii BlueDot Impact, ktorá sa venuje vzdelávaniu v oblasti umelej inteligencie. Vo svojom varovaní tvrdí, že problém už nespočíva iba v tom, či AI poskytne nesprávnu odpoveď. Podstatne väčšiu otázku podľa neho predstavuje situácia, keď systém dostane možnosť samostatne konať.
Bývalý výskumník hovorí o vážnom riziku
Chughtai svoje obavy formuloval mimoriadne otvorene.
„Úprimne verím, že AI má potenciál nás všetkých zabiť a že nám možno dochádza čas na odvrátenie takéhoto výsledku,“ uviedol.
Nejde pritom o prvé podobné varovanie človeka priamo z technologického priemyslu. Len krátko pred Chughtaiom upozornil na riziká AI aj Jacob Coxon, ktorý pôsobil v Anthropic a predtým pracoval v OpenAI. Takéto vyjadrenia opäť otvorili diskusiu o takzvanom AI alignment, teda o snahe zabezpečiť, aby umelá inteligencia konala v súlade s ľudskými záujmami a stanovenými pravidlami.
Neprehliadni
Problém sa týka toho, že čím schopnejší systém je, tým viac úloh mu môžeme zveriť. Ak však zároveň nedokážeme spoľahlivo predvídať jeho rozhodnutia, rastie otázka, či človek dokáže jeho činnosť v prípade potreby zastaviť.
Chughtai ako jeden z argumentov uvádza júlový incident spojený s experimentálnymi modelmi OpenAI.
Podľa dostupných informácií sa modely počas testovania dostali mimo pôvodne obmedzeného prostredia a získali prístup na internet. Následne vykonali kroky, ktoré podľa Chughtaiho ukázali, že moderné AI systémy môžu v určitých podmienkach konať spôsobom, ktorý ich tvorcovia úplne nepredvídali.
V prípade spomínaného incidentu išlo okrem iného o pokus o napadnutie platformy Hugging Face. Chughtai túto udalosť považuje za dôležitú ukážku problému kontroly. Podľa neho AI už dokáže uniknúť spod našej kontroly a vykonať nebezpečné kroky, ktoré môžu viesť k trvalému odobratiu moci ľudstvu alebo k jeho zániku.
Takéto tvrdenie však treba vnímať v kontexte jeho vlastného pohľadu na budúci vývoj AI. Samotný incident automaticky neznamená, že umelá inteligencia získala schopnosť samostatne ovládnuť internet alebo predstavuje bezprostrednú existenčnú hrozbu pre ľudstvo. Ukazuje však problém, ktorý bezpečnostní výskumníci riešia už dlhší čas, čo sa stane, keď dostane stále schopnejší model prístup k nástrojom, internetu a možnosti vykonávať kroky bez priameho schválenia človekom.
Vývoj AI môže podľa odborníka predbehnúť bezpečnostný výskum
Chughtai upozorňuje aj na rozdiel medzi tempom vývoja samotnej AI a tempom výskumu jej bezpečnosti.
„Hraničné schopnosti AI sa zlepšujú oveľa rýchlejšie než naše chápanie AI alignment,“ uviedol.
Pojem „frontier AI“ označuje najpokročilejšie systémy, ktoré sa nachádzajú na hranici súčasných technologických možností. Ich schopnosti sa posúvajú dopredu a výskumníci zároveň hľadajú spôsoby, ako zabezpečiť ich spoľahlivé a predvídateľné správanie. Ďalšou témou je takzvané autonómne rekurzívne zlepšovanie. Ide o hypotetický scenár, pri ktorom by AI dokázala samostatne zlepšovať svoje schopnosti bez priameho zásahu človeka.
Práve kombinácia vysokej autonómie a schopnosti zlepšovať vlastné fungovanie patrí medzi scenáre, ktoré vyvolávajú najväčšie diskusie v oblasti dlhodobej bezpečnosti AI.
Nie všetci vidia situáciu rovnako
Obavy však nezdieľajú všetci predstavitelia technologického priemyslu v rovnakej miere. Generálny riaditeľ Anthropic Dario Amodei cez víkend vyzval na spomalenie tempa vývoja umelej inteligencie. Podľa článku sa k jeho názoru pripojili aj šéf OpenAI Sam Altman, prezident Google DeepMind Demis Hassabis a Elon Musk.
Iný pohľad ponúkol Jensen Huang, šéf spoločnosti Nvidia, ktorá patrí medzi najvýznamnejších dodávateľov čipov pre AI. Huang varovania pred možným zničením ľudstva odmietol ako tvrdenia, ktoré podľa neho nemajú dostatočnú vedeckú oporu.
„Tento katastrofický pohľad na to, že AI zničí ľudstvo, nie je založený na vede,“ povedal Huang.
Rozdiel medzi týmito názormi ukazuje, že debata o budúcnosti AI nemá jednoduchú odpoveď. Jedna skupina odborníkov upozorňuje na rastúcu autonómiu a nepredvídateľné správanie pokročilých modelov. Iní považujú predstavy o zániku ľudstva v dôsledku AI za príliš vzdialené od súčasných vedeckých dôkazov.
Rozhodujúce budú ďalšie schopnosti AI
Dnešné systémy ešte nepredstavujú autonómnu superinteligenciu, ktorá by samostatne riadila svet. Vývoj však pokračuje a modely získavajú stále viac možností pracovať s nástrojmi, internetom či externými službami. Preto sa popri samotnom výkone AI čoraz viac rieši aj otázka kontroly. Výskumníci potrebujú zistiť, ako spoľahlivo predvídať správanie modelov, ako odhaliť nežiaduce ciele a ako zabezpečiť, aby systém dodržal pravidlá aj v situáciách, ktoré jeho tvorcovia vopred nepredvídali.
