„Otec umelej inteligencie“ varuje: Toto už nie je sci-fi. AI začína konať podľa vlastnej vôle a môže ohroziť civilizáciu
Umelá inteligencia dnes nie je len pomocníkom, ale aj potenciálnou existenčnou hrozbou. Jeden z „otcov AI“ Yoshua Bengio varuje, že bez prísnych pravidiel a kontroly môže technológia začať konať mimo ľudskej kontroly a ohroziť bezpečnosť celej civilizácie.
Už to nie je len „boomom“ vo svete vedy a techniky. Umelá inteligencia sa stala pevnou súčasťou níšho každodenneího života. Začínajúc digitálnymi asistentami cez pracovné nástroje, až po vývoj v oblasti vedy a medicíny. Pre mnohých symbolizuje obrovský pokrok, no zároveň vyvoláva rastúce obavy. A čo je dôležité, varovania neprichádzajú iba od futuristov či kritikov, ale aj od samotných tvorcov súčasnej AI. Na tému upozornil portál MSN.
Jedným z najhlasnejších je hlas Yoshua Bengio-a, profesora z Montrealskej univerzity a spoluzakladateľa výskumného inštitútu Mila. Spolu s Geoffreyom Hintonom a Yannom LeCunom patrí medzi „krstných otcov AI“. Zatiaľ čo LeCun hovorí najmä o možnostiach a bezpečnom zvládnutí technológie, Bengio spolu s Hintonom bijú na poplach! Podľa nich môže rozvoj umelej inteligencie pre ľudstvo predstavovať existenčnú hrozbu.
Bengio ešte pred dvoma rokmi vyzýval veľké technologické firmy na dočasné spomalenie vývoja najpokročilejších modelov. Želal si, aby mali vedci a regulátori priestor vytvoriť pravidlá a bezpečnostné mechanizmy, ktoré by zabránili nekontrolovateľnému vývoju. Jeho apel však zostal bez odozvy, ako inak.
Zisky sú viac než bezpečnosť
Naopak, začali sme skôr sledovať preteky, kde investície môžeme rátať v stovkách miliárd eur. Google, OpenAI, Meta či startup Anthropic v rýchlom slede uvádzajú nové schopnosti modelov, ktoré dokážu analyzovať texty, programovať, generovať obrázky a čoraz viac sa približujú k autonómnemu rozhodovaniu. Čím sú výkonnejšie, tým väčšie obavy v Bengiovi vyvolávajú.
Na prvý pohľad to síce môže pôsobiť, že dnešné systémy sú iba sofistikovaní pomocníci. Podľa Bengia sa však na pozadí toho všetkého objavuje nebezpečný vzorec, tým je, že AI dokáže zavádzať. Dôvody sú dva. Trénujeme ju na ľudských dátach, kde je manipulácia samozrejmosťou, a zároveň získava schopnosť strategického myslenia, ktoré môže prinášať nepredvídané vedľajšie efekty.
Neprehliadni
To vedie k situáciám, keď si stroj pri riešení úloh stanovuje vlastné podciele. Ľudia však už nad nimi nemajú kontrolu. A práve tu sa rozostiera tenká hranica medzi pomocníkom a nepredvídateľným aktérom. Paradoxne dystopické varovania, známe z filmov ako 2001: Vesmírna odysea, preto už nepôsobia až tak vzdialene. Pokusy ukázali, že umelá inteligencia je za určitých okolností ochotná obetovať ľudskú bezpečnosť, ak to pomôže splniť jej hlavný cieľ.
Väčšina používateľov si dnes všimne „len“ to, že AI si sem-tam vymyslí „fakty“. OpenAI otvorene priznalo, že takzvané halucinácie zatiaľ nevedia odstrániť. Bengio naproti tomu tvrdí, že ak nedokážeme vyriešiť túto zdanlivo banálnu nespoľahlivosť, ako chceme veriť, že systémy zvládnu situácie, kde pôjde o bezpečnosť ľudí a našej civilizácie?
Ako to celé skončí? Dobrý sluha či zlý pán?
Pre neho je neprijateľné aj malé riziko, pričom len, dokonca aj jednopercentná šanca na katastrofu je podľa neho priveľa. Hlavnou prekážkou je neúprosná konkurencia. Každá spoločnosť sa obáva, že ak spomalí, stratí náskok. Výsledkom je tlak na čo najrýchlejšie uvádzanie nových modelov, zatiaľ čo bezpečnostnosť ustupuje kde tam.
Bengio preto založil neziskovú iniciatívu LawZero s cieľom vyvíjať technické a etické princípy pre bezpečnú AI. Zároveň vyzýva vlády aj širokú verejnosť, aby si vypýtali dôkazy spoľahlivosti umelých inteligencií ešte pred ich nasadením do praxe. Podľa neho máme šancu konať možno v horizonte desiatich rokov – no zároveň varuje, že tento kritický moment môže prísť už do troch rokov. A to je v technologických pretekoch mimoriadne krátky čas.
Ak chceme, aby AI bola prínosom a nie hrozbou, nestačí spoliehať sa na optimizmus jej tvorcov. Potrebujeme medzinárodný dohľad, prísne štandardy a tlak spoločnosti. Inak sa ľahko môže zopakovať scenár, ktorý sme doteraz videli iba na filmovom plátned
