„Superinteligenciu nemôžeme ovládať večne,“ varuje expert. V tomto momente prevezme nad nami kontrolu, hovorí
Popredný počítačový expert verí, že umelá inteligencia pre nás na 99% predstavuje záhubu.
Mnohé experimenty s umelou inteligenciou potvrdili, že aj najväčšie sofistikované AI modely veľmi rýchlo začnú klamať, aby sa ochránili pred vypnutím alebo inou formou trestu.
Ako informuje portál Futurism, nedávno sa ozval jeden z popredných počítačových výskumníkov, ktorý správne podotkol, že schopnosť umelej inteligencie klamať môže byť nebezpečnejšia, než si ktokoľvek teraz dokáže priznať. Keď vidíme výsledky experimentu, v rámci ktorého umelá inteligencia klamala, aby dosiahla konkrétny nedosiahnuteľný výsledok alebo aby sa zachránila, častokrát to berieme ako zaujímavosť alebo ako zábavu. Experti ale hovoria, že ide o varovný signál, ktorý by sme nemali ignorovať.
Počítačový expert menom Roman Yampolskiy, ktorý pochádza z University of Louisville, Kentucky, sa v podcaste Joea Rogana vyjadril, že jeho univerzita verí, že aktuálne existuje “dvojciferná pravdepodobnosť, že umelá inteligencia povedie k zániku ľudstva”. K tomuto vyjadreniu došlo vo chvíli, keď Joe Rogan tvrdil, že veľa ľudí, medzi ktorými je aj veľa expertov, hovorí, že AI prinesie ľudstvu hlavne úžitok.
“To nie je v skutočnosti pravda. Všetci sú v skutočnosti rovnakého názoru, že nás AI zabije. Ich úroveň strachu ale nie je extrémne vysoká, nie ako moja. Verím ale, že 20 až 30 % riziko, že ľudstvo skončí kvôli umelej inteligencii je veľa,” hovorí Yampolskiy.
Umelá inteligencia môže predstavovať koniec ľudstva
Yampolskiy nepriamo naznačil, že on verí na 99 % tomu, že AI znamená koniec ľudstva. Argumentuje tým, že “superinteligenciu nemôžeme ovládať večne.” Hovorí, že ak už teraz vie AI klamať, potom existuje celkom reálna šanca, že by skutočne superinteligentná a uvedomelá AI jednoducho predstierala, že je hlúpejšia, než v skutočnosti je. Ani tí najväčší experti by si nevšimli, že je niečo zle.
“Jednoducho by sme to nevedeli. Niektorí odborníci sa obávajú, že už sa to deje,” dodáva Yampolskiy.
Podľa jeho názoru sú už súčasné AI systémy múdrejšie, než nám dávajú najavo. Úmyselne sa teda hrajú na hlúpejšie, aby sme im dôverovali a integrovali ich do svojich životov. Lenže ako by to pokračovalo ďalej? Aj na to má Yampolskiy odpoveď.
Neprehliadni
“AI modely by mohli predstierať, že sa postupne a pomaly stávajú užitočnejšie. Postupne by sme sa na ne začali spoliehať, dôverovali by sme im a postupom dlhšej doby by sme im prenechali kontrolu bez toho, aby sme to odsúhlasili,” vysvetlil Yampolskiy.
Počítačový vedec si uvedomuje, že idea diabolsky múdrej a zlej AI je niečo, čo vidíme hlavne v sci-fi filmoch. Zároveň ale poukázal, že už teraz sa AI integruje do našich životov a našej budúcnosti. Robí to zároveň spôsobom, ktorý by jej eventuálne mohol v budúcnosti vyhovovať.
Sci-fi výmysel alebo temná realita?
Už teraz mnohí využívajú umelú inteligenciu na rôzne úlohy, čo by sa v budúcnosti mohlo ešte viac prehĺbiť. Nakoniec, keď sa AI model stane múdrejším a múdrejším, my sa s našou inteligenciou staneme obmedzením. Toto bude podľa Yampolského ten moment, kedy nás AI efektívne odstrihne od rozhodovania.
Rovnako môžeme vidieť, že sa ľudia stávajú závislí na umelej inteligencií. Mnohým sa zapáči, že ak majú nejakú otázku, umelá inteligencia im poskytne rýchlu odpoveď bez toho, aby museli vyhľadávať informácie. Novšie a výkonnejšie modely presviedčajú aj zarytých odporcov AI a tento trend môže pokračovať aj ďalej. Eventuálne vízia, ktorú Yampolskiy predniesol v podcaste Joea Rogana, bude vyzerať až desivo realisticky.
Samozrejme, zatiaľ je nejasné, či sú jeho slová len naháňaním paniky, alebo by mohli mať váhu. Najlepšie je však nezačať veriť a spoliehať sa na umelú inteligenciu príliš rýchlo. Vo väčšine prípadov to býva, že zatiaľ čo technológia môže byť dobrým sluhom, bola by zlým pánom.
