Vedec z top AI firmy varuje: Najbližšie roky môžu rozhodnúť, či ľudia prídu o kontrolu. Umelá inteligencia sa blíži k bodu, odkiaľ niet návratu
Vývoj umelej inteligencie sa blíži k bodu, keď sa bude vedieť sama zdokonaľovať. Vedec z Anthropicu varuje, že roky 2027 až 2030 môžu rozhodnúť o tom, kto bude mať kontrolu nad budúcnosťou sveta.
Umelá inteligencia sa vyvíja tak rýchlo, že sa zdá, akoby sme žili v sci-fi filme, kde sa technológie menia zo dňa na deň. Jared Kaplan, kľúčová postava v spoločnosti Anthropic, však ide ešte ďalej. Podľa neho nás v rokoch 2027 až 2030 čaká rozhodnutie, ktoré určí, či ľudia zostanú pri kormidle, alebo ho odovzdajú samotným strojom. Aspoň tak to tvrdí v nedávnom rozhovore pre The Guardian.
Tento vedec, ktorý riadi výskum v jednej z top AI firiem, hovorí o blízkom horizonte, keď sa umelá inteligencia naučí sama seba zdokonaľovať. A to bez toho, aby sme dokázali predpovedať, kam to povedie.
Kaplan tento míľnik prirovnáva k otvoreniu Pandorinej skrinky. Dnes ešte ľudia navrhujú algoritmy, trénujú modely na obrovských množstvách dát a ladia ich správanie podľa svojich potrieb. Samozdokonaľovanie by však tento proces obrátilo naruby. AI by si sama generovala svojich nástupcov, testovala ich a vyberala tie najlepšie. Výsledkom by mohla byť „inteligenčná explózia“, pri ktorej by sa schopnosti systému znásobovali v priebehu mesiacov namiesto desaťročí. Predstav si, že by takáto super-AI dokázala vyriešiť rakovinu alebo fúziu za pár týždňov. Lenže ruka v ruke s tým by sme stratili akýkoľvek vhľad do jej „vnútorného sveta“. Teda do toho, ako rozmýšľa, ako sa rozhoduje a či jej vôbec záleží na ľudských pravidlách.
Steve Johnson / Unsplash.com
Ostaneme pánmi planéty, alebo nás AI zosadí z trónu?
Nejde len o teóriu z výskumného laboratória. Kaplanov šéf Dario Amodei otvorene priznáva, že konkurencia často realitu prikrášľuje, no pravda je tvrdšia. V najbližších rokoch AI pohltí milióny kancelárskych pracovných miest (na Slovensku by som sa toho zatiaľ až tak nebál). Nejde o jednoduché zadávanie dát, ale o analýzy, právne dokumenty či programovanie, kde ľudskí juniori čelia priamemu ohrozeniu. Štáty na to nie sú pripravené. Sociálne systémy, vzdelávanie aj ekonomika potrebujú roky na adaptáciu. Geoffrey Hinton, otec moderných neurónových sietí, sa k tomu pridáva s varovaním, ktorému dodáva osobnú váhu svojím neskorším odchodom z Googlu.
Za touto hranicou sa skrýva ešte hlbšia dilema. Čo ak AI prestane chápať naše hodnoty? Kaplan sa preto pýta, či nám stroje nechajú priestor na slovo, alebo sa stanú „architektmi sveta“, v ktorom ľudia hrajú len vedľajšiu rolu. Už dnes vidíme tzv. destiláciu, keď veľký model komprimuje svoje znalosti do menšieho balíka. Plná autonómia by však celý proces posunula do neznáma. Je to ako dať dieťaťu volant bez vodičského preukazu a dúfať, že sa to naučí samo.
Neprehliadni
AI je zatiaľ dobrým sluhom. Len čo ak sa stane pánom?
Samozrejme, nie všetci zdieľajú Kaplanov pesimizmus. Yann LeCun z Mety tieto apokalyptické scenáre odmieta ako prehnaný marketing. Podľa neho sú súčasné modely len pokročilé prediktory textu, ďaleko od skutočnej inteligencie, a strašenie verejnosti slúži najmä na nafukovanie cien akcií. Navyše, takéto debaty odvádzajú pozornosť od reálnych problémov. AI spotrebúva obrovské množstvá energie, berie dáta umelcom bez primeraného odškodnenia a robí nás závislými od chatbotov, ktoré čoraz častejšie zasahujú do našich životov. Niekedy doslova do otázok života a smrti.
Kaplan však nevidí len temný scenár. Existuje aj šanca na „veľkú pauzu“. Možno narazíme na strop, kde ďalšie gigawatty a terabajty neprinesú žiadny zásadný posun. Najlepšia AI by tak mohla byť tá dnešná a vývoj by sa spomalil na udržateľné tempo. V Anthropicu tomu paradoxne neveria, no priznávajú jedno. Buď tento vývoj zvládneme pomocou bezpečnostných mechanizmov, alebo sa ocitneme v úlohe divákov pri vlastnej premene.
Aký máš na to názor ty? Používaš umelú inteligenciu? Ak áno, ako? Pomohla ti, alebo skôr skomplikovala život? Podeľ sa s nami o svoj pohľad. AI totiž už neraz pomohla objaviť nové lieky či molekuly, no zároveň „pomohla“ zniesť zo sveta aj niekoľko ľudských životov.
