Umelá inteligencia sa môže obrátiť proti ľudstvu skôr, než si myslíš. Hrozí nám vojna s bytosťou múdrejšou ako my?
Umelá inteligencia mení svet rýchlejšie, než si myslíme. Odborníci varujú, že pokročilé modely AGI by mohli nielen nahradiť ľudskú prácu, ale dokonca sa obrátiť proti nám.
Rok, čo rok, tu máme výkonnejšie AI modely a teoretici, či rôzni IT analytici si nemôžu pomôcť nerozmýšľať nad tým, ako bude vyzerať budúcnosť umelej inteligencie a hlavne ľudstva. Existuje šanca, že sa vyplnia naše najhoršie scenáre? Viac o tom informuje portál Techxplore.
Jedno je nevyvrátiteľné. Umelá inteligencia zmení našu civilizáciu. Už dnes môžeme vidieť, ako stroje poháňané AI dokážu pracovať v skladoch alebo automobilkách. IT experti, vrátane multimiliardárov ako Bill Gates, hovoria, že postupom času nahradí umelá inteligencia takmer všetky povolania. Otvorenou otázkou nateraz ostáva, či by sme sa tohto dňa mali báť alebo ho očakávať s otvorenou náručou.
Ak umelá inteligencia bude pracovať za nás, človeku by sa odrazu uvoľnilo obrovské množstvo času, ktoré môže využiť na umenie, svoje koníčky alebo pomoc iným. Na druhú stranu, ak sa systém nezmení, väčšina ľudí príde o spôsob, ako zarábať peniaze. To povedie k masívnej nezamestnanosti a ďalším problémom.
Vojna s umelou inteligenciou
S umelou inteligenciou sa však spája ešte jeden scenár, ktorý poznajú hlavne fanúšikovia sci-fi, ako napríklad Terminátor. Existuje šanca, že s umelou inteligenciou pôjde človek do vojny? Hoci to nie je problémom súčasných AI modelov, ktoré síce dokážu podať impozantný výkon, no vo väčšine smerov sú stále pomerne obmedzené, táto otázka sa objavuje čoraz častejšie, čím bližšie sme k vytvoreniu všeobecnej umelej inteligencie, skrátene AGI.
Ak si nováčikom v odbore AI, AGI, teda Artificial General Intelligence, je niečo ako uvedomelá AI, ktorá myslí rovnako ako človek, teda dokáže vnímať svet a interagovať s ním zmysluplným spôsobom. Súčasné AI modely ako Gemini alebo ChatGPT vedia, že jablko je červené, lebo to povedalo milión ľudí a na internete je milión obrázkov jabĺk. AI ti môže generovať aj tvar jablka, lebo opäť čerpá z množstva materiálu na internete. Súčasné AI modely si ale nedokážu vytvoriť predstavu jablka.
Neprehliadni
Pri AGI si predstav robota poháňaného sofistikovaným AI modelom, ktorého zoberieš do ovocného sadu k jabloni a necháš ho interagovať so stromom a ovocím akokoľvek uzná za vhodné, pričom mu vysvetlíš nejaké slová, ak by v tom AGI nemala jasno. Učenie sa takýmto praktickým spôsobom vedie k vytvoreniu poznatkov a súvislostí, vďaka ktorým vieme fungovať v reálnom svete, aj keď nemáme všetky poznatky sveta v hlave. Napríklad vieme, že keď hodíme niekomu penovú loptičku do hlavy, tak dostaneme najviac otrávený pohľad. Keď prvýkrát v živote chytíme tehlu do ruky, vieme si odvodiť, porovnaním s tvrdosťou a váhou penovej loptičky, že by zásah tehlou bolel viac.
Učenie sa nezávisle od nás
Možno sa to zdá ako smiešny príklad, no práve tieto asociácie robia z AGI na jednu stranu revolučný, na druhú desivý nástroj. AGI totiž dokáže dlhodobo plánovať, vytvárať komplexné systémy a posúvať sa k svojim cieľom. Problém je v jej inteligencii. AGI by bola neporovnateľne múdrejšia ako človek, čo by znamenalo, že jej cieľom nie vždy dokážeme pochopiť, čo by mohlo viesť ku konfliktu.
“Ak by sme dali AGI cieľ, aby chránila život na Zemi, môže dospieť k názoru, že človek prírode škodí najviac a môže sa nás pokúsiť vyhladiť,” hovoria experti.
AGI môže viesť vojnu kompletne nepochopiteľnými spôsobmi
Ďalším rizikom je, ak dáme AGI modelom čoraz väčšiu kontrolu nad našimi systémami. V určitom momente by mohla napríklad burzu využiť ako nástroj na vyjednávanie. Povie, že ju potopí, ak jej nedáme, čo chce.
Problém s umelou inteligenciou, ktorá sa vie učiť samostatne je, že nevieme povedať, čo sa naučí. AGI by v prípade vlastnej autonómie mohla viesť vojnu úplne novými a pre nás nepochopiteľnými spôsobmi. Mohla by založiť zvláštnu formu vlastnej vlády. Čo je najhoršie, v prípade ozbrojeného konfliktu by sa AI nikdy nemusela vzdať, pretože necíti strach, ani bolesť.
Momentálne je všetko okolo vojny s AI na úrovni špekulácií a fascinujúcich diskusii. Pravdou je, že experti zatiaľ nedokážu povedať, ako by sa AGI správala. Špičkoví svetoví experti na AI ale tvrdia, že existuje približne 10 až 20% šanca, že ľudstvo vymrie dôsledkom AI za najbližších 30 rokov.
