AI nás môže zničiť, no bez nej vraj tiež riskujeme zánik. Známy filozof prichádza s poriadne nepríjemnou úvahou
Nick Bostrom preslávil myšlienku, že možno nežijeme v skutočnom svete, ale v simulácii. Dnes podobne provokatívne hovorí aj o umelej inteligencii, ktorá môže ľudstvu pomôcť, no zároveň ho ohroziť.
Žijeme, alebo nežijeme v simulácii? Táto otázka sa najviac zviditeľnila hlavne vďaka filmovej trilógii Matrix z roku 1999. Dalo by sa to preformulovať aj jednoduchšie: žijeme, či nežijeme v Matrixe? A ak chceme ísť ešte hlbšie, môžeme byť simuláciou vo vnútri ďalšej simulácie? Týmito otázkami sa zaoberá aj filozof Nick Bostrom. Pričom asi jeho meno ti nebude veľmi známe, ak vôbec. Na tému upozornil portál Futurism.
Tento filozof svoju myšlienku predstavil ešte v roku 2003 počas svojho pôsobenia na Oxfordskej univerzite. A to presnejšie v práci s názvom „Žijete v počítačovej simulácii?“. V nej rozvinul scenár, ktorý tak trochu pripomína sci-fi román. Napriek tomu sa opiera o logickú úvahu. Ak civilizácie dosiahnu dostatočný technologický pokrok, mohli by byť schopné simulovať vlastnú minulosť vrátane bytostí, ktoré by sa správali a vnímali svet podobne ako ich predkovia. A ak by takéto simulácie vznikli, teoreticky nič nebráni tomu, aby aj ich obyvatelia raz vytvárali ďalšie simulácie, keď dosiahnu podobný pokrok.
Výsledkom je reťazec realít vnorených jedna do druhej, pričom každá ďalšia úroveň napodobňuje tú predchádzajúcu. Tu však treba doplniť, že Bostrom netvrdil, že určite žijeme v simulácii. Jeho argument stojí skôr na trileme (situáciu, kde existujú tri možné vysvetlenia). Buď ľudské civilizácie väčšinou zaniknú ešte pred tým, než dosiahnu extrémne pokročilú technologickú úroveň, alebo takéto civilizácie nebudú mať záujem spúšťať veľké množstvo simulácií svojich predkov, alebo platí tretia možnosť: veľká časť bytostí podobných nám žije v simulovanom svete.
Ak by platila práve tretia možnosť, potom by pravdepodobnosť, že žijeme v pôvodnej „základnej“ realite, bola veľmi nízka. Oveľa pravdepodobnejšie by mohlo byť to, že sme súčasťou jednej z mnohých vrstiev simulovaného sveta, ktorý sa rozvetvuje podobne ako nekonečné zrkadlové odrazy.
Táto hypotéza vyvolala aj pomerne rozsiahlu diskusiu, ktorá sa neobmedzila len na filozofické kruhy. Do debaty o tejto úvahe sa zapojili vedci, technologickí lídri aj verejne známe osobnosti. Niektorí, vrátane podnikateľa Elona Muska, ju považujú za serióznu možnosť. Iní ju odmietajú ako špekulatívnu konštrukciu bez empirického dôkazu.
Neprehliadni
Sme len nuly a jednotky?
V posledných rokoch sa však jeho pozornosť viac presunula od simulácií k umelej inteligencii. Práve tá sa stala významným zdrojom obáv aj nádejí. Bostrom dlhodobo upozorňuje na riziká nekontrolovaného vývoja AI a v minulosti varoval, že jej dopady môžu byť pre ľudstvo fatálne, dokonca vážnejšie než klimatická kríza.
Dnes však jeho postoj pôsobí vyváženejšie než kedysi. Popri rizikách čoraz viac zdôrazňuje aj potenciálne prínosy pokročilej umelej inteligencie. Pripúšťa síce, že extrémne scenáre vrátane zániku civilizácie sú možné, no zároveň upozorňuje, že technologický pokrok môže priniesť aj obrovské benefity, ktoré by sme nemali ignorovať.
Sám sa označuje za „ustaraného optimistu“, čím vystihuje vlastný vnútorný rozpor. Na jednej strane vidí obrovské možnosti, ktoré by AI mohla priniesť, napríklad predĺženie života, výrazné zlepšenie životnej úrovne alebo riešenie problémov, s ktorými si dnes nevieme poradiť. Na druhej strane si uvedomuje, že vývoj takejto technológie môže mať nepredvídateľné následky.
Bostrom zároveň kritizuje najpesimistickejšie scenáre, ktoré predpokladajú nevyhnutný kolaps ľudstva po vytvorení umelej inteligencie. Podľa neho je tento pohľad príliš jednostranný. Argumentuje tým, že aj stagnácia a odmietnutie pokroku môžu viesť k postupnému úpadku civilizácie. Inými slovami, riziko nie je len v tom, že technológiu vytvoríme, ale aj v tom, že ju nevytvoríme.
Žijeme v Matrixe?
Jeho oponenti však upozorňujú na zásadný rozdiel medzi týmito scenármi. Ak by AI skutočne spôsobila vyhynutie ľudstva, znamenalo by to definitívny koniec všetkých budúcich generácií. Bostrom tento argument nepopiera a patrí medzi mysliteľov, ktorí berú vážne aj dopady na budúce generácie. Zároveň však poukazuje na to, že pokrok môže výrazne zlepšiť život už dnes existujúcich ľudí.
Zaujímavý paradox vzniká v momente, keď sa jeho úvahy o umelej inteligencii prepoja s hypotézou simulácie. Ak by bol náš svet len simuláciou, vyvstáva otázka, ako do tohto obrazu zapadá AI. Mohli by aj simulované civilizácie vytvárať vlastné superinteligencie? A ak áno, viedlo by to k ďalším úrovniam simulovaných svetov?
Tieto otázky zatiaľ zostávajú bez odpovede a balansujú na hrane medzi filozofiou a technologickou víziou budúcnosti. Celé by sa to dalo paradoxne parafrázovať sci-fi seriálom Battlestar Galactica: „Toto všetko sa už stalo a stane sa to znova.“
Svojím spôsobom to môže pripomínať aj teórie multivesmíru, no nejde o to isté. Zatiaľ čo simulácia predpokladá výpočtovo vytvorenú realitu, multiverzum hovorí o fyzikálnom rozvetvení rôznych vesmírov. A práve tu zostáva najväčší problém celej myšlienky. Znie fascinujúco, ale kým nebudeme mať dôkaz, stále sa pohybujeme v priestore, kde sa filozofia dotýka sci-fi viac než tvrdej vedy.
