Pápež Lev XIV varuje, že umelá inteligencia má obrovský potenciál zmeniť ľudstvo k horšiemu: Toto sú najväčšie riziká, ktoré vidí v AI technológiách
Pápež Lev XIV vydal encykliku Magnifica Humanitas, v ktorej sa vo veľkom venuje umelej inteligencii a jej nástrahám.
Pápež Lev XIV venoval svoju prvú veľkú encykliku umelej inteligencii a tón dokumentu rozhodne nepripomínal technologický optimizmus zo Silicon Valley. Nová hlava katolíckej cirkvi varovala pred svetom, v ktorom algoritmy postupne preberú kontrolu nad prácou, vojnou aj samotným fungovaním spoločnosti. Dokument s názvom Magnifica Humanitas pritom neadresoval iba veriacich. Pápež ho nasmeroval prakticky celej spoločnosti a veľmi otvorene pomenoval riziká, ktoré podľa neho prichádzajú spolu s AI revolúciou.
Lev XIV pritom nevystúpil proti technológiám ako takým, píše Axios. Nevyzval na zákaz umelej inteligencie ani na návrat do minulosti. Skôr upozornil na tempo, akým firmy a štáty AI nasadzujú bez jasných pravidiel. Podľa neho dnes svet vstúpil do obdobia, ktoré nápadne pripomína priemyselnú revolúciu 19. storočia, ibaže tentoraz nejde o parné stroje, ale o algoritmy schopné nahradiť milióny ľudí.
Umelá inteligencia má podľa pápeža potenciál obrátiť spoločnosť naruby
Veľkú časť dokumentu preto venoval práci. Pápež otvorene varoval, že nekontrolovaná automatizácia môže vyvolať sociálnu katastrofu. Firmy dnes investujú miliardy do systémov, ktoré znižujú potrebu ľudskej práce, a tlak na efektivitu často preváži nad otázkou, čo sa stane s ľuďmi, ktorých AI vytlačí z trhu.
„AI môže zlepšiť bezpečnosť a efektivitu, no nesmie zničiť ľudskú dôstojnosť ani pripraviť človeka o zmysluplnú prácu,“ napísal Lev XIV vo svojej encyklike.
Nešlo pritom iba o robotnícke profesie. Pápež upozornil, že generatívna AI dnes zasahuje aj kancelársku prácu, administratívu, médiá či kreatívne odvetvia, ktoré ešte pred pár rokmi mnohí považovali za relatívne bezpečné.
Slová pápeža potvrdil aj multimiliardár Bill Gates, ktorý sa ešte minulý rok vyjadril, že AI zasiahne skutočne významným spôsobom do trhu práce. Podľa jeho vízie ostanú len tri povolania, ktoré nebude vedieť AI ešte dlhú dobu nahradiť. Sú nimi biologické vedy, energetika a programovanie.
Neprehliadni
Šéf Microsoftu verí, že umelá inteligencia sa dokáže lepšie postarať o človeka ako ľudský lekár a rovnako dokáže lepšie aj učiť. Na jeho slovách je niečo pravdy. Napríklad v prípade učiteľstva AI nestratí trpezlivosť a dokáže látku vysvetliť množstvom rôznych spôsobov, čo častokrát nie je v schopnostiach človeka. Ak dieťa alebo starší študent niečomu nechápe, iné vysvetlenie mu častokrát môže pomôcť chápať súvislosti.
Čo sa ale Gatesovej „svätej trojice“ týka, vo všetkých prípadoch ide o profesie, kde hrá dôležitú úlohu ľudský úsudok. Výskum si vyžaduje podľa neho akýsi „šiesty zmysel“, ktorý vedie človeka do určitej sféry výskumu. Programátorstvo zas potrebuje ľudský cit v odhaľovaní chýb alebo inovovaní kódu. Energetika je preňho príliš komplexný a príliš dôležitý systém na to, aby sme ho nechali plne v rukách AI.
Umelá inteligencia ovplyvní podľa pápeža koncentráciu moci
Práve tu sa ale začína zaujímavý moment. Lev XIV veľmi jasne naznačil, že problém nevidí iba v samotnej technológii, ale hlavne v koncentrácii moci. Podľa neho dnes obrovské technologické firmy získavajú vplyv, ktorý začína presahovať moc štátov. Niekoľko korporácií kontroluje najvýkonnejšie modely AI, obrovské dátové centrá aj samotné digitálne prostredie, v ktorom ľudia pracujú, komunikujú a získavajú informácie.
Pápež dokonca prirovnal súčasný vývoj k biblickej Babylonskej veži. V tomto príbehu sa ľudia pokúsili postaviť monument symbolizujúci ich vlastnú moc a nadradenosť. Podľa Leva XIV dnes svet robí niečo podobné, buduje technologický systém, ktorý môže prerásť možnosti človeka kontrolovať ho.
„Svet sa ženie za stále výkonnejšími algoritmami a väčšími dátami v snahe získať geopolitickú a komerčnú dominanciu,“ upozornil pápež.
Práve tento moment podľa neho vytvára nové formy digitálneho podriadenia a závislosti.
Silnú časť encykliky venoval aj vojne. Lev XIV patrí medzi najostrejších kritikov autonómnych zbraní a systémov riadených umelou inteligenciou. Podľa neho dnes vznikajú technológie, ktoré človek postupne prestáva reálne kontrolovať. To sa týka hlavne systémov schopných samostatne vyberať ciele alebo koordinovať útoky bez priameho zásahu operátora.
Pápež v dokumente dokonca uviedol, že niektoré zbrane sa dostali „prakticky mimo dosahu ľudskej kontroly“. V čase masívneho rozvoja vojenských AI systémov ide o mimoriadne tvrdé vyjadrenie. Moderné armády totiž investujú miliardy do autonómnych dronov, analytických systémov a algoritmov, ktoré dokážu vyhodnocovať bojisko rýchlejšie než človek.
Autonómne zbrane na bojiskách sú dvojsečnou zbraňou
Problém pritom nemusí tkvieť v situáciách, kedy sa proti sebe postavia autonómne zbrane dvoch súperiacich krajín. Problémom a v súčasnosti často riešenou dilemou, sú situácie, kedy len jedna strana nasadí autonómne stroje. Ak jedna strana nasadí autonómneho robota, pre ľudského bojovníka ide o súpera, ktorý nepotrebuje jesť, spať a necíti bolesť. Vo vojne, keď sa obe strany dostali do patovej situácie, mohli aspoň predpokladať to, že protivník neurobí samovražedný útok cez bojisko, len aby odhalil slabiny súperovho opevnenia, alebo pozíciu ostreľovačov. Armáda však môže na takúto misiu poslať autonómny stroj.
Rovnako sa doteraz predpokladalo, že bez ohľadu na to, aká hrozná vojna je, tak finálne rozhodnutie na útok alebo celkovo na zobratie ľudského života, urobí človek. Stroj necíti ľútosť a tým pádom ani zmilovanie. Vojenský analytik nedávno uviedol, že na jednu stranu môže byť tento prístup dobrý, lebo rovnaké emócie môžu viesť aj k vojnovým zločinom, no na druhú stranu uviedol práve fakt, že robot koná algoritmicky. Ak uvidí zbraň, človeka čo ju drží vyhodnotí ako nepriateľa, zatiaľ čo iný človek by postrehol neistotu a konal inak.
Pápež varuje, že technológia nevyrieši všetky problémy ľudstva
Lev XIV zároveň kritizoval predstavu, že technológia automaticky vyrieši problémy ľudstva. Podľa neho môže AI prehĺbiť nerovnosť, oslabiť medziľudské vzťahy a zmeniť človeka na obyčajný dátový bod. Práve tento motív sa v encyklike opakuje veľmi často. Pápež opakovane zdôraznil, že človek nesmie zostať podriadený algoritmu.
Zaujímavé pritom zostáva aj širšie pozadie celej encykliky. Lev XIV sa už od nástupu do úradu profiluje ako pápež, ktorý chce výraznejšie zasahovať do debaty o technológiách. Vatikán v posledných mesiacoch sprísnil interné pravidlá pre AI a začal hovoriť o ochrane pravdy, dôveryhodnosti informácií aj ľudskej dôstojnosti v digitálnom priestore.
Samotný názov encykliky navyše odkazuje na historického pápeža Leva XIII, ktorý koncom 19. storočia reagoval na priemyselnú revolúciu a dramatické zmeny práce. Lev XIV tým podľa viacerých analytikov naznačil, že AI považuje za podobne zásadný civilizačný zlom. Celý dokument preto nepôsobí ako technická analýza umelej inteligencie. Skôr pripomína varovanie pred spoločnosťou, v ktorej sa efektivita, automatizácia a moc technologických gigantov dostanú nad človeka.
Pápež pritom netvrdí, že AI nevyhnutne prinesie katastrofu. Skôr upozorňuje, že bez pravidiel, kontroly a dôrazu na ľudskú dôstojnosť sa môže technologická revolúcia veľmi ľahko otočiť proti samotnej spoločnosti.
