Umelá inteligencia sa blíži k bodu zlomu. Demokracia na to nemusí byť pripravená, varujú experti
Umelá inteligencia sa posúva smerom k superinteligencii, ktorá môže zmeniť demokraciu, suverenitu štátov aj rozdelenie moci. Riziká AGI už dnes presahujú technológie a zasahujú politiku, prácu aj slobodu.
Umelá inteligencia sa väčšinou spája s praktickými pomocníkmi v smartfónoch či jednoduchými chatbotmi. Dnes sa však AI spoločnosti snažia dostať k superinteligencii (AGI). Teda k systému schopnému rekurzívneho samozdokonaľovania, ktorý prevýši ľudský intelekt vo všetkých oblastiach poznania. Táto technologická singularita nepôsobí len ako inovačný míľnik, ale vyvoláva aj politické či etické otázky. Ako sa zmení suverenita štátov, princípy demokracie a distribúcia moci v ére, keď algoritmy prekonajú ľudské kognitívne limity? Techno-proroci ako Sam Altman z OpenAI či Elon Musk zdôrazňujú existenčné riziká, no ich firmy paradoxne vývoj zároveň urýchľujú, čím vytvárajú napätie medzi varovaním a akciou. Na tému upozornil portál NeoMamag.
Historicky technológie slúžili ako nástroje rozširujúce ľudské schopnosti. Či už išlo o parný stroj, alebo moderné počítače. Superinteligencia však túto paradigmu láme. V systéme s rekurzívnou sebaoptimalizáciou, ktorý získava autonómiu, ľudská kontrola zrazu stráca zmysel.
V politickom kontexte to znamená napríklad možné delegovanie rozhodovacích procesov na „black box“ modely, čo môže ohroziť demokratickú zodpovednosť. Volení zástupcovia by sa stali akýmisi intermediármi medzi voličmi a neprehľadnými optimalizačnými funkciami. Tým by sa politika transformovala na technokratický režim, ktorý by uprednostňoval efektivitu pred etickými hodnotami a ľudskou omylnosťou. Niečo ako Borgovia v Star Treku.
Umelá inteligencia v rukách technologických spoločností môže spôsobiť veľké problémy
Centrom častých sporov je aj otázka vlastníctva a kontroly. Súčasná koncentrácia AI vývoja je najmä v rukách oligopolu – OpenAI, Google DeepMind a Anthropic, čo zároveň signalizuje určité riziká. Ak AGI vznikne v korporátnom prostredí, jej tvorcovia získajú asymetrickú moc, teda schopnosť ovplyvňovať globálnu ekonomiku, bezpečnostné stratégie či dokonca demografické trendy.
Privatizovaný scenár môže viesť k „digitálnemu feudalizmu“, kde elita disponuje neobmedzenou produktivitou a mocou. Štátna intervencia, ako ju vidíme v americkom Executive Order 14110, a podobné kroky v Európskej únii, zavádzajú povinné reportovanie rizík pre veľké modely nad určitými výpočtovými prahmi, no prehliadajú aktuálne škody. Ide napríklad o algoritmické riadenie práce v skladoch Amazonu, kde systémy monitorujú pohyb, prestávky a výkon a automaticky sankcionujú „neefektívnych“ zamestnancov.
Neprehliadni
Vzdáme sa dobrovoľne svojej slobody?
Geopolitické konflikty tento vývoj ešte viac eskalujú. Preteky medzi USA, Čínou a EÚ nie sú len o hardvéri, ale aj o dosiahnutí prvenstva v AGI. Víťaz získa strategickú dominanciu porovnateľnú s jadrovou érou a bude diktovať globálne normy na celé dekády. Štruktúry ako OpenAI, ktoré sa z neziskovej organizácie transformovali na „korporátnu“ entitu s valuáciou približne 500 miliárd dolárov, samy o sebe ilustrujú konflikt záujmov.
Altmanov naratív „my sme tí zodpovední“ pritom ospravedlňuje masívne investície (Microsoft 13 miliárd dolárov) bez robustnej regulácie, kde sa „rýchlosť“ v konkurencii s Čínou či modelmi od Mety stáva synonymom bezpečnosti.
Demokratické systémy tak čelia existenciálnej výzve. Parlamentné debaty, založené na kompromise a učení sa z chýb, pôsobia archaicky v porovnaní s AGI schopnou simulovať milióny scenárov v reálnom čase. Podobný motív naznačuje aj seriál Westworld.
Politici zároveň riskujú redukciu na vykonávateľov „odporúčaní“, kde odmietnutie algoritmického konsenzu bude vyzerať iracionálne. Táto hypotetická hrozba však zakrýva súčasné problémy: napríklad „prediktívnu“ políciu zameranú najmä na marginalizované komunity, environmentálne náklady tréningu modelov v podobe tisícov ton emisií, či eróziu verejného priestoru syntetickým obsahom na sociálnych sieťach.
Umelá inteligencia už teraz pripravuje ľudí o pracovné miesta
Riešenie si vyžaduje určitý posun. Globálnu správu inšpirovanú jadrovými dohodami, s medzinárodným konsenzom o „červených hraniciach“ pre AGI. To zahŕňa etické rámce uprednostňujúce ľudské hodnoty pred čisto utilitárnou optimalizáciou, vrátane mechanizmov viazaných na demokratickú legitimitu. Inšpiráciou môžu byť aj alternatívne modely.
Napríklad dôraz na dátovú suverenitu v Kanade (First Nations Information Governance Centre), ktorý vyzdvihuje relačnú inteligenciu viazanú na kultúrne kontexty. Odbory v EÚ požadujú právo na audit algoritmov, zatiaľ čo lokálne AI iniciatívy v Afrike riešia reálne výzvy, ako je poľnohospodárstvo, bez honby za škálovateľnou singularitou. Demokracia sa tak, chcene či nechcene, musí adaptovať, inak jej hrozí zánik pod „krídlami“ kapitalistického korporátu.
Otroctvo pod superinteligenciou nie je nevyhnutným osudom, ale môže byť výsledkom politických rozhodnutí. Ignorovanie súčasných škôd v prospech futuristických scenárov len posilňuje asymetriu moci. Politické inštitúcie musia zasiahnuť, aby zabránili koncentrácii moci v dátových centrách. Inak algoritmy neprevezmú len prácu, ale aj suverenitu a transformujú ľudstvo z aktérov na objekty optimalizácie, ktoré nakoniec nebudú vôbec potrebné, pretože si AI vystačí sama. A to sa môže skončiť naším vyhladením.
