Krstný otec AI, ktorý stál pri jej zrode, teraz varuje: Nevie, či ľudstvo po boku superinteligencie vôbec prežije
Krstný otec umelej inteligencie Geoffrey Hinton varuje, že AI napreduje príliš rýchlo. Podľa neho nevieme, či dokážeme bezpečne existovať vedľa superinteligentných systémov.
Umelá inteligencia napreduje tempom, ktoré ešte pred pár rokmi pôsobilo prehnane aj na technologických optimistov. Systémy z dielne firiem ako Anthropic či OpenAI už dnes pomáhajú programátorom hľadať chyby v kóde, analyzovať dokumenty, písať texty alebo riešiť úlohy, ktoré ešte nedávno patrili výhradne ľuďom.
Stále však nejde o „pravú“ AI v zmysle všeobecnej inteligencie, ktorá by svetu rozumela ako človek. Dnešné veľké jazykové modely pracujú s obrovským množstvom dát, hľadajú v nich vzory a skladajú odpovede, no stále nemajú vlastné porozumenie ani vedomie v ľudskom zmysle. Na tému upozornil portál TechXplore.
Práve preto znejú najnovšie slová Geoffreyho Hintona tak znepokojivo. Jeden zo „zakladateľov otcov“ umelej inteligencie, ktorého médiá často označujú za krstného otca AI, na konferencii Digital World 2026 v Ženeve varoval, že vývoj tejto technológie potrebuje prísnejšie pravidlá. Podľa neho je nevyhnutné posilniť riadenie, dohľad aj etické mantinely, ktoré by vývoj umelej inteligencie aspoň čiastočne držali pod kontrolou.
Hinton zároveň upozornil na silný tlak zo strany technologických a investičných kruhov. Tie sa podľa neho snažia verejnosť presvedčiť, že regulácia je len zbytočná prekážka, ktorá spomalí pokrok. Lenže podľa Hintona je takýto pohľad nebezpečne jednoduchý.
„Ich argument je jednoduchý: neregulovaná AI je ako plynový pedál, zatiaľ čo regulácia je brzda,“ vysvetlil vedec, ktorý v roku 2024 získal Nobelovu cenu za fyziku za svoj prínos v oblasti umelej inteligencie. „V skutočnosti chcú rýchle auto bez volantu,“ dodal.
Krstný otec AI varuje, že nejde len o technológiu, ale o kontrolu nad ňou
Hinton otvorene hovoril aj o riziku masívneho zániku pracovných miest. Uznáva, že v niektorých oblastiach môže AI priniesť obrovský úžitok. Napríklad v zdravotníctve, kde dlhodobo chýbajú ľudia, môže pomôcť zrýchliť diagnostiku, spracovať dokumentáciu alebo odbremeniť lekárov od administratívy. Tam môže vyššia produktivita znamenať reálnu pomoc pre pacientov.
Neprehliadni
Lenže v iných sektoroch bude efekt úplne opačný. Ako príklad uviedol zákaznícke centrá, kde už dnešné systémy dokážu robiť časť práce porovnateľne s ľuďmi a čoskoro ju podľa neho môžu robiť ešte lepšie. Pre firmy je takáto matematika jednoduchá. Ak softvér zvládne rovnakú prácu lacnejšie, rýchlejšie a bez prestávky, tlak na nahrádzanie ľudí bude obrovský.
Podľa Hintona pritom nemusí stačiť ani rozsiahle rekvalifikovanie. Bežne sa hovorí, že ľudia sa jednoducho presunú do nových profesií, tak ako sa to dialo pri predchádzajúcich technologických revolúciách. Lenže superinteligentná AI môže tento scenár narušiť, pretože by neohrozovala len rutinné úlohy, ale prakticky každú intelektuálnu prácu.
Ak vzniknú nové profesie, AI ich podľa neho môže zvládnuť lacnejšie a efektívnejšie než človek. To je zásadný rozdiel oproti minulosti. Priemyselná revolúcia nahrádzala najmä fyzickú prácu, no dnešná AI mieri aj na kancelárie, vývojárov, analytikov, právnikov, prekladateľov, novinárov či ľudí, ktorí pracujú s informáciami.
Hinton pritom nehovorí ako človek stojaci mimo technologického sveta. V roku 2023 odišiel zo spoločnosti Google práve preto, aby mohol otvorenejšie hovoriť o rizikách umelej inteligencie. Odvtedy podľa vlastných slov jeho obavy nezmizli, skôr sa prehĺbili. Tempo vývoja označuje za mimoriadne rýchle a problém vidí najmä v tom, že bezpečnostné otázky za týmto vývojom zaostávajú.
Ľudia majú nad AI ešte určitú kontrolu. Otázkou je, dokedy to tak zostane
„Nevieme, či dokážeme vedľa superinteligentnej AI existovať,“ povedal 78-ročný odborník. „Napriek tomu ju vytvárame.“
Podľa Hintona ľudstvo ešte stále má nad vývojom umelej inteligencie určitú kontrolu. Práve preto považuje súčasné obdobie za rozhodujúce. Ak sa majú tieto systémy navrhovať tak, aby neohrozili ľudí, musí sa to riešiť teraz, nie až v momente, keď budú výkonnejšie, samostatnejšie a ťažšie predvídateľné.
Jeho najtvrdšie varovanie sa týka samotného vzťahu medzi človekom a potenciálne superinteligentným systémom. V histórii totiž existuje len málo príkladov, kde výrazne inteligentnejší aktér dlhodobo ponechal slobodu tomu menej inteligentnému. Inými slovami, ak raz vznikne systém, ktorý nás bude intelektuálne výrazne prevyšovať, nemusí automaticky rešpektovať naše pravidlá len preto, že sme ho vytvorili.
Hinton zároveň upozornil na ďalší paradox. Do vývoja umelej inteligencie dnes tečú obrovské peniaze, no do jej bezpečnosti smeruje podľa neho len zlomok úsilia. Odhadol, že možno iba približne jedno percento práce v oblasti AI sa venuje tomu, aby bola bezpečnejšia.
„Je to šialené,“ poznamenal.
AI už dnes používame každý deň, no jej slabiny nezmizli
Umelá inteligencia pritom už dávno nie je len témou laboratórií a technologických konferencií. Mnohí ľudia ju používajú priamo v smartfónoch, vo vyhľadávačoch, v aplikáciách na úpravu fotografií, pri písaní správ, prekladoch alebo práci s dokumentmi. Pre bežného používateľa pôsobí často ako šikovný pomocník, ktorý šetrí čas a dokáže za pár sekúnd spraviť to, čo by človeku trvalo podstatne dlhšie.
Lenže práve tu vzniká problém. AI vie pomáhať, no zároveň sa dokáže mýliť veľmi presvedčivo. Takzvané halucinácie znamenajú, že systém si môže vymyslieť fakt, zdroj, meno alebo súvislosť a podať ju tak sebavedomo, že si chybu nemusíš okamžite všimnúť. Pri bežnej otázke to môže byť len nepríjemnosť. Pri medicíne, práve, kyberbezpečnosti alebo rozhodovaní vo firme však môže ísť o vážny problém.
Aj preto Hintonovo varovanie nepôsobí ako odmietanie technológie. Skôr ako upozornenie človeka, ktorý veľmi dobre vie, čo AI dokáže, a práve preto sa jej nebojí z nevedomosti, ale z poznania. Najväčšou otázkou tak nie je, či umelá inteligencia zmení svet. To už sa deje. Otázkou je, či ju dokážeme usmerniť skôr, než začne svet meniť spôsobom, ktorý už nebude v našich rukách.
