Prečo vedomie nemožno zredukovať na kód a prečo sa pri AI zahrávame s niečím, čomu nerozumieme
Umelá inteligencia dnes odpovedá presvedčivo, no nerozmýšľa ako človek. Prečo ju ľudia často preceňujú, čo jej chýba k vedomiu a kde vzniká riziko, keď jej začneme veriť viac, než by sme mali.
Možno sa ti to už stalo. Spýtal si sa umelej inteligencie na radu a odpoveď znela rozumnejšie než to, čo by povedal kolega v práci. Možno dokonca empatickejšie. A presne vtedy sa v hlave objaví nepríjemná myšlienka: čo ak to nie je len „stroj“?
Veľa ľudí si v tej chvíli povie, že ide len o otázku času. Že keď bude AI ešte o trochu lepšia, výkonnejšia a presvedčivejšia, jedného dňa „precitne“. Lenže najnovší výskum upozorňuje na niečo nepríjemné. Problém nie je v tom, že AI je zatiaľ slabá. Problém je v tom, že funguje úplne inak než ľudský mozog. A tento rozdiel sa nedá dohnať ani miliardami výpočtov.
Prečo nás AI tak ľahko oklame
Ľudia majú tendenciu posudzovať inteligenciu podľa správania. Keď niečo odpovedá rýchlo, zmysluplne a bez chýb, automaticky tomu prisudzujeme pochopenie. Lenže to je pasca.
Digitálna AI robí presne to, na čo bola navrhnutá. Hľadá vzory, kombinuje slová, odhaduje, čo znie správne. Nechápe význam, len napodobňuje výsledok. Je to podobné ako GPS navigácia. Vie ťa dostať do cieľa, ale netuší, kde vlastne si a prečo tam ideš.
Keď si toto neuvedomíme, začneme robiť chybu, ktorá má následky. Začneme AI veriť viac, než by sme mali.
Neprehliadni
Mozog nefunguje ako softvér. A tu sa láme celý príbeh
Často sa hovorí, že mozog je ako počítač. Lenže toto prirovnanie je zavádzajúce. Počítač je stroj, kde je program oddelený od hardvéru. Ten istý softvér môže bežať na rôznych zariadeniach.
V mozgu nič také neexistuje. Myšlienky nie sú „kód“, ktorý by si mohol skopírovať inde. Vznikajú priamo z fyzických procesov, elektrických signálov, chemických reakcií, pohybu iónov a energie.
Keď sa zmení prostredie, mení sa aj samotné myslenie. Mozog nebeží na mozgu. Mozog tým procesom je.
Rozdiel, ktorý rozhoduje, no väčšina ľudí ho prehliada
Ľudský mozog je extrémne úsporný. Má veľmi obmedzené množstvo energie a musí s ňou neustále hospodáriť. Práve tento tlak ho núti robiť kompromisy, skracovať cesty a hľadať efektívne riešenia.
Inteligencia u ľudí vzniká pod tlakom prežitia. Nie preto, že by mali neobmedzený výkon, ale práve naopak.
Digitálna AI tento problém nemá. Keď treba viac výpočtov, pridá sa výkon. Keď treba viac energie, zaplatí sa. Neexistuje žiadny vnútorný limit, ktorý by formoval správanie systému zvnútra. A bez tohto tlaku nevzniká vedomie.
Neuromorfné čipy znejú sľubne, realita je triezvejšia
Možno si zachytil správy o tzv. neuromorfných systémoch. Tých, ktoré majú fungovať „ako mozog“. Lenže väčšina z nich robí jednu vec: rýchlejšie simuluje digitálne procesy.
To je zásadný rozdiel. Simulovať dážď nie je to isté ako zmoknúť. A simulovať mozog nie je to isté ako ním byť.
Existujú experimentálne hardvéry, kde výpočet vzniká priamo z fyziky materiálu. Tam sa algoritmus nedá oddeliť od samotného systému. Lenže tieto prístupy sú zatiaľ skôr výnimkou než pravidlom.
Čo by sa muselo stať, aby AI vôbec mohla mať vedomie
Ak by sme to povedali úplne jednoducho, AI by musela prestať byť „programom“. Musela by sa stať fyzickým systémom, kde výpočet vzniká z reálnych procesov v čase. Kde energia, náhoda a prostredie ovplyvňujú správanie zvnútra.
Nie softvér na serveri. Ale systém, ktorý myslí tým, že existuje.
Dnešné modely, nech sú akokoľvek presvedčivé, sú od tohto sveta veľmi ďaleko.
Tu robí väčšina ľudí chybu, bez toho aby si to uvedomila
Ak uveríme, že AI „takmer myslí“, začneme jej odovzdávať rozhodnutia. V práci, v politike, v školstve, v zdravotníctve. A to je problém.
Nie preto, že by bola zlá. Ale preto, že nevie, čo robí. Necíti dôsledky. Neniesie zodpovednosť. Nerozumie svetu, len ho štatisticky opisuje.
Rozdiel medzi inteligentným správaním a vedomím nie je detail. Je to hranica, ktorú by sme nemali ignorovať. Čím skôr si to uvedomíš, tým menšia je šanca, že sa necháš presvedčiť niečím, čo len veľmi dobre hrá svoju rolu.
A v dobe, keď algoritmy rozhodujú čoraz viac vecí, je to schopnosť, ktorú budeš potrebovať.
