Dokážeme dnes vôbec odhaliť, či má ChatGPT alebo Gemini vedomie, alebo len presvedčivo klame?
Má alebo nemá ChatGPT a Gemini vedomie? Vedci upozorňujú, že stále nemáme spoľahlivý spôsob, ako zistiť, či jazykové modely len simulujú myslenie, alebo ide o niečo viac.
Bežne to nazývame umelou inteligenciou. Lenže ono to nie je úplne tak. Stále ide len o LLM, teda veľké jazykové modely. Čo má od skutočnej AI asi tak ďaleko, ako dosiahnutie svetového mieru.
Umelá inteligencia je totiž schopná premýšľať, uvažovať a to aj bez potreby interakcie s človekom. LLM je v podstate „múdra knižnica“. Nakoľko je trénovaná len na dátach, ktoré sú jej dané a s tými následne pracuje, ale k akejkoľvek tvorbe a vzniku vedomia nedochádza. Lenže ako spoznáme, že má stroj „vedomie“?
Touto otázkou sa zaoberal aj doktor Tom McClelland z Cambridgeskej univerzity. Podľa neho na to v podstate nemáme žiaden spoľahlivý nástroj. Dodáva, že nemáme ani len predstavu o tom, čo vlastne vedomie je. Nemáme teda ani ako vytvoriť test, ktorý by ho u strojov dokázal zachytiť. Z jeho pohľadu je preto najúprimnejší postoj akýsi „tvrdší agnosticizmus“. Jendoducho si priznať, že nevieme, či stroje môžu byť vedomé, a možno to nebudeme vedieť veľmi dlho. Teda v podstate nikto z nás nevie povedať, či napríklad ChatGPT, Gemini a podobné LLM náhodou nezískali vedomie.
Nie raz sa objavilo, že ani samotní vývojári často nevidia do toho, ako „AI“ pracuje s dátami. Je to len výsledok algoritmov, alebo ide o vedomie, ktoré uvažuje? Odborné debaty sa často delia na dva tábory. Jeden tvrdí, že ak by systém dokázal verne napodobniť funkčnú štruktúru ľudského vedomia, bol by vedomý, aj keby bežal na kremíku. Druhý zas hovorí, že vedomie je naviazané na živé telo a biologické procesy, takže stroj môže vedomie len simulovať, ale nikdy ho skutočne „prežívať“.
To, čí má LLM vedomie, alebo nie, tak ľahko veru nezistíme
Ako budeme vedieť určiť, že je to len simulácia vedomia, alebo sa v skutočnosti ide o skutočné „ja“? McClelland upozorňuje aj na ďalšiu stránku tohto problému. Tú totiž vedia pomerne dobre využiť vo svoj prospech spoločnosti, ktoré pracujú na vývoji AI.
Neprehliadni
Neistota okolo vedomia vytvára priestor pre marketing a prehnané tvrdenia o „ďalšej úrovni inteligencie“. Veď s akou pompou bola ohlasovaná posledná verzia chatGPT? Potom prišlo sklamanie. Ľahko tak môže dôjsť k tomu, že nejaká firma z ničoho nič vyhlási, že má mysliacu umelú inteligenciu. Akurát, kto nezávisle overí, že nejde len o marketing?
Verím, že moja mačka je pri vedomí,“ povedal McClelland. „Toto nie je založené ani tak na vede, ani na filozofii, ako skôr na zdravom rozume, je to proste celkom zrejmé.
Odborník dodáva, že pre človeka to môže mať rôzne následky. Hlavne, ak si vytvoril citový vzťah (aj to sa deje) k stroju, ktorý v skutočnosti nemá „dušu“. Pričom pocity len simuluje. Ak uveríme, že nás algoritmus skutočne miluje, alebo s nami súcití, tak klameme len a len sami seba. Nakoľko ide len o matematickú predikciu nasledujúceho slova.
Vystavujeme sa nebezpečenstvu emocionálnej manipulácie a hlbokému sklamaniu. McClelland takýto stav označuje až za existenčne toxický. Človek investuje city do niečoho, čo je v jadre len sofistikovaný stroj, podobný „inteligentnému hriankovaču“. To už radšej „investovať“ čas do budúceho či budúcej ex.
Kľúčové pritom nie je len samotné vedomie, ale aj takzvaná sentiencia. Čo je schopnosť cítiť príjemné alebo nepríjemné stavy, prežívať radosť alebo utrpenie. Stroj môže byť teoreticky vedomý v tom zmysle, že si uvedomuje sám seba. Lenže pokiaľ nič necíti, eticky je to niečo úplne iné, než keď trpí živá bytosť. Aj preto niektorí filozofi upozorňujú, že je zvláštne riešiť hypotetickú „cítiacu AI“. Keď pritom vo veľkom spôsobujeme utrpenie tvorom, pri ktorých je vedomie a bolesť oveľa pravdepodobnejšia. Napríklad zvieratám v priemyselnom chove.
AI je v podstate len veľký „sálový“ počítač
Technologickí giganti, hlavne zo Spojených štátov amerických, sú hnaní ziskom. Gro ich podnikania je marketing. Takže, ak niektorá z týchto spoločností povie, že má umelú inteligenciu (AI/AGI), bude to chcieť určitú mieru skepsy. Pokiaľ firma, vedci, ktokoľvek nepredloží relevantné dáta o tom, že áno, konkrétny systém je samostatne mysliace vedomie. Pôjde stále len o dohady. Hlavne aj preto, že (aspoň zatiaľ) neexistuje metóda, ktorá by to dokázala potvrdiť či vyvrátiť.
Preto ak rád debatuješ s LLM, skús mať na mysli, že je to stále len stroj. Umiestnený niekde v budove, napájaný elektrinou a obklopený servermi. A taký má veru ďaleko od toho, ako napríklad vyzerá „Šestka“ zo seriálu Battlestar Galactica. Skôr než ako zvodná humanoidná bytosť s vlastným osudom je dnešná „AI“ len veľmi šikovné zrkadlo našich vlastných dát, predstáv a ilúzií.
