Kognitívna kapitulácia: Alarmujúca štúdia ukázala, že ľudia robia to, čo im povie ChatGPT, aj keď je to úplne nesprávne
Ľudia často veria odpovediam ChatGPT aj vtedy, keď sú chybné. Výskum ukazuje, ako AI oslabuje kritické myslenie, prečo slepo prijímame jej rady a aké riziká z toho vyplývajú.
Pravdepodobne si to ani neuvedomuješ, no keď sa pýtaš ChatGPT alebo iného AI chatbota na radu či odpoveď, často ju prijmeš ako hotovú pravdu. A to aj vtedy, keď je nesprávna.
Práve na to upozornil znepokojujúci výskum vedcov z University of Pennsylvania. Ukázalo sa, že veľká časť ľudí má sklon veriť tomu, čo im umelá inteligencia povie, bez ohľadu na to, či je to správne alebo nie.
Aj najlepšie AI modely sa mýlia častejšie, než by si čakal
Chatboti ako ChatGPT, Gemini či Claude sa za pár rokov stali bežnou súčasťou každodenného života. To však neznamená, že sú spoľahlivé. Analýza BBC z októbra ukázala, že aj najvyspelejšie AI chatboty obsahovali závažnú chybu v 45 percentách odpovedí.
Mnohí používatelia si to však naplno neuvedomujú. A práve to sa rozhodli preskúmať postdoktorandský výskumník Steven Shaw a profesor marketingu Gideon Nave.
Ľudia poslúchnu AI aj vtedy, keď radí zle
Vedci pripravili sériu experimentov, v ktorých účastníci odpovedali na rôzne logické a znalostné otázky. Hoci použitie ChatGPT bolo nepovinné, viac ako 50 percent ľudí sa rozhodlo chatbota využiť.
Neprehliadni
V jednom z hlavných experimentov, do ktorého sa zapojilo 359 účastníkov, sa ľudia riadili správnou radou AI v 92,7 percenta prípadov. Ešte zarážajúcejšie však je, že keď AI poradila nesprávne, účastníci jej uverili v stále vysokých 79,8 percenta prípadov.
„Účastníci nasledovali chybné odporúčania AI približne v štyroch z piatich prípadov,“ uviedli výskumníci Shaw a Nave.
Jednoducho povedané, osem z desiatich ľudí urobilo to, čo im povedal chatbot, aj keď to bolo nesprávne.
Vedci hovoria o kognitívnej kapitulácii
Shaw a Nave tento jav nazvali „kognitívna kapitulácia“. Ide o stav, keď sa ľudia prakticky vzdajú vlastného uvažovania a kritického myslenia v prospech odpovede od AI.
„Máme možnosť, prípadne schopnosť, outsourcovať samotné myslenie,“ uviedol Shaw.
Výsledky naznačujú, že používatelia sú ochotní vzdať sa vlastného úsudku, keď im AI ponúkne falošné, no na prvý pohľad dôveryhodné odporúčanie.
Zaujímavé pritom je, že ľudia nielen nasledovali nesprávne rady, ale boli si svojimi odpoveďami aj istejší, keď ich prevzali od chatbota.
Nejde len o chyby AI, ale aj o slabší vlastný úsudok
Výskum poukazuje na oveľa širšiu zmenu v tom, ako vnímame informácie okolo seba a ako nechávame AI ovplyvňovať naše rozhodnutia.
Nemusí za tým byť nič mystické. Chatbot ti odpovie rýchlo, sebavedomo a bez zaváhania. Práve to z neho robí presvedčivý nástroj. Problém je, že človek potom ľahko prestane rozmýšľať nad tým, či odpoveď naozaj dáva zmysel.
„Schopnosť kriticky myslieť a overiť si to, čo ti AI ponúka, je čoraz dôležitejšia. Je to ako sval, o ktorý by sme nemali prísť,“ uviedol Nave.
Rizikom nemusí byť len AI, ale aj naša rastúca závislosť od nej
Situácia sa môže ešte zhoršovať. Dnes komunikujeme s AI najmä cez telefóny a počítače, no tieto bariéry sa postupne znižujú a jej integrácia do bežného života bude čoraz silnejšia.
Podľa Navea sa diskusia často sústreďuje na to, kam sa posunie samotná AI. Jeho výskum však naznačuje, že rovnako dôležité bude sledovať aj to, ako silno sa na jej odpovede začnú spoliehať ľudia.
„Tak ako technologický pokrok zmenil mnohé naše návyky a oslabil niektoré schopnosti, podobne môže časom zasiahnuť aj našu schopnosť samostatne uvažovať,“ uviedol Nave.
Príliš veľká dôvera v chatboty môže byť navyše riziková aj z iného dôvodu. Ak by sa prevádzkovatelia podobných nástrojov pokúšali cielene upravovať odpovede tak, aby používateľov nejakým spôsobom ovplyvňovali, následky by mohli byť vážne. A to je scenár, ktorý dnes nemožno úplne vylúčiť.
Najväčším rizikom teda nemusí byť to, že sa AI občas pomýli. Oveľa väčší problém môže nastať vtedy, ak si ľudia zvyknú veriť jej odpovediam bez toho, aby ich vôbec spochybnili.
