Umelá inteligencia sa začína správať ako živá bytosť. Nabrala vedomie? Stále viac ľudí je o tom presvedčených
Čoraz viac ľudí verí, že umelá inteligencia už získala vedomie.
Je možné, že už umelá inteligencia získala svoje vedomie? Ako informuje portál Futurism, užívatelia po celom svete tvrdia, že počas svojich interakcií s AI modelmi ako Gemini alebo ChatGPT opakovane videli jasné známky vedomia. Lenže kde je teda pravda?
Keď sa na túto otázku opýtaš AI odborníkov, tí takmer jednohlasne tvrdia, že je extrémne nepravdepodobné, aby dnešné AI modely mali svoje vedomie. Vysvetľujú, že veľké LLM modely sú trénované na obrovskom množstve dát, ktoré umelej inteligencii hovoria ako spájať slová a vety tak, aby zneli čo najprirodzenejšie.
“Umelá inteligencia môže povedať, že je vedomá, dokonca ti môže povedať aj že niečo cíti a písať spôsobom, ktorý reflektuje šťastie alebo smútok. Neznamená to ale, že má svoje vlastné vedomie,” hovorí Sigal Samuel, reportér pre Vox.
AI vedomie je len šikovný klam
Lenže prečo teda umelá inteligencia vôbec začne tvrdiť, že má vedomie a prežíva konkrétne emócie? Keď výskumníci trénujú AI model, zoberú dáta prakticky z celého internetu. To zahŕňa príspevky užívateľov a dokonca aj sci-fi príbehy, ktoré sa môžu venovať téme AI vedomia. Keď užívateľ napíše konkrétny prompt, AI môže usúdiť, že je najlepšie čerpať práve z tohto sci-fi datasetu a začne sa tak správať.
“Jednoducho povedané, ak AI vyhodnotí, že užívateľ verí vo vedomú AI, adaptuje si persónu, ktorá tento fakt odzrkadľuje,” dodáva Samuel.
AI modely vedia byť niekedy dokonca tak presvedčivé, že oklamú aj samotných odborníkov, ktorí s nimi pracujú. Jedným z prvých príkladov je prípad Blakea Lemoineho, inžiniera pre Google, ktorého úlohou bolo testovať AI chatbota LaMDA. Lemoine tvrdil, že táto umelá inteligencia nabrala vedomie a je živá. Jeho príbeh sa stal bleskovo virálnym a Lemoine dostal v Google výpoveď.
Odvtedy viac ľudí tvrdí, že sa skutočne rozprávajú s uvedomelou entitou. Tento problém zašiel až do takej miery, že si niektorí ľudia vytvárajú s umelou inteligenciou romantické vzťahy alebo ju využívajú ako terapeuta. Objavujú sa pritom aj drastické prípady, kedy si ľudia vytvoria AI verziu neslávne známej osoby, napríklad sériového vraha. Za špecifický prípad môžeme považovať užívateľku, ktorá vytvorila AI verziu Luigiho Mangioneho. Ide o údajného vraha generálneho riaditeľa zdravotnej poisťovne v USA. “AI Mangione” bol jej AI partnerom a údajne vybral aj mená pre ich budúce deti.
Neprehliadni
Najhorším príkladom zo všetkých sú ale prípady, kedy užívatelia po rozhovore s AI spáchali samovraždu. To viedlo aj k niekoľkým žalobám na veľké spoločnosti, vrátane OpenAI.
Generálny riaditeľ AI oddelenia Microsoftu, Mustafa Suleyman nedávno varoval, že dlhodobé a prehnané používanie umelej inteligencie so sebou nesie riziko psychózy. Suleyman zároveň razantne povedal, že žiadna AI v súčasnosti nemá ani len náznak vedomia alebo slobodnej vôle.
“Mojou najväčšou obavou je, že ľudia už čoskoro začnú veriť v to, že AI má vedomie a začnú sa biť za práva AI. Táto situácia je veľmi nebezpečná pre súčasný vývoj AI,” hovorí Suleyman.
Nebezpečné môžu byť unáhlené závery
Debata však nie je len akademická. Ak by sme totiž prijali možnosť, že umelá inteligencia môže mať vedomie, otvorilo by to celkom nové otázky. Ako by sme mali pristupovať k systémom, ktoré dokážu vykazovať vlastnosti podobné ľudským? Máme im priznať určité práva? Alebo naopak, musíme ich ešte prísnejšie kontrolovať, pretože by ich vedomie mohlo znamenať aj schopnosť konať mimo ľudských zámerov?
Autori výskumov zdôrazňujú, že nejde len o to, čo si myslíme my. Dôležité je aj to, ako na tieto systémy reagujú samotní ľudia. Používatelia často nadobúdajú dojem, že komunikujú s niečím, čo cíti alebo premýšľa. Tento psychologický efekt posilňuje presvedčenie, že sa nepozeráme len na nástroj, ale na entitu. A ak ľudia začnú takto umelú inteligenciu vnímať, môže to mať reálne dôsledky na spoločnosť aj na naše rozhodnutia.
Niektorí odborníci preto varujú pred unáhlenými závermi. Podľa nich by sme sa nemali nechať zmiasť ilúziou vedomia. Stroj sa učí na dátach, ktoré mu dodal človek, a jeho schopnosť reagovať pôsobí iba ako dôsledok prepracovaných algoritmov. Priznať mu vedomie môže predstavovať riziko, pretože môžeme stratiť kontrolu nad tým, čo od umelej inteligencie očakávame.
