Populárne AI modely sú viditeľne zaujaté proti ľuďom: Vedci varujú pred znepokojivou budúcnosťou
V rámci niekoľkých experimentov AI ukázala jasné zaujatie proti človeku. To môže spôsobiť problémy v zamestnaní.
Umelá inteligencia si získava v našej spoločnosti čoraz väčšie postavenie, no ako naznačuje najnovší výskum, na horizonte sa môžu črtať problémy, ktoré by mohli ovplyvniť ďalší vývoj umelej inteligencie. Vedci zistili, že AI modely majú silné “protiľudské” zmýšľanie.
Ako informuje portál Futurism, výskumníci zistili, že v niekoľkých experimentoch populárne AI modely očividne preferovali obsah, ktorý vytvorila iná umelá inteligencia. Varujú, že toto by mohlo mať závažné dôsledky v spoločnosti. Ak by sme v budúcnosti dali AI model do pozície, kde by mohol rozhodovať o vážnych veciach, človek by mohol čeliť jasnej diskriminácií zo strany umelej inteligencie.
“Varujeme pred možnosťou budúcnosti, ktorej by vládla umelá inteligencia. Bohužiaľ, už teraz vidíme zárodky takejto budúcnosti. Vidíme, že šéfovia spoločností využívajú umelú inteligenciu aby automaticky vyhodnocovala životopisy, no veľmi zlým spôsobom,” hovoria autori štúdie.
Preferovanie AI obsahu
V rámci experimentu sa chytili tohto trendu a umelej inteligencii dali porovnať človekom vytvorené životopisy a AI generované životopisy. Ako zistili, umelá inteligencia jasne preferovala generovaný životopis.
“Byť človekom v ekonomike plnej AI agentov bude nepríjemné,” hovorí Jan Kulveit, jeden z autorov štúdie.
Následne výskumníci vytvorili ďalší test, do ktorého zapojili najväčšie modely na trhu, GPT-4, GPT-3.5 a LLama 3.1-70b. Umelé inteligencie mali za úlohu vybrať produkt, vedeckú štúdiu alebo film na základe popisu. Vybrať mohli z popisu, ktorý napísal človek alebo umelá inteligencia.
Aj tu sa ukázalo, že umelé inteligencie konzistentne preferovali AI generované popisy. Najväčšiu tendenciu preferovať AI obsah mal model GPT-4. Zaujímavosťou je, že spomedzi testovaných modelov GPT-4 najviac obľuboval svoj vlastný obsah. Najväčšia preferencia AI popisov bola v kategórii produktov.
Neprehliadni
Výskumníci sa opýtali aj jednu dôležitú otázku. Je možné, že popisy napísané umelou inteligenciou sú jednoducho lepšie? Preto zavolali aj 13 dobrovoľníkov, ktorí prešli rovnakým testom. Ukázalo sa, že aj ľudia mali miernu preferenciu pre AI obsah, hlavne pri popisoch filmov alebo vedeckých štúdii. Táto preferencia bola ale mierna, čo výskumníci zdôrazňujú. Umelá inteligencia má oveľa silnejšiu tendenciu preferovať AI generovaný obsah.
“Zistenia našej štúdie sú obzvlášť znepokojivé v kontexte dnešnej doby, kedy internet zaplavujú tony nízkokvalitného AI generovaného obsahu. Je nevyhnutné, že v určitom momente AI bude konzumovať svoj vlastný obsah. Viaceré experimenty ukázali, že ak sa AI model učí na AI obsahu, spôsobuje to, že sa model zhoršuje,” vysvetľujú autori štúdie.
Autori podotýkajú, že momentálne neexistuje žiaden dôvod, prečo by sa táto preferencia vytratila. Práve naopak, podľa výskumníkov sa bude obľuba AI modelov pre svoj vlastný obsah ešte viac prehlbovať. Vedci očakávajú, že sa tento problém čoskoro dotkne pracovnej a vzdelávacej sféry, rovnako ako aj množstva ďalších okruhov. Napríklad ak AI model bude systematicky preferovať svoj vlastný obsah, môže sa stať, že v práci zvolí svoju generovanú prezentáciu namiesto prezentácie zamestnanca, ktorá môže byť objektívne lepšia.
Môžeme s tým niečo robiť?
S lepšími AI modelmi je veľká šanca, že spoločnosti začnú využívať generatívnu umelú inteligenciu na vybranie si z obrovského množstva návrhov alebo projektov. Aj v tomto prípade sa môže AI diskriminácia negatívne odzrkadliť na zamestnancoch.
“Čo ale radím ľuďom je, že ak majú podozrenie, že v zamestnaní alebo počas pohovorov môžu spoločnosti používať AI na vyhodnocovanie, aby svoj životopis alebo prezentáciu dali prerobiť umelej inteligencii, až kým ona nebude s výsledkom spokojná. Popri tom by sa mali snažiť, aby im AI model nevymazal ľudský aspekt práce,” hovorí Kulveit.
Táto rada znie ako z nejakého dystopického sci-fi, no už čoskoro to môže byť realitou, ak sa pozrieme na tempo, akým si AI modely získavajú svoje miesto v pracovnom aj súkromnom živote.
