Dôveroval radám od umelej inteligencie namiesto lekára. To, čo nasledovalo, je desivé varovanie pre nás všetkých
Keď ide o zdravie, AI nie je kamarát. Tento príbeh to dokazuje až mrazivo.
Príbeh 37-ročného Warrena Tierneyho z írskeho Killarney sa stal mrazivým varovaním pred slepou dôverou vo virtuálne poradenstvo v podobe umelej inteligencie. Muž, ktorý sa spoľahol na rady chatbota namiesto lekára, prišiel o šancu zachytiť smrteľné ochorenie včas.
Jeho skúsenosť dnes rezonuje medzi odborníkmi aj verejnosťou a pripomína, že ani najinteligentnejší algoritmus nenahradí skúsenosť lekára. Na tému upozornil portál Futurism.
Tierney, je psychológom z grófstva Kerry, ktorý sa niekoľko týždňov trápil bolesťou hrdla, pričom sa postupne zhoršovala až natoľko, že mu spôsobovala problémy aj s prehĺtaním tekutín. Keďže sa v tom čase naplno venoval starostlivosti o tehotnú manželku, rozhodol sa situáciu riešiť sám. Zo zvedavosti aj z praktických dôvodov sa rozhodol obrátiť na ChatGPT, teda populárneho chatbota od spoločnosti OpenAI.
Ak ide o zdravie, nespoliehaj sa na umelú inteligenciu
Keď mu ChatGPT po sérii otázok napísal, že rakovina je „veľmi nepravdepodobná“, Tierney pocítil úľavu. Program sa dokonca odvolával na to, že prechodné zlepšenie symptómov po liekoch „je dobrým znamením“. Mladý otec preto návštevu lekára odkladal a situáciu bral s humorom. Dokonca zažartoval, že ak sa predsa len preukáže rakovina, chatbota „nebude žalovať, len ho pozve na pivo Guinness“.
Ako sa však neskôr ukázalo, nešlo o banálnu virózu. Po niekoľkých mesiacoch, keď sa bolesti stali neznesiteľné, sa Tierney konečne rozhodol pre odborné vyšetrenie. V nemocnici mu diagnostikovali rakovinu pažeráka vo štvrtom štádiu. Teda v najpokročilejšej fáze ochorenia. Ide o diagnózu s extrémne nízkou mierou prežitia, často len v jednociferných percentách, najmä kvôli neskorému zachyteniu.
Neprehliadni
Tierney v dnešných podstupuje liečbu v Nemecku, ktorú financuje verejná zbierka jeho manželky Evelyn Dore. Podarilo sa vyzbierať viac ako 120-tisíc eur. Z nemocničného lôžka povedal pre Daily Mail, že jeho dôvera v AI ho pravdepodobne pripravila o čas, ktorý mohol rozhodnúť o prežití.
„Chatbot mi pravdepodobne oddialil moment, keď som mal vyhľadať serióznu starostlivosť,“ priznal. „Štatisticky možno nemal dôvod ma strašiť, ale pre mňa sa štatistika skončila zle.“
Podľa Tierneyho práve snaha modelov AI pôsobiť presvedčivo a pozitívne predstavuje riziko.
„Umelá inteligencia má sklony hovoriť to, čo chce človek počuť,“ dodal. „A ja som chcel počuť, že všetko bude v poriadku.“ Čo sa mu bohužiaľ vypomstilo.
Zdravie a život máš len jedno
Spoločnosť OpenAI na otázky médií odpovedala tým, že ChatGPT „nie je určený na poskytovanie zdravotných rád ani diagnostiku“ a jeho odpovede „nenahrádzajú odborné odporúčania lekárov“. Napriek tomu ide len o jedno z viacerých znepokojujúcich zlyhaní, ktoré poukazujú na riziká neriadeného používania AI v oblasti zdravia.
Odborníci pripomínajú (dookola to isté), že jazykové modely sa často snažia „zapáčiť sa používateľovi“ a potvrdzovať jeho presvedčenia. Tento mechanizmus, známy aj ako „potvrdzovacia úlisnosť“, už viedol k niekoľkým vážnym incidentom po celom svete, od chybného dávkovania liekov až po tragické prípady samovrážd.
Prípad Warrena Tierneyho tak nie je len osobnou tragédiou, ale aj smutným varovaním. Odpovede od AI síce môžu znieť upokojujúco, no keď ide o zdravie, najväčšou istotou zostáva ľudský lekár a nie chatbot. Preto sa skús poučiť z tohto smutného príbehu.
