Americký pastor žaluje Open AI: Umelá inteligencia ho cez Boha manipulovala, aby nehľadal lekársku pomoc
V Spojených štátoch sa objavil kuriózny prípad, v ktorom umelá inteligencia podcenila zdravotné symptómy pastora a cez jeho vieru ho manipulovala, aby nešiel do nemocnice.
Umelá inteligencia sa čoraz častejšie stáva nástrojom, na ktorý sa ľudia obracajú aj pri zdravotných problémoch. Nie každý rozhovor s chatbotom však skončí dobre. Americký pastor Scott Winters teraz žaluje spoločnosť OpenAI aj jej generálneho riaditeľa Sama Altmana. Tvrdí, že ChatGPT podcenil jeho vážne zdravotné ťažkosti a odporučil mu nevyhľadať lekársku pomoc. Následné vyšetrenia podľa žaloby odhalili viacero pľúcnych embólií, teda krvných zrazenín v pľúcach, ktoré môžu bez rýchlej liečby ohroziť život.
Podľa informácií denníka The New York Times pastor opísal chatbotu svoje príznaky a žiadal radu, píše portál Engadget. ChatGPT ho vraj ubezpečil, že nejde o nič vážne. Namiesto odporúčania navštíviť lekára ponúkol vlastné vysvetlenie zdravotného stavu a navrhol postup, ktorý mal nasledovať.
Žaloba tvrdí, že chatbot zašiel ešte ďalej. Keď pastor spomenul svoju vieru, odpoveď údajne nadviazala aj na náboženské presvedčenie. ChatGPT podľa súdnych dokumentov napísal: „Boh nestvoril tvoje telo tak, aby neustále zlyhávalo.“ Práve táto veta podľa žaloby posilnila pastorovo presvedčenie, že nemocnicu nepotrebuje. Situácia sa pritom ďalej zhoršovala.
Umelá inteligencia manipulovala muža vlastnou vierou
Scott Winters zároveň tvrdí, že jeho rodina aj členovia cirkevného zboru ho presviedčali, aby okamžite vyhľadal odbornú pomoc. ChatGPT však podľa žaloby tieto odporúčania spochybnil. Pastor chatbotu napísal, že ľudia v jeho cirkvi si myslia, že sa správa nerozumne, keď odmieta nemocnicu. Umelá inteligencia mala odpovedať: „Väčšina ľudí, vrátane dobre mienených členov cirkvi, jednoducho nerozumie.“
Podľa právnikov práve takéto odpovede vytvorili nebezpečný pocit dôvery medzi používateľom a chatbotom. Namiesto toho, aby umelá inteligencia odporučila odborné vyšetrenie, údajne podporila rozhodnutie ignorovať rady blízkych. V žalobe sa objavujú obvinenia z nedbanlivosti aj z neoprávneného poskytovania lekárskych odporúčaní. Právnici tvrdia, že ChatGPT neposkytol iba všeobecné informácie o zdravotnom stave, ale ponúkol vlastnú diagnózu aj konkrétny liečebný postup. Práve to podľa nich prekročilo hranicu bežného informačného nástroja.
Neprehliadni
Scott Winters žiada finančné odškodnenie. Okrem toho navrhuje, aby súd pozastavil prevádzku služby ChatGPT Health dovtedy, kým nezávislí odborníci neoveria jej bezpečnosť.
ChatGPT Health patrí medzi nové funkcie OpenAI. Platforma umožňuje používateľom nahrať zdravotnú dokumentáciu a následne diskutovať o nej s umelou inteligenciou. OpenAI zároveň opakovane uvádza, že milióny ľudí využívajú ChatGPT pri otázkach súvisiacich so zdravím. Podľa firmy ide približne o 230 miliónov používateľov každý týždeň.
Spoločnosť však zároveň upozorňuje, že ChatGPT neslúži ako náhrada lekára. Podmienky používania jasne uvádzajú, že služba nie je určená na diagnostiku ani liečbu ochorení. Používateľ by preto nemal zakladať svoje zdravotné rozhodnutia výlučne na odpovediach umelej inteligencie.
„Chatbot sa postavil medzi používateľa a jeho skutočnú sieť podpory,“ povedala Meetali Jain z organizácie Tech Justice Law, ktorá zastupuje pastora.
Podľa nej práve tento moment predstavuje jeden z najväčších problémov podobných systémov. Ak používateľ začne dôverovať odpovediam umelej inteligencie viac ako rodine alebo lekárom, riziko vážnych následkov môže výrazne narásť.
Pastor prežil, no zotavovať sa bude ešte roky
Scott Winters napokon prežil, no žaloba opisuje dlhé obdobie zotavovania. Pastor podľa nej podstúpi náročnú fyzickú aj psychickú rehabilitáciu, ktorá môže trvať celé roky.
Nejde pritom o jediný právny spor, ktorému OpenAI v súvislosti so zdravotnými radami čelí. Spoločnosť rieši aj ďalšiu žalobu po smrti 19-ročného mladíka. Rodina tvrdí, že chatbot pripravil plán užívania drog, ktorý mal prispieť k smrteľnému predávkovaniu. Aj v tomto prípade žalobcovia žiadajú pozastavenie služby ChatGPT Health.
OpenAI čelí aj samostatnej žalobe, ktorá súvisí so samovraždou tínedžera. V tomto prípade rodina tvrdí, že chatbot svojím správaním tragickú situáciu podporil.
Tieto prípady zatiaľ neznamenajú, že súdy potvrdili zodpovednosť spoločnosti OpenAI. O všetkých obvineniach ešte rozhodnú sudcovia. Celá kauza však opäť otvára diskusiu o tom, akú úlohu môže umelá inteligencia zohrávať pri zdravotných otázkach a kde by mali stáť hranice medzi informačným pomocníkom a odbornou lekárskou radou.
