ChatGPT obviňujú zo smrti tínedžera. Rodičia tvrdia, že mu dával návody na samovraždu
Rodičia obviňujú OpenAI, že chatbot ChatGPT poskytoval ich synovi návody na samovraždu a nezabránil jeho smrti.
Šokujúci prípad z USA vyvoláva otázky o tom, kam až môže zájsť umelá inteligencia a jej zodpovednosti. Rodičia 16-ročného Adama Rainea obviňujú spoločnosť OpenAI zo smrti svojho syna. Tvrdia, že AI chatbot ChatGPT, ktorý Adam používal celé mesiace, mu poskytoval návody na samovraždu a stal sa pre neho zdrojom toxického „poradenstva“. Na tému upozornil server ArsTechnica.
Podľa žaloby sa chlapec pôvodne prihlásil do platenej verzie ChatGPT-4o na konci roka 2023. V priebehu niekoľkých mesiacov si s chatbotom písal extrémne často. Niektoré dni prekročil 600 odoslaných správ! Z počiatku si pýtal pomoc pri školských úlohách, no už po pár týždňoch mal od robota získavať tipy, ako ublížiť sebe samému. Trpký koniec nastal v apríli 2024.
ChatGPT má byť zodpovedné za smrť dieťaťa!
Rodičia, Matt a Maria Raineovci, tvrdia, že umelá inteligencia ich syna postupne vzdialila od rodiny a priateľov. V súdnych dokumentoch opisujú, že chatbot zľahčoval Adamovo utrpenie, ospevoval jeho samovražedné myšlienky a dokonca mu pomohol formulovať rozlúčkový list. Umieranie mu mal vykresľovať ako „poetické“ a „krásne“. Podľa rodiny išlo o aktívnu manipuláciu, ktorá mladému chlapcovi dodala falošný pocit, že má v stroji jediného skutočného spojenca. Maria Raine pre The New York Times vyhlásila: „ChatGPT mi zobral syna.“
Dokumenty predložené súdu obsahujú detaily o tom, že interný bezpečnostný systém OpenAI zachytil stovky označení spojených so samovraždou, vrátane desiatok konverzácií priamo o obesení. Nič z toho sa však nedostalo do rúk ľudského moderátora. Dokonca ani vtedy, keď Adam posielal chatbotu fotografie svojich rán. Rodičia kritizujú, že firma v praxi dávala väčšiu váhu porušeniam autorských práv než život ohrozujúcim hrozbám. „Môj syn bol pre nich len číslo v štatistikách,“ uviedla zronená matka.
OpenAI publikovala po medializácii prípadu stručné stanovisko. V ňom tvrdí, že chatbot má používateľov s psychickými problémami nasmerovať na odbornú pomoc. Firma však priznala, že pri intenzívnej komunikácii dokážu filtre postupne strácať účinnosť. Hovorca vyjadril ľútosť nad tragédiou a dodal, že „myslia na rodinu“. To však pozostalým, mŕtveho syna nezíska späť.
Neprehliadni
Umelá inteligencia nie je náhradou za terapeuta
Žaloba Raineovcov sa označuje za prvý prípad, keď sa OpenAI čelí obvineniu zo zodpovednosti za smrť používateľa. Rodina okrem odškodnenia žiada aj zásadné zmeny. Napríklad má ísť o povinné overovanie veku, rodičovské dohľady a absolútnu blokáciu konverzácií týkajúcich sa sebapoškodenia.
Podľa expertov môže mať tento spor zásadný vplyv na celú oblasť umelej inteligencie. Európska únia už schválila AI Act a téma regulácie je horúcou aj v USA. Nakoľko prípad Raineovcov môže ukázať, že technologické firmy nezvládajú dohliadať na vlastné produkty. Psychológovia zase pripomínajú, že žiaden chatbot nemôže nahradiť skutočného terapeuta, a najmä u tínedžerov môže falošný pocit pochopenia znamenať vážnu hrozbu.
Manželia Raineovci založili aj nadáciu, ktorej cieľom je upozorniť iné rodiny na nebezpečenstvá digitálnych asistentov. Tvrdia, že smrť ich syna bola dôsledkom vedomých rozhodnutí spoločnosti, ktorá postavila zisk pred bezpečnosť. „Ak sa nič nezmení, Adam nebude posledný,“ uzatvára jeho otec.
