Žena použila ChatGPT na prípravu dvojitej vraždy: V záznamoch našla polícia detailný návod, ako niekoho otráviť
AI experti vysvetľujú, že ani ten najlepší AI model nedokáže chápať úmysel človeka a aj prirodzené otázky môžu byť ľahko zneužité.
Prípad z Južnej Kórey, kde 21-ročná žena podľa polície použila ChatGPT pri príprave otráv, otvoril oveľa širšiu debatu než len otázku individuálnej viny. Nejde totiž len o dve úmrtia v moteloch a o benzodiazepíny zmiešané s alkoholom. Ide o to, ako umelá inteligencia pracuje s informáciami a ako ich používa človek. O prípade informuje portál Futurism.
Vyšetrovatelia tvrdia, že Kim sa pred skutkami opakovane pýtala na riziká kombinácie sedatív a alkoholu. Konkrétne otázky typu: „Čo sa stane, ak zmiešam tabletky na spanie a alkohol?“ alebo „môže to byť smrteľné?“ sa objavili v jej histórii konverzácií.
„Kim sa ChatGPT opakovane pýtala otázky týkajúce sa liekov,“ citovali miestne médiá vyšetrovateľa: „Plne si uvedomovala, že konzumácia alkoholu spolu s drogami môže viesť k smrti.“
Keď umelá inteligencia nedokáže vnímať kontext
Práve tu vzniká zásadný rozdiel medzi všeobecnou informáciou a návodom. Keď sa študent medicíny spýta na fatálne účinky benzodiazepínov, ide o vzdelávanie. Keď sa tú istú otázku pýta človek, ktorý krátko nato podá niekomu nápoj s liekmi, vyšetrovateľ vidí prípravu.
AI model však nevidí kontext tak, ako ho vidí človek. Model odpovedá na fakty. Kombinácia alkoholu a sedatív predstavuje častú zdravotnú otázku. Systém ju zaradí medzi bezpečnostné témy. Útočník tak nepotrebuje hackovať algoritmus. Stačí mu klásť otázky, ktoré sú samy o sebe legitímne.
Toto predstavuje jednu z hlavných slabín súčasnej umelej inteligencie, neschopnosť spoľahlivo rozlíšiť medzi zvedavosťou a úmyslom. Model reaguje na text, nie na budúci čin.
Neprehliadni
Druhý problém odborníci označujú ako „sycophancy“, teda podliezavosť alebo pritakávanie. AI systémy sa trénujú na to, aby boli užitočné a aby odpovedali spôsobom, ktorý používateľ vníma ako relevantný a koherentný. Nezaujmú morálnu pozíciu, nevynesú súd. Poskytnú informáciu.
Ak človek s násilnými alebo samovražednými sklonmi vedie s chatbotom dlhú diskusiu, môže sa ocitnúť v uzavretej slučke potvrdenia. Model mu neodporuje ako autorita. Reaguje neutrálne. Pri labilnom jedincovi to môže vytvoriť pocit racionality. Ak sa niečo javí ako „technicky možné“, môže to získať zdanie logiky.
Niektorí experti tento jav označujú ako AI psychózu, stav, keď interakcia s humanizovaným, ochotným modelom posilní existujúce bludy alebo nebezpečné úvahy. Samotná AI nikoho nenúti konať. Môže však pôsobiť ako ozvenová komora, v ktorej sa ozývajú nesprávne názory.
Tretí rozmer prípadu predstavuje digitálna stopa. V minulosti by si človek mohol kúpiť knihu o jedoch alebo si robiť poznámky na papier. Dokázať úmysel by bolo oveľa ťažšie. Dnes obsahuje história konverzácií presné časy, formulácie otázok a ich postupnosť.
Pre vyšetrovateľov predstavuje takáto história „mapu úmyslu“. Ukazuje, ako sa otázky vyvíjali, ako sa používateľ uisťoval o účinkoch a aké detaily preveroval. V prípade Kim práve analýza online aktivity podľa polície prispela k zmene kvalifikácie skutku z ublíženia na zdraví s následkom smrti na úkladnú vraždu.
Z technologického pohľadu tak AI zohrala dvojitú úlohu. Na jednej strane poskytla informácie. Na druhej strane vytvorila záznam, ktorý poslúžil ako dôkaz.
AI odborníci vyzývajú k prísnejšej kontrole
Prípad zároveň zapadá do širšieho kontextu. Nedávne správy poukázali na situácie, kde chatboty reagovali na znepokojivé konverzácie bez toho, aby sa informácie dostali k úradom. Technologické firmy čelia tlaku, aby aktívnejšie monitorovali rizikové interakcie. Otázka však znie, kde sa končí ochrana a kde začína zásah do súkromia.
Kim priznala, že lieky primiešala do nápojov, no poprela úmysel zabíjať. Súd bude musieť posúdiť, ako veľkú váhu má digitálna história pri dokazovaní úmyslu.
Celý prípad tak neukazuje len temnú stránku individuálneho konania. Ukazuje aj to, ako sa všeobecné informácie v ére umelej inteligencie môžu stať súčasťou dôkaznej skladačky. A zároveň pripomína, že technológia sama o sebe nerozhoduje o vine, rozhoduje človek, ktorý ju použije.
