„Toto je ku * * * nechutné!“ Character.ai vytvorila AI avatar mŕtvej ženy bez vedomia rodiny. Jej otec je hnevom bez seba
Spoločnosť Character.AI publikovala AI chatbota, ktorý bol založený na mladom dievčati, ktoré umrelo násilnou smrťou.
Podľa mnohých odborníkov má umelá inteligencia možnosť transformovať našu spoločnosť. Už teraz môžeme vidieť, ako si chytá svoje miesto v množstve rôznych odborov, no odborníci upozorňujú aj na to, aby sme si dávali pozor na to, ako umelú inteligenciu využijeme.
Portál Futurism informuje o kurióznom prípade, ktorý bez problémov môžeme označiť ako obrovský prešľap. Ten sa týka AI modelu Character.AI, ktorý vytvoril jeden z bývalých zamestnancov Googlu. Tento AI model umožňuje užívateľom vytvoriť chatbota, ktorý dokáže napodobniť určitého človeka alebo historickú postavu.
Nie je to tak dávno, čo musela startupová spoločnosť reagovať na kuriózny prípad, ktorý sa týkal jednej z AI postavy, ktorú vytvoril neznámy užívateľ. Ten si myslel, že je dobrý nápad vytvoriť AI avatara 18-ročného dievčaťa, ktoré v roku 2006 zavraždil jej bývalý priateľ. Keď sa o existencii tohto AI avatara dozvedela rodina dievčaťa, tá bola právom rozčúlená a žiadala okamžite tento model stiahnuť.
Platforma Character.AI nie je len tak hocijakou malou a prachom zapadnutou platformou. Svojim spôsobom môžeme hovoriť o platforme, ktorá dokáže konkurovať ChatGPT. Ako sme už spomenuli, založil ju bývalý zamestnanec Google koncom roka 2021. Mesačne používa túto platformu 20-miliónov užívateľov a na platforme možno nájsť viac ako 100-miliónov odlišných AI postáv.
Toto už prestrelili
Len v stredu sa dostalo na svetlo, že niekto vytvoril AI avatara mladého dievčaťa, ktoré zomrelo tragickou smrťou. Tým dievčaťom bola Jennifer Crecente, ktorá prišla o život v roku 2006, rukou jej bývalého priateľa. O existencii tohto AI avatara sa dozvedel jej otec Drew, keď ho Google upozornil na to, že niekto použil jej meno. Neskôr upozornil na existenciu tohto avatara aj Brian Crecente, strýko zavraždeného dievčaťa. Ten cez platformu X (bývalý Twitter) žiadal verejnosť k tomu, aby pomohla tohto AI avatara zastaviť.
Neprehliadni
This is fucking disgusting: @character_ai is using my murdered niece as the face of a video game AI without her dad's permission. He is very upset right now. I can't imagine what he's going through.
Please help us stop this sort of terrible practice. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) October 2, 2024
Stránka Jennifer Crecente na platforme Character.AI opisuje chatbota ako múdru a priateľskú AI postavu, ktorá dokáže poskytnúť informácie ohľadom širokého spektra rôznych tém, vrátane videohier, technológie a popkultúry. Podľa dostupných informácií sa s AI avatarom zavraždenej Jennifer stihlo porozprávať 70 ľudí, než platforma túto postavu stiahla.
Po publikovaní príspevku, v ktorom Brian Crecente rozrušene volal po odstránení tohto Chatbota, sa spoločnosť Character.AI ozvala pomerne rýchlo. V odpovedi sa ospravedlnili a poďakovali za to, že sa tento problém ku nim dostal. Spoločnosť vysvetlila, že takáto postava je rozhodne v rozpore s ich podmienkami a že tohto avatara okamžite vymažú.
“Mám pocit, ako keby nám ju opäť ukradli. Tak sa cítim ja. Milujem Jen, no nebol som jej otcom. Verím, že to, čo cíti on, je miliónkrát horšie. Viem, že túto situáciu ustanem a ustane ju aj môj brat, no pýtam sa, prečo je na nás, aby sme boli tak odolní?” vyjadril sa Brian Crecente, strýko zavraždenej Jennifer.
Spoločnosť Character.AI sa zároveň vyjadrila, že celý prípad prešetrí a zistí, či treba konať aj ďalej. Zatiaľ ale ostáva otázne, či spoločnosť spraví niečo viac, ako je odstránenie chatbota. Experti nevedia jasne povedať ani to, či má rodina pevné základy na prípadnú žalobu spoločnosti.
Viaceré AI spoločnosti sa už pozreli na to, ako vytvoriť AI avatara zo zosnulých historických alebo obyčajných osobností. Odborníci sa vyjadrujú, že digitalizácia zosnulého človeka nie je ani zďaleka dobrým nápadom. Smrť je prirodzenou súčasťou života a mať umelú inteligenciu, ktorá by dokázala replikovať osobnosť nášho blízkeho, by mohlo narušiť náš prirodzený proces trúchlenia. Zároveň nikto zatiaľ nedokáže zaručiť, že by umelá inteligencia nezačala smútiacemu človeku ponúkať zlé rady.
