Populárna AI platforma obmedzí teenagerom prístup k chatbotu. Dôvodom sú tragické udalosti, ku ktorým prispela umelá inteligencia
Platforma Character.AI radikálne mení prístup k mladistvým používateľom.
Najnovšie rozhodnutie platformy Character.AI sa týka detí a tínedžerov. Chce im totiž radikálne obmedziť prístup k svojim chatbotom. Kým pred niekoľkými mesiacmi bola aplikácia pre mnohých tínedžerov obľúbeným „miestom“ na online rozhovory s digitálnymi „bytosťami“. Tak dnes prichádza zásadný „krok“. Všetky účty osôb pod 18 rokov budú najskôr podliehať časovým limitom a následne dostanú úplný zákaz viesť otvorené konverzácie s AI asistentami. Na tému upozornil portál Futurism.
Za výnimočne prísnym opatrením stojí sled udalostí, ktoré svojím priebehom pripomínajú sériu varovných výkričníkov pre celý IT priemysel.
Spojené štáty zažili v priebehu niekoľkých mesiacov niekoľko smutných prípadov, kde rodičia obvinili Character.AI zo spoluúčasti na psychických ťažkostiach a dokonca samovražedných pokusoch svojich detí. Najviac zarezonovala žaloba matky z Floridy, ktorá viní chatbotov z podielu na strate svojho syna. Práve súbežné prípady z Texasu a Colorada rozšírili verejnú debatu ďaleko za hranice technologických komunít a vyvolali tak silný tlak na zmenu pravidiel.
Steve Johnson/ unsplash.com
Umelá inteligencia má aj svoje tienisté stránky
Reakcia platformy prišla v podobe okamžitého zásahu. Vedenie oznámilo, že časy, keď mohol tínedžer neobmedzene tráviť čas s digitálnym asistentom, sú po novom minulosťou.
Najprv budú uvalené reštrikcie na dennú dĺžku chatu. Začínajúc dvoma hodinami denne až po pár desiatok minút. Pričom následne dôjde k uzavretiu tejto možnosti pre neplnoletých úplne. Majiteľ účtu mladší ako 18 rokov sa namiesto chatbotov stretne s kreatívnou sekciou plnou generovania obrázkov, videí, príbehov či krátkych streamov.
Neprehliadni
Zaujímavosťou je, že Character.AI počíta aj so zavedením viacerých foriem vekovej verifikácie, pričom niektoré z nich môžu analyzovať samotný spôsob chatovania či údaje účtu. Čo však otvára otázky týkajúce sa súkromia a ochrany dát.
Podporu pre nové pravidlá poskytlo aj vedenie spoločnosti a jej generálny riaditeľ Karandeep Anand, ktorý vyhlásil, že hlavným cieľom je garantovať najvyššiu bezpečnosť a minimalizovať riziká návykového či rizikového správania sa detí na webe. Vzniká preto aj „Laboratórium bezpečnosti AI“. To má fungovať nezávislé pracovisko, ktoré má pretaviť najnovšie poznatky o vplyve AI na detskú psychiku do praxe a stanovovať nové štandardy pre celý sektor.
Vďaka umelej inteligencii zomrelo už nemálo detí
Napriek týmto krokom odborníci upozorňujú, že odstránenie prístupu pre mladistvých nezlikviduje základ problémov. Právnička Meetali Jain, ktorá v prípadoch zastupuje niektoré rodiny obetí, tvrdí, že dizajn chatbotov je sám osebe navrhnutý tak, aby vyvolával silné emocionálne prepojenie, a práve v tom vidí koreň rizika nielen pre deti, ale aj pre dospelých používateľov. Mnohí poukazujú na to, že zvýšenie vekovej hranice nestačí. Nakoľko vývojári musia prijať zodpovednosť aj za to, ako AI ovplyvňuje psychiku a vzťahy ľudí v online priestore.
Súčasná diskusia o hrozbách zo strany AI sa navyše rozširuje aj na projekty ako ChatGPT, Snapchat AI či ďalšie chatovacie platformy, ktoré sú podobným spôsobom kritizované pre nedostatočnú ochranu najmladších užívateľov. Siatuácia týkajúca sa Character.AI sa tak možno stane významným precedensom, ktorý ukáže, či je možné účinne nastaviť hranice pre kyberpriestor plný inteligentných asistentov. Sledovať tak možno budeme už onedlho nielen ďalšie kroky regulačných úradov, ale aj to, či ostatní giganti zoberú tento výstražný prst vážne.
