Populárna AI medzi Slovákmi monitoruje, čo si s ňou píšeš. Tvoje konverzácie môžu skončiť v rukách polície
OpenAI priznáva, že monitoruje konverzácie používateľov s chatbotom ChatGPT a v prípade podozrivého obsahu ich môže odovzdať polícii.
Umelej inteligencii sa dnes venuje viac pozornosti než kedykoľvek predtým. Konverzačné modely, ako je ChatGPT od OpenAI, je pre niektorých fascinujúcim pomocníkom. Nájdu sa však aj takí, ktorí ich vnímajú ako potenciálne riziko. Zatiaľ čo študenti či programátori oceňujú praktickú pomoc, objavujú sa aj varovné príbehy.
Podľa viacerých médií bolo zaznamenaných niekoľko prípadov, keď interakcie s chatbotom negatívne zasiahli do psychickej pohody používateľov. V niektorých extrémnych situáciách sa hovorí dokonca o sebapoškodzovaní či samovraždách. Tento fenomén býva označovaný pojmom „AI psychóza“, ktorý síce znie dramaticky, no ide skôr o publicistickú nálepku než medicínsky termín.
Na tlak verejnosti musela zareagovať aj samotná spoločnosť OpenAI. V najnovšom stanovisku otvorene priznala, že rozhovory používateľov podliehajú monitoringu. Podľa vedenia ide o nevyhnutný krok, aby systém zachytil podozrivý alebo násilný obsah. Ak AI odhalí nebezpečnú komunikáciu, konverzácia je postúpená do rúk špecializovaného tímu. Ten následne rozhoduje, či ide o situáciu so skutočným rizikom a či je potrebné dokonca privolať políciu.
OpenAI pozorne sleduje, ako a čo si píšeš s jej chatbotom
Celý proces je však aj plný nejasností. Zmluvné podmienky služby zakazujú napríklad návody na výrobu zbraní, alebo podnecovanie k sebapoškodzovaniu, no kde presne sa nachádza hranica „zásahu“, je stále známe. OpenAI zároveň tvrdí, že téma sebapoškodzovania sa orgánom v súčasnosti ešte nehlási. Paradoxne v mene ochrany súkromia. Kritici tento prístup nazývajú dvojakým metrom. Na jednej strane je totiž priznané sledovanie komunikácie, na druhej je rétorika o ochrane osobných údajov.
Diskusia o súkromí sa nekončí len pri monitoringu. OpenAI má na krku aj viacero žalôb. Najznámejšia z nich je iniciovaná denníkom The New York Times, ktorý sa domáha prístupu k tréningovým dátam. Podľa vydavateľa sa mohli ich autorské texty dostať do modelov bez povolenia. OpenAI sa však bráni tým, že uverejnenie logov by narušilo dôveru používateľov a ich právo na súkromie.
Neprehliadni
V prípade potreby, môžu byť tvoje konverzácie odovzdané polícii
Nejednoznačná pozícia firmy sa ešte viac skomplikovala po vyjadreniach generálneho riaditeľa Sama Altmana. Ten v rozhovore upozornil, že komunikácia s chatbotom neposkytuje takú úroveň dôvernosti ako rozhovor s právnikom alebo psychológom. Zjednodušene to znamená, že konverzácie sa pri právnych sporoch môžu objaviť ako dôkazný materiál, čo je pre mnohých užívateľov určite nepríjemné zistenie.
Otázka dôvery teda zostáva vcelku nejasná. Spoločnosť síce tvrdí, že koná v mene bezpečnosti, ale zároveň odmieta úplnú transparentnosť. Nejde pritom len o OpenAI. Rovnaké debaty riešia aj iné platformy, od sociálnych sietí až po internetové fóra. Európska únia sa na podobné problémy pripravila prijatím legislatívy AI Act, ktorá má firiem presne určiť pravidlá pre transparentnosť a bezpečnosť algoritmov. Na tému upozornil portál Futurism.
