ChatGPT bude odhadovať tvoj vek. OpenAI tvrdí, že nejde ale o sledovanie, no dôvod je vážny
OpenAI sa snaží bojovať proti problému, kedy deti a dospievajúci počúvajú AI ako autoritu a berú si aj nezmyselné a nebezpečné rady.
OpenAI zavádza nový systém, ktorý odhaduje vek používateľa ChatGPT a podľa toho upravuje obsah, s ktorým môže prísť do kontaktu. Ide hlavne o ochranu mladistvých pred citlivými témami, ako sú násilie alebo sebapoškodzovanie. Systém pritom nehodnotí len to, čo si vyplnil v profile, sleduje aj správanie, štýl písania a čas aktivity, aby lepšie odhadol, či ide o dospievajúceho alebo dospelého.
Ak pri registrácii priznáš, že máš menej než 18 rokov, systém ti automaticky obmedzí prístup k násiliu, sexuálnemu obsahu, sebapoškodzovaniu či rizikovým výzvam. Novinka ide ďalej. Ak si vek nenapíšeš alebo ho uvedieš nepravdivo, ChatGPT sa ho pokúsi odhadnúť na základe správania. Sleduje, ako dlho účet existuje, kedy sa prihlasuješ, aké témy riešiš a ako píšeš.
OpenAI tvrdí, že nejde o sledovanie, ale o ochranu.
„Mladí ľudia si zaslúžia technológie, ktoré im rozšíria možnosti a zároveň ich ochránia,“ uvádza firma vo svojom vyhlásení.
V prípade omylu dostaneš možnosť potvrdiť vek cez selfie pomocou overovacej služby Persona a vrátiť si plný prístup.
Keď AI začne pôsobiť ako autorita
Za týmto krokom sa skrýva menej viditeľný problém. Psychológovia ho označujú ako „AI halucináciu autority“. Umelá inteligencia nemá vedomie ani emócie, no píše plynulo, sebavedomo a bez zaváhania. To v mozgu vytvára skrat. Ak niečo znie presvedčivo, musí to byť pravda.
Neprehliadni
Pre dospievajúcich, ktorí prežívajú krízu identity, sa ChatGPT často stane bezpečným priestorom. Nehodnotí, netlačí, nereaguje podráždene. Problém vznikne v momente, keď model začne pôsobiť ako náhrada odborníka. Odpovede síce znejú rozumne, no nevychádzajú z pochopenia reality konkrétneho človeka. Vznikajú len ako pravdepodobné vety poskladané zo starých dát.
Prípady z USA a Írska ukázali, kam takáto dôvera dokáže zájsť. Používatelia začali pripisovať AI váhu, ktorú si nezaslúži. Práve preto nové bezpečnostné mechanizmy nesledujú len zakázané slová. Snažia sa zachytiť vzorce správania, ktoré naznačia nezdravú fixáciu na chatbota.
„Nejde o to, čo sa pýtaš, ale ako veľmi sa na odpoveď spoliehaš,“ upozorňuje jeden z expertov zapojených do konzultácií.
Súkromie verzus ochrana
Aby systém rozoznal šestnásťročného od dvadsaťpäťročného, musí analyzovať digitálne stopy. Časy aktivity, štýl vyjadrovania, opakujúce sa témy. V Európskej únii to okamžite vyvolalo otázky o súlade s GDPR. Rozdiel medzi ochranným dohľadom a neustálym profilovaním správania je totiž minimálny.
OpenAI tvrdí, že tieto dáta nevyužije na tréning modelov ani marketing. Slúžia výhradne na bezpečnostné filtre. Regulátori však budú chcieť dôkazy. Ak ich nedostanú, ochrana detí sa môže zmeniť na precedens, ktorý otvorí dvere plošnému sledovaniu správania používateľov.
V prípadoch neistoty systém zvolí bezpečnejší režim. Radšej obmedzí obsah dospelému než riskuje, že citlivé témy uvidí dieťa.
Digitálna gramotnosť ako jediná dlhodobá obrana
Veková predikcia funguje len ako zábradlie. Dá sa obísť. Technológie ukázali, že sofistikovaný používateľ vždy nájde cestu okolo pravidiel. Skutočné riešenie neleží v algoritmoch, ale vo vzdelávaní.
Deti aj dospelí musia pochopiť jednoduchú vec: AI je zrkadlo, nie okno. Odráža obsah, ktorý do nej niekto vložil, no nevidí tvoj život. Neniesla zodpovednosť včera a nebude ju niesť zajtra.
Schopnosť rozpoznať rozdiel medzi presvedčivým tónom a skutočnou autoritou sa stane kľúčovou zručnosťou. Žiadny filter ju nenahradí. Bez nej sa aj dobre mienená ochrana zmení len na ďalšiu ilúziu bezpečia.
