Kvantum konverzácií s ChatGPT uniklo na Google: Niektoré boli až desivo osobné
Vývojárom používajúcim Google Search Console sa začali objavovať užívateľské konverzácie s AI.
V posledných mesiacoch sa na internete odohráva čudná vec. Do analytického nástroja Google Search Console, ktorý používa väčšina správcov webov, sa začali objavovať zvláštne texty a neboli to obyčajné vyhľadávacie dopyty. Vyzerali ako správy z ChatGPT, ktoré niekto písal v presvedčení, že ostanú súkromné.
Google Search Console zvyčajne ukazuje len to, aké kľúčové slová ľudia píšu do Googlu, aby sa dostali na tvoj web. Lenže od septembra sa začali objavovať celé vety a odstavce dlhé aj viac než tristo znakov. Vyzeralo to, akoby niekto kopíroval osobné rozhovory, o vzťahoch, práci či biznise, priamo do vyhľadávania, informuje portál Ars Technica.
Osobné konverzácie užívateľov
Jedným z prvých, kto si to všimol, bol analytik Jason Packer z firmy Quantable. Všimol si, že medzi dopytmi v jeho účte sa objavujú veci, ktoré tam vôbec nemali byť. Keď to začal skúmať, spojil sa s konzultantom Slobodanom Manićom a spolu odhalili niečo, čo podľa nich môže byť prvým dôkazom, že OpenAI skutočne sťahuje dáta priamo z Googlu a že pritom mohlo dôjsť k úniku používateľských vstupov.
Manić pri tom upozornil, že takéto neautorizované sťahovanie dopytov môže prispievať k fenoménu zvanému „krokodília papuľa“ (Crocodile Mouth). V SEO sa tým myslí situácia, keď počet zobrazení tvojho webu rastie, ale počet kliknutí klesá. Google ukáže tvoje dáta ľuďom vo výsledkoch, ale samotný návštevník neklikne, pretože odpoveď už poskytla AI. Masívne úniky používateľských promptov mohli tento problém ešte zhoršiť.
Niektoré úniky pôsobili absurdne. Napríklad žena, ktorá sa ChatGPT pýtala, či ju má chlapec rád, alebo manažér, ktorý riešil plán návratu zamestnancov do kancelárie. Packer v blogu spomenul, že ho obzvlášť zaujal tok vedomia od používateľky, ktorá analyzovala správanie muža, ktorý ju doberá, aby zistila, či má o ňu záujem. Všetko sa ukázalo ako reálne texty z rozhovorov, ktoré niekde uviazli medzi OpenAI a Google.
Neprehliadni
OpenAI potvrdil, že o probléme vie a že „opravil chybu, ktorá dočasne ovplyvnila malý počet vyhľadávacích dopytov“. Nepovedal však, koľko ľudí sa to týkalo ani čo presne opravili. Podľa Packera teda nie je isté, či problém naozaj zmizol, alebo sa len prestal prejavovať.
Google sa k celej veci odmietol vyjadriť
Packer v rozhovore pre Ars Technica uviedol, že na jednom webe našiel vyše dvesto podobných záznamov. Podľa neho ide o varovanie, že konverzácie s umelou inteligenciou nikdy nie sú úplne súkromné. Tvrdí, že OpenAI zrejme počas dvoch mesiacov posielal každé vyhľadávanie, ktoré ChatGPT spúšťal cez Google, aj do Search Console.
OpenAI síce hovorí, že išlo len o „malý počet“ prípadov, ale čísla neuviedol. Nie je teda jasné, koľkých z približne 700 miliónov používateľov ChatGPT sa to týkalo.
Celá vec je ešte znepokojivejšia preto, že tentoraz nikto nič nezdieľal dobrovoľne. Na rozdiel od staršieho prípadu, keď sa súkromné chaty objavili v Google vyhľadávaní preto, že ľudia omylom klikli na tlačidlo „zdieľať“, teraz nemal používateľ žiadnu možnosť zabrániť úniku.
Packer aj Manić chcú vedieť, či sa problém týka aj samotnej stránky chatgpt.com, kde ChatGPT 5 vykonáva webové vyhľadávania. Ak áno, znamenalo by to, že každý prompt, ktorý vyžadoval informácie z internetu, mohol byť krátko viditeľný aj v analytických dátach iných webov.
„Nevieme, či išlo len o jeden chybný modul, alebo o niečo väčšie. Každopádne to ukazuje, že OpenAI sa pri otázkach súkromia pohybuje až príliš rýchlo,“ hovorí Packer.
OpenAI zatiaľ tieto otázky necháva bez odpovede. Nie je jasné, či oprava zastavila len nesprávne smerovanie dotazov, alebo aj samotné sťahovanie dát z Googlu.
