Ako Google potichu tlačí Gemini do tvojho účtu. Vypnúť umelú inteligenciu je ťažšie, než by si čakal
Tech analytici upozorňujú, že Google pri presadzovaní AI funkcií používa temné vzorce, teda manipuluje užívateľov, aby nakoniec pri nich ostali, aj keď s nimi nesúhlasia.
Google v posledných mesiacoch tlačí umelú inteligenciu prakticky do každej svojej služby. Gemini sa už objavil v Gmaili, Disku, Dokumentoch aj v Androide. Firma pritom neustále opakuje, že rešpektuje súkromie používateľov a ich dáta chráni. Keď sa však človek pozrie bližšie na nastavenia a spôsob fungovania týchto funkcií, situácia začína byť úplne iná.
Najväčší problém totiž nespočíva len v samotnej AI, upozorňuje ArsTechnica. Oveľa väčšiu otázku vyvoláva spôsob, akým Google používateľov „postrkáva“ k tomu, aby Gemini nechali zapnuté.
Google sa po vlne kritiky pokúsil upokojiť používateľov. Firma tvrdí, že obsah Gmailu alebo súbory na Google Drive priamo nepoužíva na tréning základných AI modelov.
„Obsah, ktorý vložíš do Workspace služieb, zostáva tvoj a pri používaní Gemini tento osobný obsah nepoužívame na tréning našich generatívnych AI modelov,“ uviedol hovorca Googlu.
Na prvý pohľad to znie dobre, no reálny spôsob, ako AI s tvojimi dátami pracuje, naznačuje, že ide o bežné korporátne reči. Gemini totiž môže pristupovať k Gmailu, Disku či Dokumentom pri plnení konkrétnych úloh. Ak teda AI požiadaš o zhrnutie e-mailov alebo vytvorenie dokumentu na základe súborov v cloude, systém tvoje dáta spracuje.
A práve tu sa objavuje problém. Google síce tvrdí, že samotné súbory netrénujú AI, no odpovede a výstupy Gemini už do tréningových dát vstúpiť môžu. Ak AI vytvorí zhrnutie tvojich mailov alebo vypíše časť dokumentu, tieto výstupy môžu skončiť v databázach určených na ďalšie zlepšovanie modelov.
Neprehliadni
Google zároveň tvrdí, že osobné údaje filtruje a redukuje. Verejnosť však nevidí do zákulisia týchto systémov a nikto mimo firmy presne nevie, ako spoľahlivo celý proces funguje.
Ak užívateľ nesúhlasí s používaním AI modelu, čaká naňho bludisko v nastaveniach
Google zároveň rád zdôrazňuje, že používateľ má kontrolu nad vlastnými dátami. Technicky je to pravda. Prakticky však situácia pôsobí oveľa menej prívetivo. Ak chceš zabrániť používaniu dát na tréning AI, musíš vypnúť funkciu Aktivita v aplikáciách Gemini. Lenže Google ju ukryl pomerne hlboko v nastaveniach a názov samotnej funkcie veľa ľuďom nič nepovie.
Na podobnú situáciu nedávno poukázali užívatelia, ktorí si všimli, že im Google Chrome do počítačov stiahol približne 4 GB veľký súbor, ktorý obsahoval lokálny model Gemini Nano, pričom spoločnosť o tomto fakte strategicky mlčala. Keď sa užívatelia pokúšali tento súbor vymazať, prehliadač si ho opakovane stiahol, kým sa nevypla možnosť pochovaná hlboko vo flagoch Chromu.
Ešte väčší problém nastane po vypnutí tejto voľby. Používateľ totiž nezabráni len tréningu AI, ale príde aj o históriu chatov. V podstate si teda nemôžeš vybrať, či súhlasíš so zberom dát na tréning AI alebo nie, no medzi prístupom k používaným funkciám alebo súkromím.
Práve toto odborníci označujú za takzvaný „temný vzorec“, teda manipulatívny dizajn rozhrania.
„Nezáleží na tom, či to firma urobila zámerne. Dôležité je, či dizajn rešpektuje slobodné rozhodnutie používateľa,“ hovorí Marie Potel zo startupu Fair Patterns, ktorý sa zameriava práve na temné vzorce na internete.
Viacerí odborníci poukazujú na to, že používanie AI vytvára aj psychologickú závislosť
Celý problém nemá len technický rozmer. Google postupne vytvára nový štandard práce s informáciami. Keď si človek zvykne, že Gemini zhrnie dlhé e-mailové vlákno za pár sekúnd, jeho ochota robiť tú istú úlohu manuálne prirodzene klesne. Po čase začne AI pôsobiť nie ako bonus, ale ako nevyhnutná súčasť služby.
Práve v tom spočíva silný psychologický efekt celej stratégie. Ak používateľ po týždni vypne Gemini, práca môže zrazu pôsobiť pomalšie, chaotickejšie a menej prehľadne. Google tak nevytvára len nástroj, ale aj novú predstavu o tom, čo znamená pracovať efektívne. A čím viac sa ľudia na AI spoliehajú, tým ťažšie sa od nej odchádza.
Veľká časť používateľov si možno ani neuvedomí, koľko AI funkcií dnes Gmail obsahuje. Gemini dokáže písať e-maily, sumarizovať konverzácie, organizovať schránku alebo vytvárať AI prehľady správ. Google tieto funkcie zapol automaticky bez toho, aby sa užívateľov pýtal. Ak ich chceš vypnúť, čaká ťa ďalší problém. V Gmaili totiž neexistuje jednoduché tlačidlo typu „vypnúť Gemini“. Google AI schoval pod širší balík nazvaný Smart funkcie.
Po vypnutí tejto voľby však človek nepríde len o Gemini. Zmiznú aj staršie a obľúbené funkcie, ktoré s generatívnou AI vôbec nesúvisia. Používateľ tak môže stratiť inteligentné triedenie mailov, automatické kategórie správ, Smart Compose alebo sledovanie balíkov. Tu analytici upozorňujú, že to trochu pôsobí ako trest za vypnutie AI.
Google navyše po deaktivovaní funkcie často zobrazí ďalšie okno, ktoré používateľa presviedča, aby AI znovu zapol.
Správanie Googlu môže na seba strhnúť pozornosť európskych regulátorov
Situácia zároveň nemusí zostať len pri kritike používateľov. V Európe už dnes platia pravidlá Digital Markets Act (DMA) aj nový AI Act, ktoré sa snažia obmedziť manipulatívne praktiky veľkých technologických firiem. Práve takzvané vynútené voľby môžu naraziť na problém zo strany regulátorov.
Ak totiž používateľ vypne AI a zároveň príde o nesúvisiace funkcie, regulačné úrady môžu takýto prístup vnímať ako neférový tlak na spotrebiteľa. Európska komisia už dlhšie sleduje spomínané temné vzorce a za ich používanie udeľuje firmám sankcie.
V praxi teda nejde len o nepríjemné menu v nastaveniach. Otázkou začína byť aj to, či podobné praktiky zostanú v súlade s európskymi pravidlami pre digitálny trh.
Odborník na digitálne manipulácie Harry Brignull upozornil, že firmy silu predvolených nastavení poznajú už roky. V tomto smere platí, že ak veľká spoločnosť chce, aby niečo začali ľudia používať, jednoducho to zapne ako predvolenú funkciu a vypnutie tejto funkcie schová za niekoľko vrstiev nejasne znejúcich možností. Tým maximalizuje šancu, že to človek vzdá, než sa dostane k požadovanému nastaveniu. Práve to dnes vidíme pri Gemini. Google síce formálne ponúka výber, no celý systém pôsobí tak, aby väčšina používateľov pri AI jednoducho zostala.
