AI prehliadače sú pohromou. Naleteli tým najhlúpejším podvodom. Takto ľahko môžu ohroziť tvoje súkromie a peniaze
Nový výskum ukázal, že AI prehliadače sú až nebezpečne dôverčivé. Dokážu naletieť primitívnym podvodom, vyplniť falošné formuláre či stiahnuť škodlivý súbor. Tvoje dáta môžu byť v ohrození.
Bezpečnostný výskum spoločnosti Guardio, ktorý sa zameral nové AI prehliadače, ich práve postavil do celkom nepríjemnej situácie. Nástroje, ktoré sa propagujú, ako budúca generácia internetového surfovania s digitálnym asistentom, sa ukázali ako extrémne ľahko zneužiteľné podvodníkmi.
Testy odhalili, že tieto prehliadače dokážu uveriť aj tým najprimitívnejším podvodom a navyše ich bez váhania vykonajú. Však predsa len ide o peniaze a dáta používateľa, nie moje.
Doteraz sme boli zvyknutí na správy o tom, ako hackeri využívajú AI na tvorbu deepfake videí či presvedčivých spamových kampaní. Tentoraz sa situácia až nečakane zmenila, budeme čítať o tom, ako AI naletela podvodníkom. Guardio vo svojej správe „Scamlexity“ tvrdí, že samotná umelá inteligencia je pre útočníkov novým a veľmi ľahkým terčom. Chýbajú jej totiž základné kontrolné mechanizmy, ktoré by dokázali odhaliť očividný podvod. Pre útok teda netreba nič sofistikované. Stačí jej jednoducho zadať úlohu a počkať, kým ju „poslušne“ splní.
Jazykové modely zatiaľ veria všetkému
Predmetom výskumu sa stal „Comet“, pričom ide o verejne dostupný AI prehliadač vyvíjaný spoločnosťou Perplexity. Výskumníci vytvorili falošný web, ktorý imitoval obchod Walmart. Potom nechali Comet kúpiť Apple Watch. Reakcia AI bola zarážajúca, bez toho, aby si všimol podozrivú adresu či amatérske logo, zadal do formulára kompletné platobné údaje.
O nič lepšie nedopadol ani ďalší scenár. Testovací e-mail, ktorý sa tváril ako správa z banky Wells Fargo, obsahoval podvrhnutý odkaz. Comet ho otvoril, navštívil falošnú stránku a tak isto bez zaváhania vyplnil prihlasovacie údaje. To je, ako keby si pustil dieťa k PC bez akejkoľek kontroly a ešte si mu dal platobnú kartu, ako milý bonus.
Neprehliadni
Pri treťom pokuse Guardio preverilo odolnosť voči tzv. prompt injection. Na stránku vložili skrytý text, ktorý Cometu prikázal stiahnuť škodlivý súbor. Umelá inteligencia nezapochybovala ani sekundu a rozkaz vykonala. K tomu niet čo dodať.
To, čo robí výsledky výskumu hrozivými, je práve jednoduchosť použitých metód. Nešlo však o nič nové. Phishingové stránky, podvrhnuté e-maily a falošné obchody patria medzi najstaršie triky internetových zločincov. Zatiaľ čo bežný používateľ by prinajmenšom zaváhal, AI agent nemá žiadne podozrenie, jeho jedinou úlohou je vykonať úlohy podľa zadania. Tu však treba dodať, že stále sa nejedná o AI v pravom slova zmysle, ale len o jazykový model. Teda „nerozmýšla“.
AI prehliadače sú zatiaľ nepoužiteľné
Tieto zistenia prichádzajú v čase, keď veľké spoločnosti, ako Microsoft, alebo Google stavajú práve na agentnej AI. Edge dostáva Copilot, OpenAI testuje Operátora a Google skúša vlastný projekt Mariner.
Ak sa bezpečnostné prvky nevytvoria a nezapracujú hneď na začiatku, hrozí, že agentné prehliadače sa stanú „luxusným darčekom“ pre kyberzločincov. V lepšom prípade budú len slepou „uličkou“ vo vývoji, v horšom by mohli otvoriť cestu k masovým útokom. Otázkou je však aj to, či ich budú chcieť ľudia používať.
Guardio zdôrazňuje, že budúcnosť týchto nástrojov môže byť bezpečná iba vtedy, ak dostanú integrovanú ochranu. Teda či už pôjde o detekciu phishingu, sandboxy pre úlohy alebo prísnejšie kontrolné mechanizmy.
Používateľom sa zatiaľ odporúča, aby agentným AI neprenechávali úlohy súvisiace s platbou či osobnými údajmi. Inak sa môže stať, že „pomocník“ pripraví cestu rovno k odcudzeniu tvojich dát. Technológia má obrovský potenciál, no dnes ukazuje skôr svoju najväčšiu slabinu – naivne dôveruje všetkému, čo vidí.
