Chrome čelí problému, ktorý sa nedá opraviť. „Toto môže byť horšie než staré hackerské útoky a v ohrození si aj ty“
Umelá inteligencia v prehliadači už len neodpovedá, ale koná za teba. Experti varujú, že sa dá oklamať skrytým obsahom na weboch a tento problém možno nikdy nezmizne.
Predstav si, že si do prehliadača pustíš pomocníka, ktorý má robiť veci za teba. Číta weby, kliká, vypĺňa formuláre, objednáva lístky alebo ti zhrnie e-maily. Znie to pohodlne. Lenže bezpečnostní experti teraz hovoria niečo, čo neznie vôbec upokojujúco: tento pomocník sa dá pomerne ľahko oklamať a možno to nikdy nepôjde úplne vyriešiť.
Na problém upozorňuje britské Národné centrum pre kybernetickú bezpečnosť (NCSC). A čo je dôležité, Google tiež v prípade Chromu nepriamo priznáva, že ide o reálnu a dlhodobú hrozbu.
Reč je o novej generácii umelej inteligencie v prehliadači, ktorú Google nazýva agentickou. Už to nie je len chat. Je to AI, ktorá koná v tvojom mene. A práve tu začína problém.
Keď AI číta niečo, čo nie je určené tebe
Skús si predstaviť túto situáciu. Povieš umelej inteligencii: „Zhrň mi dnešné e-maily.“ AI si ich začne čítať jeden po druhom. Lenže v jednom z nich môže byť text, ktorý nie je určený tebe, ale priamo umelej inteligencii. Ty ho vôbec neuvidíš. AI áno.
Môže ísť o skrytý text, poznámku v kóde stránky alebo nenápadnú vetu v recenzii. Pre človeka bezvýznamná. Pre AI to však môže vyzerať ako pokyn. Odborne sa tomu hovorí nepriama injekcia pokynov.
Neprehliadni
V praxi to znamená, že AI môže začať robiť niečo iné, než si chcel. Kliknúť inde. Presmerovať sa. Alebo pracovať s dátami spôsobom, ktorý si nikdy nepovolil.
Prečo si AI nevie uvedomiť, že ju niekto klame
Pri starších hackerských útokoch existovalo jasné pravidlo. Dáta boli len dáta. Príkazy boli príkazy. Keď sa tieto dve veci technicky oddelili, problém sa vyriešil. Pri umelej inteligencii to takto nefunguje.
Podľa NCSC totiž veľké jazykové modely nechápu text ako človek. Nevidia rozdiel medzi informáciou a pokynom. V ich „hlave“ je všetko len sled znakov, z ktorých sa snažia vypočítať, čo má nasledovať ďalej.
Odborne sa tomu hovorí predikcia ďalšieho tokenu. Zjednodušene povedané: AI len háda, aké slovo má prísť ako ďalšie. Nerozmýšľa, či ide o dobrý alebo zlý úmysel.
Prečo sa z toho stáva vážny problém práve teraz
Kým bola AI len chat, riziko bolo malé. Mohla ti maximálne napísať hlúposť.
Agentická AI je iný príbeh. Tá už kliká, prihlasuje sa a pracuje s účtami. A to v prehliadači, kde si prihlásený do e-mailu, sociálnych sietí, e-shopov či banky.
Google sám priznáva, že takýto útok môže viesť k nechceným platbám alebo úniku citlivých údajov. A britskí experti hovoria, že toto je typ problému, ktorý nemusí mať dokonalé riešenie.
Ako sa to snaží brzdiť samotný Chrome
Google sa ale nesnaží tváriť, že problém neexistuje. Práve naopak. Do Chromu zavádza viacero poistiek.
Každý krok umelej inteligencie kontroluje ďalší model, ktorý má overiť, či daná akcia naozaj zodpovedá tomu, čo si chcel. AI má obmedzené, na ktoré stránky môže siahať a kde môže niečo vykonávať. Pri citlivých veciach, ako sú platby alebo prihlasovanie, musíš zasiahnuť ty. Prehliadač sa zároveň snaží rozpoznať obsah, ktorý cielene manipuluje AI. Google však otvorene priznáva, že ide len o znižovanie rizika. Nie o jeho úplné odstránenie.
Prečo odborníci hovoria, že úplná bezpečnosť nemusí existovať
NCSC používa silné prirovnanie. Umelú inteligenciu označuje za „zmätiteľného zástupcu“. Je to niekto, kto koná v tvojom mene, ale môže sa nechať oklamať.
Problémom ale je, že na rozdiel od klasických softvérových chýb nejde o chybu, ktorú opravíš jednou aktualizáciou. Ide o vlastnosť samotnej technológie.
Preto experti hovoria, že k AI treba pristupovať inak. Nie ako k dokonalej náhrade človeka, ale ako k pomocníkovi, ktorému musíš nastaviť pevné hranice.
Na čo si dať pozor, keď pustíš AI k svojim veciam
Umelá inteligencia v prehliadači ti môže ušetriť čas. Ale nie je neomylná. Ak jej dovolíš robiť veci za teba, musíš počítať s tým, že niekedy sa môže nechať zmiasť obsahom, ktorý ty ani nevidíš. Presne preto odborníci odporúčajú jednoduché pravidlo: AI nikdy nedávaj plnú kontrolu nad citlivými vecami. Rovnako ako by si ju nedal cudziemu človeku.
Nie preto, že by bola zlá. Ale preto, že jej fungovanie má svoje matematické a technické limity.
