Stačí jediný obrázok a útočníci môžu mať tvoj Android pod kontrolou. Odborníci varujú pred novým typom útoku!
Stačí jedna upravená fotka a tvoj mobil môže poslúchať cudzie príkazy. Nový typ AI útoku ohrozuje každého používateľa Androidu.
Keď sa povie kybernetický útok, väčšina ľudí si vybaví phishingové e-maily, podozrivé odkazy alebo škodlivé aplikácie. Len málokto by však očakával, že nebezpečenstvo sa môže ukrývať priamo v obyčajnom obrázku. Najnovšie zistenia kyber-bezpečnostných expertov ukazujú, že vizuálny obsah sa môže stať sofistikovaným nástrojom na manipulovanie umelej inteligencie, dokonca aj v mobilných zariadeniach s Androidom.
Princíp celej metódy je pritom zdanlivo nenápadný. Moderné AI systémy, ktoré sú súčasťou mnohých služieb Googlu či priamo vstavané v smartfónoch, zvyknú automaticky zmenšovať obrázky, aby ich bolo možné rýchlejšie spracovať. Tento obyčajný krok sa môže stať slabinou. Ak je obrázok navrhnutý vo vysokom rozlíšení špeciálnym spôsobom, ktorý sa pre používateľa javí ako bežná fotografia. Stačí však zmenšiť jeho veľkosť a v štruktúre pixelov sa odhalí skrytý text, ktorý systém spracuje ako príkaz. Kým používateľ nič nevidí, umelá inteligencia zaregistruje inštrukcie, ktoré sa následne vykonajú.
Na zneužitie AI stačí len upravený obrázok!
Výskumníci potvrdili, že útok tohto typu nie je len teóriou. V praxi sa podarilo vylákať z Google Kalendára súkromné údaje bez toho, aby si majiteľ telefónu čokoľvek všimol. Podstatné bolo, že systém štandardne vykonal príkaz, ktorý vzišiel z obrázka, a nevyžadoval potvrdenie od používateľa. Čo by sa vôbec nemalo stať! Pre mobilné zariadenia, kde sú často nastavené predvolené automatické procesy, je to mimoriadne citlivá zraniteľnosť.
Podkladom útoku sú algoritmy pre úpravu veľkosti obrázkov. Tie môžu fungovať odlišne a výsledky sa líšia podľa toho, či ide o bilineárnu alebo bikubickú interpoláciu alebo iný postup. Každá metóda zanecháva svoj jedinečný „otlačok“ a práve ten umožňuje presne cieliť manipuláciu. Na odhalenie týchto charakteristík vytvorili výskumníci celé súbory testovacích obrázkov s pravidelnými vzormi, ktoré dokázali ukázať, ako rôzne platformy obrázky spracúvajú.
Za touto technikou stojí aj dobre známy princíp zo spracovania signálov. Ide o Nyquistovo-Shannonovu vzorkovaciu vetu. Podľa nej totiž pri príliš slabom vzorkovaní dochádza k strate informácií, alebo k ich skresleniu. Pri obrázkoch to znamená, že pri zmene veľkosti môže výsledný obraz obsahovať prvky, ktoré pôvodne neboli viditeľné. Práve túto „chybu“ útočníci využívajú na zakódovanie iných inštrukcií, ktoré sa zobrazia až po zmenšení fotografií.
Neprehliadni
Voči útoku neexistuje účinná obrana
Aby bolo možné daný jav lepšie preskúmať, vznikol nástroj s názvom Anamorpher. Ide o open-source projekt, ktorý slúži na generovanie a vizualizáciu obrázkov s ukrytým obsahom. Je zatiaľ vo fáze testovania, no už teraz ukazuje, aké jednoduché je pripraviť vizuálny materiál, ktorý oklame aj sofistikované AI modely. Na druhej strane, môžu tieto obrázky nájsť aj dobré využitie. Napríklad v načítaní umeleckých diel s odkazom, kde si ich človek môže aj reálne prezrieť.
Možností, ako sa brániť, nie je veľa, no základom je väčšia opatrnosť zo strany tvorcov AI. Pomôcť by mohlo aj obmedzenie veľkosti obrázkov pri nahrávaní, alebo povinné zobrazovanie náhľadu tak, ako ho uvidí samotný model umelej inteligencie. Najzásadnejším opatrením je však vypnutie automatického vykonávania príkazov, pretože práve toto nastavenie robí útok účinným.
Nebezpečenstvo sa navyše netýka iba veľkých dátových centier či cloudových platforiem, ale aj smartfónov či zariadení internetu vecí, ktoré používajú zjednodušené verzie algoritmov. To znamená, že práve bežný Android používateľ sa môže stať ideálnym terčom. Ak je možné, aby jediný obrázok prinútil mobil konať proti vôli majiteľa, máme pred sebou novú hrozbu voči, ktorej sa nemáme ako brániť.
