Google odhalil, ako hackeri menia AI na digitálnu superzbraň. Toto dokáže Gemini v nesprávnych rukách
Google varuje, že hackeri zneužívajú AI model Gemini na phishing, profilovanie obetí a vývoj malvéru. Objavil sa aj trojan HONESTCUE, ktorý si sám pýta škodlivý kód od umelej inteligencie.
Umelá inteligencia mala zrýchľovať prácu a zjednodušovať život. Namiesto toho ju ale niektorí útočníci používajú na krádež bankových údajov, špehovanie a vývoj sofistikovaného malvéru. Upozorňuje na to samotný Google.
Google Threat Intelligence Group: AI sa stáva nástrojom v rukách útočníkov
Bezpečnostná jednotka Google, Google Threat Intelligence Group, zverejnila analýzu, v ktorej detailne opisuje, ako hackeri zneužívajú rôzne AI nástroje vrátane modelu Gemini.
Podľa správy sa AI využíva na krádež duševného vlastníctva, sledovanie cieľov a dokonca aj na vytváranie nových typov malvéru. Google identifikoval viacero tzv. „threat actors“, teda konkrétnych útočníkov alebo skupín, ktoré sa pokúšali Gemini použiť na škodlivé účely. Firma tvrdí, že tieto pokusy zastavila, no zároveň upozorňuje, že ide o trend, ktorý môže zásadne ovplyvniť budúcnosť kyberbezpečnosti.
AI ako urýchľovač prieskumu: Útočníci vedia o tebe viac než kedykoľvek predtým
Jednou z najväčších výhod umelej inteligencie je schopnosť extrémne rýchlo spracovať obrovské množstvo dát. To, čo by človeku trvalo bežne dni či týždne, zvládne AI za pár minút.
Ak si vie AI pomôcť pri hľadaní komponentov na herný počítač, dokáže rovnako rýchlo vyhľadať informácie o firmách, zamestnancoch, ich pozíciách či hierarchii v organizácii. A práve toto útočníci využívajú vo svoj prospech. Model dokáže vytvoriť profil potenciálnej obete vrátane toho, v akom sektore pracuje a kde sa nachádza v štruktúre firmy.
Neprehliadni
Skupina označená ako UNC6418 napríklad využila Gemini na vyhľadávanie citlivých informácií o členoch ukrajinského obranného sektora s cieľom pripraviť phishingový útok.
Phishing 2.0: E-maily bez chýb, konverzácie ako od človeka
Klasický phishing si si vedel všimnúť podľa zlého pravopisu alebo podozrivej formulácie. Dnes to už nemusí platiť.
AI dokáže generovať e-maily, ktoré vyzerajú autenticky a jazykovo čisto. Podľa analýzy navyše niektoré modely dokážu viesť konverzáciu spôsobom, ktorý pôsobí prirodzene a buduje dôveru. Útočník tak nemusí byť jazykovo zdatný ani skúsený manipulátor. AI mu pomôže.
Príkladom je hacker označený ako UNC2970, ktorý je spájaný so Severnou Kóreou. Ten využíval AI na to, aby sa vydával za náborára a cielil na odborníkov z oblasti kyberbezpečnosti.
Bezpečnostní analytici tiež odhalili phishingový nástroj s názvom COINBAIT, ktorý sa zameriaval na investorov do kryptomien a kradol ich prihlasovacie údaje. Podľa analýzy bol vytvorený pomocou verejne dostupnej AI aplikácie Lovable. A to hovoríme o bežne prístupnom nástroji, nie o špecializovanom API.
HONESTCUE: Malvér, ktorý si sám pýta kód od AI
Najvážnejšou časťou správy je opis konkrétneho malvéru s názvom HONESTCUE.
Ide o tzv. backdoor trojan, teda škodlivý program, ktorý po infikovaní zariadenia vytvorí zadné vrátka pre útočníka. HONESTCUE bol výnimočný tým, že po stiahnutí využíval Gemini na získanie ďalšieho škodlivého kódu. Inými slovami, samotný malvér komunikoval s AI modelom, aby si „vypýtal“ ďalšiu fázu útoku.
Tento prístup umožňuje viacvrstvové maskovanie, tzv. obfuscation. Predstav si to ako zlodeja, ktorý si nenechá doma žiadne náradie, ale vždy si ho objedná na konkrétnu adresu až po vstupe do bytu. Na pevnom disku tak nezostávajú klasické stopy ani uložené payloady.
Zatiaľ nebol preukázaný prípad, že by HONESTCUE spôsobil rozsiahly kyberútok. Podľa analýzy ho vytvorili skôr amatérski programátori. Otázka však znie inak: čo dokáže skúsený útočník, ak dostane prístup k výkonnejšiemu API?
Agentic AI: Autonómne systémy ako nový problém
Správa upozorňuje aj na zneužívanie tzv. „agentic AI capabilities“. Ide o autonómne AI systémy, ktoré dokážu vykonávať viacero krokov bez neustáleho zásahu človeka.
Útočník označený ako UNC795 sa pokúsil prinútiť Gemini vytvoriť nástroj na auditovanie kódu s integráciou AI. Hoci nie je jasné, čo presne plánoval, ide o ukážku snahy vytvárať komplexnejšie a autonómnejšie útočné nástroje.
Zatiaľ ide často len o „proof of concept“, teda experimenty. No už dnes podľa analytikov vznikajú nové schopnosti v rámci existujúcich rodín malvéru.
AI sama o sebe nie je hrozbou. Je to nástroj. Rozdiel je v tom, kto ho drží v ruke. Ak sa dnes amatér dokáže dostať k nástrojom, ktoré mu umožnia vytvárať sofistikovanejší malvér než pred pár rokmi profesionálny tím, čo nás čaká, keď sa tieto technológie stanú ešte výkonnejšími a dostupnejšími?
