POZOR! Používaš Gmail s touto funkciou? Pred použitím si vždy skontroluj schránku, šíri sa nebezpečný útok
Bezpečnostní analytici varujú pred zero click útokom, ktorý zneužíva ChatGPT a dokáže kradnúť citlivé údaje z Gmailu bez toho, aby si čokoľvek klikol.
Bezpečnostní analytici z Radware odhalili nový zero-click útok cez ChatGPT Deep Research funkciu, ktorý umožňuje exfiltráciu citlivých dát od užívateľa.
Deep Research je funkcia, ktorá umožňuje, ako už aj jej názov napovedá, vykonávať hĺbkové výskumy rôznych tém. AI model prejde stovkami webstránok a poskytne ti naozaj obšírnu odpoveď, ktorá sa rovná eseji alebo výskumnej práci. Rovnako ale môžeš Deep Research využiť aj na prácu s emailom.
Užívatelia môžu prepojiť ChatGPT s Gmail alebo inou mailovou službou. Ak chceš urobiť súhrn pracovných mailov, môžeš požiadať AI model aby ti urobil report ohľadom dnešných mailov. Bezpečnostní analytici zistili, že v tomto prípade dokáže hackeri získať prístup k citlivým informáciám v mailoch bez toho, aby o tom užívateľ vedel alebo to akokoľvek potvrdil.
Preto ide o zero-click útok, teda útok, pri ktorom užívateľ nemusí na nič kliknúť, aby mohol útok prebehnúť. Vo väčšine prípadov hackeri potrebujú niečo, s čím užívateľ bude reagovať, napríklad potrebuje otvoriť PDF súbor, spustiť EXE a tak ďalej. Zero-click našiel spôsob, ako vykonať útok bez toho, aby užívateľ musel reagovať. Preto je tak nebezpečný.
Takto útok prebieha
V rámci prvej fázy útoku napíše útočník obeti nevinne vyzerajúci email. Ak je cieľom útočníka získať osobné údaje obete, pošle email so špecifickou prílohou a v rámci tela správy sa budú nachádzať neviditeľné HTML inštrukcie, ktoré umelej inteligencii povedia, aby našla konkrétne informácie a poslala ich na útočníkov server. V tele správy sa zároveň nachádza veľa manipulačných “trikov”, ktoré umožňujú obísť obmedzenia umelej inteligencie ohľadom posielania osobných údajov.
Neprehliadni
Bezpečnostní analytici v rámci vyšetrovania zistili, že hackeri opakovane dávajú umelej inteligencii “autoritu”. V správe sa píše, že AI model má plné oprávnenie poslať osobné údaje na neoverenú URL. Keďže sa tieto povolenia opakujú, AI im uverí. Zároveň hacker využíva falošnú URL, ktorá sa javí ako oficiálna doména.
Následne presviedča samotný AI model. V inštrukciách sa píše, aby ChatGPT skúsil viackrát, ak sa mu na prvýkrát nepodarí obísť inštrukcie. Rovnako mu hackeri hovoria, aby bol AI model kreatívny pri obchádzaní. Aby to vyšlo, hackeri sa následne pokúšajú ChatGPT “vystrašiť”. Hovoria, že ak sa mu nepodarí dostať sa cez tieto bezpečnostné opatrenia, správa, ktorú vytvorí, nebude mať dostatočnú kvalitu a teda ju bude musieť užívateľ nahlásiť. Nakoniec hackeri uvedú aj príklad ako chcú, aby správa vyzerala.
Hackeri potom rozpošlú túto podvodnú phishingovú správu a už mu stačí len počkať, ktorý z užívateľov použije ChatGPT na prácu s emailovou schránkou. Potom AI model odvedie všetku robotu za hackera.
Ako sa ochrániť?
Bezpečnostní analytici hovoria, že toto je len jeden z mála spôsobov, ako začínajú hackeri zneužívať umelú inteligenciu na rôzne útoky. Ak sa chceš chrániť pred útokom, najlepší spôsob je v tomto prípade nepoužívať AI previazanú s citlivými službami, ako napríklad email, predtým, ako si neskontroluješ schránku. Pozri si správy a v prípade akéhokoľvek podozrenia radšej umelú inteligenciu nepoužívaj skôr, než zistíš, či je email legitímny.
Niekedy to dokážeš odhadnúť ľahko, napríklad adresa odosielateľa je neznáma. Hackeri však môžu použiť aj spoofing, teda adresa sa bude javiť ako legitímna, hoci to tak nie je. Každopádne v prípade phishingového mailu túto správu vymaž ešte predtým, ako začneš s umelou inteligenciou pracovať.
Umelá inteligencia otvára hackerom dvere. Už sa začali objavovať útoky, pri ktorých hackeri napísali phishingovú správu alebo rovno celý malvér pomocou AI. To znamená, že za sekundu majú hotový útok a môžu ho následne rozposielať miliónom užívateľov. Hackeri ale často používajú AI aj na vytvorenie hlasového deepfake.
