Nový spôsob podvodu klope na dvere. Tento AI podvod sa môže čoskoro rozšíriť aj na Slovensko
Deepfake hlasy sa zmenili z technologickej kuriozity na vážnu kybernetickú hrozbu. Útočníkom stačí pár sekúnd tvojho hlasu, aby vytvorili realistickú napodobeninu a získali peniaze či prístup k účtom.
Ešte pred pár rokmi boli deepfake hlasy len zaujímavou ukážkou možností umelej inteligencie. Dnes však už patria medzi najrýchlejšie rastúce kybernetické hrozby. Technológie, ktoré dokážu v reálnom čase napodobniť ľudský hlas, sa tak dostali priamo do rúk bežných používateľov a žiaľ aj kyberzločincov. Spôsob, akým podvodníci využívajú tieto nástroje, už prináša aj reálne finančné škody. Na tému upozornil portál Techspot.
Moderné generátory reči zvládnu imitovať akýkoľvek hlas len na základe niekoľkosekundovej nahrávky. Nahráte krátke video, zdieľate rozhovor či len nechcene nahráš audionahrávku na sociálnej sieť, a tým poskytneš útočníkovi presne to, čo potrebuje. Výsledkom je syntetický hlas, ktorý znie takmer nerozoznateľne od originálu (tvojho). O niekoľko minút neskôr môže niekto s „tvojou“ intonáciou volať kolegovi, klientovi alebo príbuznému a žiadať peniaze či prístup k účtu.
Hackeri zneužívajú umelú inteligenciu týmto spôsobom
Za posledný rok sa objavilo nemálo prípadov, keď páchatelia dokonale napodobnili hlas príbuzného starších ľudí, aby z nich vylákali úspory. V biznise je situácia ešte zložitejšia.
Objavili sa prípady, keď falošný hlas manažéra presvedčil účtovníka, aby okamžite schválil prevod na „urgentný projekt“. Na nahrávke bolo všetko, od známeho hlasu, typického spôsobu vyjadrovania, dokonca aj jemné prestávky v reči. Celý podvod bol pritom naplánovaný do posledného detailu.
Problém pritom nespočíva len v tom, že technológia sa stala presvedčivou. Hlavným rizikom je jej dostupnosť. Nakoľko tieto nástroje už nevyžadujú žiadne odborné znalosti. Stačí voľne dostupný softvér, alebo jednoduchá aplikácia, často za pár eur mesačne. Pre človeka s nekalými úmyslami je to takmer dokonalý nástroj na manipuláciu. Stačí si pripraviť krátky hlasový vzor a v reálnom čase hovoriť hlasom niekoho iného počas videohovoru alebo len obyčajného telefonátu.
Neprehliadni
Bezpečnostní experti upozorňujú, že takáto hrozba zasahuje aj do oblastí, ktoré sme doteraz považovali za spoľahlivé. Napríklad ide aj o biometrickú autentifikáciu prostredníctvom hlasu. Ak algoritmus dokáže verne reprodukovať intonáciu a melódiu reči, systém na hlasové overenie identity stráca svoj zmysel. Banky a korporácie preto musia nanovo prehodnocovať, ako budú klientov a zamestnancov identifikovať.
Takmer nikto nebude v bezpečí pred týmto podvodom!
Na druhej strane, existujú už aj nástroje, ktoré sa pokúšajú tieto falošné hlasy odhaliť. Analyzujú „mikroskopické“ chyby v intonácii, alebo frekvencii, ktoré by bežné ucho nezachytilo. No s každým novým modelom AI sa hranica medzi pravým hlasom a napodobeninou rozplýva. Obranné mechanizmy tak často zaostávajú za útokmi.
V niektorých firmách preto zavádzajú nové interné pravidlá. Napríklad dvojstupňové overovanie telefonických požiadaviek, alebo potvrdenie cez neverbálny kanál. V Európskej únii sa súčasne diskutuje o právnych prístupoch, ktoré by zaviazali tvorcov deepfake technológií označovať syntetizovaný obsah.
Najvážnejšia hrozba sa však neukrýva v technológii samotnej, ale v tom, ako mení dôveru. Ak si prestaneme byť istí, že hlas na druhej strane patrí osobe, ktorú poznáme, mení to samotný základ komunikácie. Deepfake klony tak nie sú len ďalšou IT hrozbou. Sú skúškou našej schopnosti veriť realite v digitálnom svete a to je niečo, čo pôjde postupom času horšie a horšie. Pričom najnáchylenšjí sa stanú starí ľudia a deti.
