Veľké percento Slovákov sa už stretlo s toxickou stránkou umelej inteligencie, tvrdí IVO: Záleží hlavne od týchto faktorov
Inštitút pre verejné otázky v novej správe uvádza, že väčšina Slovákov už mala možnosť stretnúť sa s deepfake AI obsahom a dezinformáciami.
S príchodom umelej inteligencie sme mohli pozorovať aj prudký nárast obsahu, ktorý vytvorili rôzne AI modely. Špecifickou kategóriou je deepfake obsah, teda príspevky obsahujúce falošnú alebo upravenú fotku, obrázok, video alebo zvuk.
Najnovšia správa Inštitútu pre verejné otázky (IVO) hovorí, že aj veľké percento Slovákov sa už s takýmto falošným obsahom na internete stretlo. Presnejšie sa až 71% stretlo s upravenou alebo falošnou fotografiou, 60% tvrdí, že sa stretlo s deepfake videom a 55% Slovákov verí, že sa stretlo s upraveným zvukom.
Zároveň si ale inštitút IVO všíma, že skúsenosti ľudí z odlišných sociálnych skupín nemusia byť rovnaké. Medzi ľuďmi nad 65 rokov, starobnými dôchodcami, nižšie vzdelanými alebo pracovníkmi v obchode a službách je viac takých, čo sa s negatívnymi AI generovanými príspevkami nestretli.
Mladší sa s temnou stránkou AI stretávajú častejšie
Naopak medzi mladšími, vzdelanejšími alebo podnikateľmi a živnostníkmi je situácia diametrálne odlišná. Tieto skupiny hlásia oveľa častejšie strety s deepfake AI obsahom. Zároveň však môžeme pozorovať aj rozdiely na základe regiónu. Napríklad na západe Slovenska sa môžeme s deepfake AI obsahom stretávať oveľa viac, ako na východe.
„Pomerne významné rozdiely v skúsenostiach s toxickými javmi, ktoré generuje AI, sa ukázali aj podľa jej využívania. S deepfake sa totiž najčastejšie stretávajú respondenti, ktorí AI použili viackrát (od 76% do 89%). O niečo menej s nimi prichádzajú do kontaktu už tí, ktorí AI vyskúšali iba raz alebo dvakrát (od 69% do 80%) a najmenej tí, ktorí o umelej inteligencii iba počuli (od 47% do 65%)“, hovorí autor projektu a analytik IVO Marián Velšic.
Velšic zároveň upozorňuje na to, že rok, čo rok, sú umelé inteligencie a deepfake obsah dokonalejšie. Bežný človek má už dnes často problém identifikovať, či sa pozerá na reálny obsah alebo niečo, čo vytvorila umelá inteligencia. To dvojnásobne platí v prípadoch, ak daný užívateľ nemá veľa predchádzajúcich skúseností s AI obsahom.
Neprehliadni
Dezinformátori a podvodníci dnes vytvárajú pomocou umelej inteligencie deepfake obsah oveľa jednoduchšie, než kedykoľvek predtým. Tento obsah je obzvlášť nebezpečný pri dezinformačných kampaniach, ktorých hlavným cieľom je napríklad zmeniť verejnú mienku o nejakom probléme alebo politickej strane.
Falošný obsah sa stráca v záplave informačných kanálov
Problému nepomáha ani to, že sa každý deň stretávame s naozaj masívnym množstvom informačného obsahu. To znižuje našu schopnosť a situačnú pozornosť rozlíšiť takýto manipulatívny obsah.
“Okrem ohýbania verejnej mienky či diskreditácie verejných činiteľov, kyberzločinci využívajú deepfake technológiu aj na páchanie podvodov rôzneho druhu. Nevyhnutnou súčasťou našej digitálnej bezpečnosti by preto malo byť vyhodnocovanie obsahu v širších kontextoch a vedomé vyhýbanie sa jeho nekritickému prijatiu,“ uvádza Peter Ohrajter, riaditeľ marketingu a korporátnej komunikácie spoločnosti ESET Slovensko.
Už dnes môžeme vidieť hneď niekoľko druhov podvodov a kyberútokov, ktoré sa šíria online priestorom nielen Slovenska, ale aj celého sveta. Príkladom je naozaj masívna podvodná kampaň, ktorá používa falošné fotografie prominentných osobností a cez ne láka ľudí na podvodné investičné platformy. Umelá inteligencia však pomáha kyberzločincom zdokonaliť aj tak staré a overené podvody, ako napríklad phishing. Podvodníci môžu bez najmenšieho problému vygenerovať presvedčivú phishingovú správu v hocijakom svetovom jazyku. S použitím AI deepfake obsahu sa však môžeme pomerne často stretnúť aj v rámci internetového humoru.
