Slováci majú podozrenie, že sú manipulovaní umelou inteligenciou, hovorí výskum
Výskumníci z IVO a ESETu vykonali prieskum, ktorý ukázal, že väčšina z nás sa už stretla s dezinformáciami, ktoré vytvorila umelá inteligencia.
Inštitút pre verejné otázky, IVO, spolu s ESETom vykonali veľký prieskum, ktorý sa dotýka manipulácie v prostredí internetu a dôvery populácie v informácie, ktoré na internete čítajú.
Výsledky prieskumu naznačujú, že väčšina Slovákov sa už stretla na internete s obsahom alebo komunikáciou, o ktorých mala podozrenie, že boli vytvorené umelou inteligenciou. Presnejšie to bolo 57 % populácie. Len 19 % respondentov uviedlo, že sa s manipulatívnym obsahom nestretlo a 24 % tvrdí, že nedokáže rozoznať obsah tvorený človekom a umelou inteligenciou. Dokopy odborníci oslovili 1 020 respondentov vo veku nad 18 rokov.
„Spomedzi tých, ktorí majú skúsenosť s výskytom takto generovaného obsahu či komunikácie, až 77 % tvrdí, že sa ním stretáva najmä na sociálnych sieťach. Ide napr. o automatizované šírenie informácií a rôzneho klamlivého obsahu alebo dezinformácií, o chatboty a falošné účty, ktoré manipulujú s diskusiami a pod. Reálna skúsenosť respondentov tak korešponduje so všeobecným presvedčením 78 % populácie, že na sociálnych sieťach začína dominovať obsah vytvorený umelou inteligenciou“, hovorí analytik IVO Marián Velšic.
Takmer polovica opýtaných (44%) sa stretla už aj s manipuláciou a ovplyvňovaním mediálneho obsahu. Môže ísť napríklad o deepfake videá alebo upravené zvukové nahrávky. K tomu ale môžeme pridružiť aj falošné fotografie, správy, či úmyselne vytvorené hoaxy. Tretina opýtaných sa naopak stretla s AI obsahom v oblasti politiky. Tento falošný obsah mal za cieľ podporiť určité politické názory alebo osobnosti, či naopak spochybniť ich kredibilitu.
„Schopnosti generatívnych modelov umelej inteligencie sa zlepšujú nevídaným tempom. Každá firma vyvíjajúca umelú inteligenciu sa snaží zaujať verejnosť a potenciálnych investorov novými modelmi, ktoré sú schopné generovať čoraz uveriteľnejší obsah. Výsledkom je, že aj bežní ľudia majú prístup k nástrojom schopným generovania obsahu len ťažko odlíšiteľného od toho skutočného. Tento trend sa bude ešte zrýchľovať a v horizonte mesiacov, maximálne rokov, bude aj pre skúsených používateľov naozaj zložité rozpoznať obsah vytvorený pomocou AI. Na toto obdobie by sme sa mali pripraviť tak z hľadiska technológií, ako aj regulácie“, upozorňuje Juraj Jánošík, Director of Artificial Intelligence v spoločnosti ESET.
Dezinformácie sa dotýkajú aj obchodnej sféry
Ďalším veľkým problémom je podľa respondentov prieskumu dopad AI na oblasti reklamy, marketingu a obchodu celkovo. V tomto prípade môže ísť hlavne o falošné recenzie, ktoré sú vďaka výkonným AI modelom písané naozaj prirodzene, nejde teda len o generickú pochvalu určitého produktu. Vďaka sofistikovaným AI modelom môžu podvodníci alebo nečestní obchodníci napísať desiatky rozdielnych recenzii, ktoré vyzdvihujú ich prevádzku alebo napádajú prevádzku konkurencie
Rovnako IVO a ESET pozorovali, že skúsenosti s manipulatívnym AI obsahom sa výrazne líšia aj na základe demografie. Napríklad s manipulatívnym obsahom sa stretlo podľa prieskumu 63 % mužova a len 51 % žien. Ešte väčší rozdiel našli medzi mladými ľuďmi a seniormi (74 %-41 %) alebo medzi vysokoškolsky vzdelanými a ľuďmi so základným vzdelaním (69 %-45 %). Aj manažéri, kreatívci, či podnikatelia sa stretávajú s AI dezinformačným obsahom. Celkovo sa ale najviac s týmto druhom obsahu stretávajú študenti, podľa prieskumu až 80 % študentov videlo na internete manipulatívny obsah vytvorený umelou inteligenciou.
Neprehliadni
Podvodníci veľmi jednoducho tvoria kvantá obsahu
AI v sebe ukrýva obrovský potenciál, no zároveň dokáže podať pomocnú ruku aj podvodníkom alebo dezinformátorom. Prostredníctvom modelov ako ChatGPT, Gemini alebo iné je nesmierne ľahké vytvoriť do niekoľkých sekúnd celý dezinformačný článok. Takto môžu podvodníci s minimálnym úsilím vytvoriť celý dezinformačný web bohatý na obsah. Tento podvodný web môže rásť aj cez skutočných užívateľov, ktorí uverili dezinformačnému obsahu a šírili ho ďalej. Ide o problém, ktorý sa stáva na internete čoraz vážnejším, no zároveň neexistujú efektívne metódy jeho riešenia.
