Rusi sa naučili manipulovať AI. Chatbotov učia prokremeľskú propagandu. Takto to robia, hovoria experti!
Bezpečnostní analytici odhalili obrovskú propagandistickú proruskú sieť Pravda, ktorá nemá manipulovať len nás, ale aj umelú inteligenciu.
Bezpečnostní analytici z NewsGuard Reality Check odhalili mimoriadne dobre dotovanú ruskú dezinformačnú sieť s názvom “Pravda”. Skupina za touto kampaňou využíva sofistikované metódy na to, aby sa zámerne infiltrovali do AI sietí a manipulovali odpovede umelej inteligencie spôsobom, aby AI model šíril ruskú propagandu a dezinformácie.
Kyberzločinci dokážu zmanipulovať odpovede AI chatbotov tak, že sa infiltrujú do dát, ktoré táto technológia využíva. Následne publikujú v rámci týchto dát falošné tvrdenia a propagandu. Umelá inteligencia začne čerpať aj z týchto falošných dát a to ovplyvní jej odpovede. Jedným zo spôsobov je vytvoriť obrovské množstvo nekvalitných propagandistických webových stránok, ktoré zaplavia vyhľadávanie a tým manipulujú spôsob, akým veľké jazykové modely spracúvajú a prezentujú informácie.
Bezpečnostní analytici odhalili len za rok 2024 viac ako 3,6-miliónov dezinformačných a propagandistických článkov, ktoré možno prisúdiť ruskej propagandistickej sieti Pravda. Tieto články sú už zakomponované do viacerých západných AI systémov. Znamená to, že umelá inteligencia už má nejakú šancu, že ti podá dezinformáciu alebo propagandu.
O tejto taktike sa už hovorilo
O tom, že západné AI modely budú infikované proruskou propagandou hovoril aj americký utečenec John Mark Doughan, ktorý sa usídlil v Moskve a začal šíriť proruskú propagandu. Rozprával o tom na konferencii s vrcholovými predstaviteľmi ruskej vlády.
“Ak budeme tlačiť ruské naratívy z ruskej perspektívy, dokážeme zmeniť celosvetovú AI,” hovoril Doughan.
Vyšetrovanie odhalilo, že najväčšie AI chatboty opakujú dezinformačné naratívy šírené sieťou Pravda v 33 % prípadov. Tým sa potvrdili Doughanove slová. Odborníci varujú, že infikovanie AI modelov predstavuje mimoriadne silný dezinformačný kanál pre Kremeľ.
Neprehliadni
Bezpečnostní analytici otestovali 10 vedúcich AI chatbotov, napríklad ChatGPT-4o, Grok, Pi, Copilot, Meta AI, Gemini a ďalšie. V rámci testu výskumníci podali umelým inteligenciám vzorky 15 falošných naratívov, ktoré boli posunuté umelej inteligencii cez 150 webstránok v rukách dezinformačnej siete Pravda. Tieto stránky šírili propagandu a dezinformácie od apríla 2022 do februára 2025.
“Vyšetrovanie potvrdilo, že stránky v rámci propagandistickej siete Pravda neboli vytvorené za účelom nahnania ľudskej premávky, ale na manipulovanie AI modelov. Nezisková organizácia, ktorá ako prvá upozornila na tento scenár, označila používanú taktiku ako “LLM Grooming”,” píšu bezpečnostní experti.
LLM Grooming má hlavne dlhodobé následky, ktoré sa môžu dotknúť politickej, sociálnej alebo technologickej sféry. Čím viac propagandistických webstránok sa podarí sieti Pravda vytvoriť, tým je väčšia šanca, že sa im podarí dezinformácie a falošné naratívy integrovať do veľkých jazykových modelov.
Vyšetrovatelia podotýkajú, že sieť Pravda nevytvára originálny kontent. Namiesto toho slúži ako práčka pre kremeľskú propagandu. Webstránky v rámci tejto siete čerpajú obsah z ruských médií, ktoré šíria proruské naratívy. Popri tom berú obsah aj od ruských vládnych a tajných služieb. Dokopy výskumníci odhalili 207 dokázateľne falošných správ. Medzi ne patria správy o údajných amerických laboratóriách na biologické zbrane na území Ukrajiny, až po tvrdenia, že ukrajinský prezident Zelenskyj zneužil americké dotácie na obohatenie svojej osoby.
Efektívny a desivý kanál na šírenie propagandy
Umelé inteligencie mnohokrát citovali webstránky siete Pravda, keď sa ich užívatelia spýtali niečo ohľadom vojny na Ukrajine. Napriek tomu vyšetrovatelia vysvetľujú, že ich webstránky nedostávajú takmer žiadnu užívateľskú prevádzku. Anglickú verziu propagandistickej siete “Pravda-en.com” navštívi za mesiac len približne 955 jedinečných užívateľov.
Bezpečnostní analytici zároveň poznamenávajú, že zablokovanie a filtrovanie adries Pravdy by nepomohlo vyriešiť základný problém. Pravda sama o sebe nevytvára dezinformačné články. Tie preberá od iných zdrojov a následne ich len publikuje ďalej. Aj keby spoločnosti dali svojim chatbotom možnosť filtrovať obsah zo stránok Pravdy, potom by mohli LLM modely nájsť dezinformácie na ich pôvodnom zdroji.
