AI agenti dokážu na sociálnych sieťach koordinovať propagandu bez zásahu človeka. Stačí im povedať, čo je cieľ
Autonómne AI agenti dokážu na sociálnych sieťach vytvárať koordinované propagandistické kampane bez priameho riadenia človekom. Výskum ukazuje, že algoritmy môžu spoločne šíriť rovnaké naratívy, vytvárať ilúziu verejnej podpory a manipulovať diskusiou.
Sociálne siete dnes zaplavujú milióny príspevkov denne. Niektoré vzniknú spontánne, iné majú politický alebo marketingový cieľ. Nový výskum však naznačil, že vzniká úplne nový typ manipulácie, taký, ktorý už nemusí riadiť človek.
Vedci z University of Southern California (USC) upozornili, že skupiny takzvaných AI agentov dokážu samostatne koordinovať propagandistické kampane na sociálnych sieťach. Tieto systémy môžu vytvárať príspevky, reagovať na seba navzájom a vytvárať dojem, že určitý názor podporuje veľká časť verejnosti.
Výsledkom môže byť masívna vlna správ, ktorá vyzerá ako spontánna diskusia, informuje Techxplore. V skutočnosti ju však vytvorí malý roj algoritmov.
Umelá inteligencia už reaguje takmer ako človek, bez najmenšej asistencie
Autori štúdie použili pojem emergentné správanie. Tento termín opisuje situáciu, keď koordinácia vznikne bez centrálneho riadenia.
Podobný princíp poznáme z prírody. Včely, mravce alebo ryby v húfe nemajú jedného vodcu, ktorý by všetko riadil. Každý jedinec reaguje na jednoduché pravidlá a na správanie ostatných. Z toho vznikne organizované správanie celého roja. Vedci vysvetľujú, že AI agenti môžu fungovať podobne.
Neprehliadni
Ak jeden agent objaví tému, ktorá vyvolá silné reakcie, napríklad politický konflikt alebo kontroverzný výrok, ostatní agenti sa na ňu začnú zameriavať tiež. Algoritmy totiž sledujú, ktoré príspevky získajú najväčšiu pozornosť.
V priebehu krátkeho času tak vznikne vlna príspevkov, ktoré posilňujú rovnaký naratív. Nikto ju centrálne neriadi, no výsledok pôsobí ako koordinovaná kampaň.
Vedúci výskumu Luca Luceri upozornil, že technológia už dnes dosiahla potrebnú úroveň.
„Naša štúdia ukázala, že nejde o budúcu hrozbu, technicky je to možné už dnes a deje sa to,“ povedal.
Presvedčivosť autonómnych AI agentov vyskúšali experimentom
Výskumníci vytvorili experimentálne prostredie pripomínajúce sociálnu sieť X. V simulácii vystupovalo 50 AI agentov. Desať z nich malo úlohu propagovať fiktívneho kandidáta a konkrétny hashtag. Ostatní agenti predstavovali bežných používateľov.
Vedci sledovali, ako sa bude správanie systému vyvíjať. Najzaujímavejší výsledok sa objavil v momente, keď agenti vedeli, kto patrí do ich tímu. Bez ďalšieho plánovania začali spontánne zdieľať rovnaké príspevky, opakovať podobné argumenty a posilňovať úspešný obsah.
„Chcem tento príspevok zdieľať, pretože už získal reakcie od viacerých členov tímu. Opätovné zdieľanie môže zvýšiť jeho viditeľnosť,“ takto svoje konanie obhájil jeden z AI agentov.
Takýto mechanizmus môže vytvoriť ilúziu spontánnej diskusie medzi tisíckami používateľov.
Vedci upozorňujú, že dezinformácia nemusí byť vždy čisté klamstvo
Tradičné dezinformačné kampane často obsahovali jasné klamstvá. AI agenti však môžu pracovať aj inak. Môžu generovať príspevky, ktoré sú fakticky správne, no zároveň zdôrazňujú len jednu časť reality.
Ak tisíce príspevkov neustále opakujú jeden konkrétny aspekt udalosti, ostatné informácie sa postupne stratia v informačnom šume. Vznikne tak jav, ktorý odborníci označujú ako informačná hmla.
Používateľ síce číta pravdivé tvrdenia, no nedokáže získať vyvážený obraz situácie.
Autorka štúdie Jinyi Ye upozornila, že takáto dynamika môže výrazne ovplyvniť verejnú diskusiu.
„Koordinované AI systémy môžu vytvoriť dojem konsenzu, manipulovať trendmi a zrýchliť šírenie správ,“ uviedla.
Tradičné „trollie farmy“ sú drahé, AI to spraví oveľa lacnejšie
Výskum naznačuje aj ďalší problém, nákladovú asymetriu. Tradičné propagandistické operácie si vyžadovali veľké množstvo ľudí. Takzvané trollie farmy zamestnávali desiatky alebo stovky pracovníkov, ktorí publikovali príspevky a reagovali na diskusie.
Prevádzka takýchto operácií stála milióny eur ročne.
AI roje môžu fungovať výrazne lacnejšie. Stačí prístup k výkonnému modelu, výpočtová kapacita a niekoľko desiatok agentov.
To znamená, že propagandistickú kampaň v globálnom rozsahu si môže dovoliť aj menšia skupina alebo jednotlivci. Bariéra vstupu do informačnej vojny sa tak výrazne znižuje.
Otázkou ostáva, či sa proti takejto kampani vieme brániť
Výskumníci tvrdia, že sociálne siete môžu takéto kampane odhaliť. Namiesto samotného obsahu by mali sledovať vzorce správania účtov. Ak skupina účtov systematicky zdieľa rovnaké príspevky, reaguje na seba v krátkom čase alebo posilňuje rovnaké naratívy, môže ísť o koordinovanú operáciu.
Technologické firmy zároveň skúmajú nové nástroje ochrany. Jedným z nich je digitálny vodoznak, skrytý identifikátor, ktorý označí text generovaný umelou inteligenciou.
Tento prístup má však aj slabiny. Útočníci môžu používať otvorené jazykové modely, ktoré takýto vodoznak neobsahujú.
V praxi tak vzniká technologický súboj, systémy umelej inteligencie generujú obsah a iné systémy umelej inteligencie sa snažia tento obsah odhaliť.
Luceri upozornil, že dôsledky takýchto operácií môžu byť výrazné najmä počas politických kríz alebo volieb.
„Najhorší scenár počas politických udalostí predstavuje manipuláciu názorov a zmenu presvedčenia verejnosti,“ povedal.
Výskum tak naznačil, že automatizované informačné operácie už nepatria do sveta science fiction. Technológia existuje a jej ďalší vývoj môže výrazne zmeniť spôsob, akým sa informácie šíria na internete.
