Vedci varujú pred novou a desivou formou manipulácie. To, čo čítaš v diskusiách na sociálnych sieťach, nemusí byť skutočné
Po väčšinu roka sa tvária ako normálni užívatelia, pýtajú sa, radia, posielajú fotky, no pred voľbami začnú šíriť propagandu.
Online priestor sa za posledné roky zmenil tichšie, než by si čakal. Sociálne siete dnes neurčujú len to, čo vidíš, ale aj to, čo má pôsobiť ako názor väčšiny. Práve na tento posun upozornili vedci zo Science Policy Forum a inštitútu Maxa Plancka. Varovali pred novou generáciou vplyvových operácií, ktoré už nevyzerajú ako primitívne boty, ale ako koordinované komunity umelej inteligencie. Ich cieľom nie je presvedčiť ťa jedným argumentom, ale obklopiť ťa dojmom, že „všetci si to myslia“.
Tieto systémy vedci označili ako AI roje. Nejde o kopírovanie rovnakých komentárov pod správy. Každý účet vystupuje inak, používa vlastný jazyk, pamätá si predchádzajúce rozhovory a reaguje prirodzene. Spolu však sledujú jeden cieľ. Vytvárajú syntetický konsenzus.
„Najväčšie riziko nepredstavuje jeden falošný príspevok, ale ilúzia, že ide o všeobecne zdieľaný názor,“ upozorňujú autori štúdie.
Zásadný rozdiel oproti starým botom spočíva v tom, kde tieto roje pôsobia. Kým kedysi zahlcovali verejné diskusie pod článkami, dnes sa zameriavajú na uzavreté bubliny. Súkromné skupiny na Facebooku, kanály na Telegrame či servery na Discorde. Miesta, kde sa ľudia poznajú, dôverujú si a necítia potrebu byť neustále v strehu.
AI roje počkajú na najsilnejší okamžik
AI roje v týchto komunitách neútočia hneď. Týždne alebo mesiace sa správajú nenápadne. Zdieľajú rady o varení, športe, technike alebo zdraví. Súhlasne prikyvujú, občas pomôžu, občas sa pýtajú. Až v momente krízy, volieb alebo spoločenského napätia začnú opatrne podsúvať cieľový naratív. Vplyv v tejto fáze pôsobí omnoho silnejšie, pretože neprichádza od cudzieho účtu, ale od „človeka“, ktorého už poznáš.
Tento mechanizmus dáva nový význam starej a kedysi vysmievanej teórii mŕtveho internetu. Tá tvrdila, že väčšina obsahu na webe už nevzniká medzi ľuďmi, ale medzi algoritmami. Dlhé roky pôsobila ako konšpirácia. Dnes získala vedecký rámec. Ak AI roje prevládnu, reálni ľudia sa z diskusií postupne stiahnu. Nie preto, že by prehrali argumenty, ale preto, že ich unaví neustály konflikt so zdanlivo nekonečným zástupom inteligentných oponentov. Internet sa v takom prípade zmení na ozvenovú komoru, kde si stroje navzájom potvrdzujú názory, ktoré im niekto zadal.
Neprehliadni
Zásadný útok smeruje na psychológiu. Nie na fakty, ale na pocit spolupatričnosti. Aj keď máš v ruke dáta a argumenty, 500 rozdielnych reakcií od zdanlivo živých ľudí vyvolá pocit izolácie. Mozog vníma nesúhlas s davom ako sociálne riziko. A práve tu sa ukazuje slabina obrany, ktorú vedci navrhujú. Sledovanie štatisticky nepravdepodobnej koordinácie funguje technicky, no bežný používateľ ju nevidí. Ty nevidíš vzorce. Ty vidíš stovky nahnevaných alebo súhlasiacich komentárov.
Meeyoung Cha z Max Planck Institute for Security and Privacy pripomenula, že podobný efekt pozorovali už počas pandémie.
„Počas COVID-19 sme videli, ako sa dezinformácie šírili cez hranice rovnako rýchlo ako samotný vírus. AI roje schopné vyrábať syntetický konsenzus by túto hrozbu posunuli na ešte nebezpečnejšiu úroveň,“ hovorí Cha.
Situácia sa rýchlo zhoršuje
Situácia sa v roku 2026 ešte viac skomplikovala. AI roje sa už neobmedzujú len na text. Kombinujú sa s generovaným zvukom a videom. V uzavretých skupinách sa tak nešíria len komentáre, ale aj krátke hlasové správy či videá, ktoré pôsobia ako autentické svedectvá. Tento krok posúva syntetický konsenzus na úroveň, kde je udržanie kritického odstupu extrémne náročné.
Vedci preto navrhli zmenu prístupu. Namiesto moderovania jednotlivých príspevkov odporučili sledovať koordinované správanie ako celok, testovať platformy pomocou simulácií a vytvoriť distribuované observatórium vplyvu umelej inteligencie. Dôležitú rolu by zohralo aj obmedzenie monetizácie neautentickej angažovanosti.
„Ak sa zameriame len na obsah, budeme vždy o krok pozadu. Musíme sledovať vzorce koordinácie,“ uzatvára štúdia.
AI roje dnes ešte úplne neovládli verejnú diskusiu. Technológia však už existuje a funguje. Otázkou zostáva, či sa systémy ochrany prispôsobia skôr, než sa ilúzia spoločného názoru stane novým štandardom online priestoru.
