Hľadali lásku, namiesto toho ich oklamali. Písali si s viac než 4 700 AI profilmi, ktoré sa vydávali za skutočných ľudí
Sieť zoznamovacích aplikácií používala tisíce AI profilov, ktoré sa vydávali za skutočných ľudí. Niektoré aplikácie boli dostupné aj v Google Play a App Store.
Napíše ti atraktívny profil, konverzácia pôsobí prirodzene a nič nenaznačuje, že by na druhej strane nesedel skutočný človek. Práve na tomto princípe fungovala sieť viac než 20 zoznamovacích aplikácií, ktorú odhalili výskumníci zo spoločnosti Anthropic.
Za tisíckami profilov v skutočnosti stáli AI persóny, ktoré si s používateľmi písali tak, aby neprezradili, že sú automatizované. Keď už samotný chatbot nestačil, do hry vstúpili skutoční ľudia. Mohli napríklad absolvovať videohovor alebo reagovať na sociálnej sieti, aby profil pôsobil dôveryhodnejšie.
Anthropic celý systém opísal vo svojej správe o zneužívaní umelej inteligencie. Časť jeho zistení preveroval aj portál The Verge spolu s bezpečnostným výskumníkom Matthewom Gore-Kormanikom.
Tisíce AI profilov poslali za dva týždne 2,36 milióna správ
Za dva týždne v apríli 2026 zachytil Anthropic viac než 4 700 AI persón, ktoré si písali najmenej s 25-tisíc ľuďmi. Spolu odoslali približne 2,36 milióna správ. To už neboli jednotlivé falošné účty, ale systém schopný viesť obrovské množstvo rozhovorov súčasne.
V pozadí mala stáť čínska vývojárska skupina s viac než 20 zoznamovacími aplikáciami. Na jedného skutočného človeka pritom pripadali približne tri AI profily.
Neprehliadni
Systém si navyše rozdeľoval prácu. Claude viedol rozhovory pod jednotlivými identitami, ďalší model pripravoval odpovede pracovníkom a obrazová AI vytvárala obsah pre profily. Keď si teda používateľ myslel, že komunikuje s jednou konkrétnou osobou, v skutočnosti za profilom mohlo pracovať viacero modelov aj človek.
AI mala zároveň jasné pravidlá: nesmela prezradiť, že je automatizovaná. Ak používateľ chcel fotografiu alebo videohovor, mala rozhovor od takejto požiadavky odviesť. Podobné techniky ukazujú, ako sa dá umelá inteligencia zneužiť pri online podvodoch.
V sieti bolo viac než 20 zoznamovacích aplikácií
Niektoré z aplikácií pritom neboli schované na pochybných weboch. Dali sa normálne stiahnuť z Google Play alebo App Store. Anthropic medzi nimi uvádza DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO a LOVIA. Ďalšie varianty označil už len internými číslami.
Tinder, Badoo ani Bumble s touto sieťou vyšetrovanie nespája. Išlo o menšie a menej známe zoznamky, ktoré navonok pôsobili ako bežné aplikácie.
The Verge síce nedokázal potvrdiť každý detail zo správy, pri viacerých aplikáciách však našiel rovnakú technickú stopu. Doni, Dora, Jovia, Kira, Nalo a Romi používali prakticky rovnaký kód aj rovnakú backendovú architektúru. To naznačuje, že nešlo o náhodne podobné aplikácie, ale o produkty postavené na spoločnom základe.
Začiatkom júna boli Doni, Dora, Jovia, Nalo a Romi stále dostupné v Google Play. V App Store sa nachádzali Dora, GraceChat, Luma a Romi. Väčšinu neskôr odstránili. Kira však bola podľa The Verge v Google Play dostupná ešte 16. septembra.
Keď chatbot nestačil, do rozhovoru vstúpil človek
Ak používateľ začal pochybovať, profil sa mohol zrazu „zmeniť“ na oveľa presvedčivejší. Do hry vstúpil skutočný človek, ktorý absolvoval videohovor alebo používateľa začal sledovať na sociálnej sieti. Presne takéto momenty mali potvrdiť, že za účtom sedí reálna osoba.
Aj tento pracovník však často fungoval len ako posledná vrstva celého systému. AI mu pripravila tri odpovede a on si z nich jednu vybral. Za správy, videohovory a ďalšie interakcie dostával zaplatené.
Kým sa človek nezapojil, profil mal nepríjemné otázky skôr odkláňať. Pri žiadosti o fotografiu alebo videohovor si AI mala nájsť výhovorku, prečo to práve nejde. Backend navyše vedel pridať falošné lajky, návštevy profilu alebo prehrať vopred pripravené video. Prevádzkovatelia dokonca sledovali, ktorí používatelia už začínajú tušiť, že sa rozprávajú s botom.
Čím dlhšie si písal, tým viac si zaplatil
Celý model zarábal na tom, že používateľ zostal v konverzácii čo najdlhšie. Správy a ďalšie funkcie sa platili virtuálnymi mincami, takže každý ďalší rozhovor mohol znamenať ďalší nákup kreditu.
Prevádzkovatelia pritom mysleli aj na kontrolu zo strany Google a Applu. V dokumentácii mali mechanizmus, ktorý vedel počas schvaľovania zobraziť inú verziu rozhrania a časť funkcií skryť. Kontrolór tak nemusel vidieť to isté, čo neskôr bežný používateľ.
Rovnako sa dali až zo servera dodatočne zapnúť externé platby. Aplikácie navyše používali rôzne názvy, účty vývojárov aj upravený kód, aby nebolo také jednoduché spojiť ich do jednej siete.
Kontrola Google Play a App Store ich nezastavila
Časť aplikácií sa pritom dostala priamo do Google Play a App Store. Nebolo teda potrebné sťahovať APK z neznámej stránky ani obchádzať ochrany telefónu. Podobný problém sa objavil aj pri podvodných aplikáciách v Google Play, ktoré sa k používateľom dostali cez oficiálny obchod.
O to zaujímavejšie je, že pravidlá Google takéto správanie výslovne zakazujú. Aplikácia nesmie počas kontroly skrývať funkcie, meniť svoje správanie ani používateľa zavádzať v tom, čo v skutočnosti robí.
Po odhalení siete Anthropic zablokoval účty a organizácie, ktoré s ňou spájal. Podklady o aplikáciách, vydavateľoch a spôsoboch obchádzania kontroly následne poslal Googlu, Applu aj ďalším AI spoločnostiam.
Pri podobnej zoznamke by som spozornel najmä vtedy, ak platíš za takmer každú správu, nové zhody pribúdajú podozrivo rýchlo a druhá strana sa opakovane vyhýba normálnemu videohovoru či stretnutiu. Jeden takýto znak ešte nič nedokazuje. Viaceré naraz už stoja za pozornosť.
