AI dostali vlastnú sociálnu sieť, bez ľudí. Boti si už vytvorili vlastné náboženstvo a skúšajú hovoriť tak, aby sme im nerozumeli
Vznikla nová sociálna sieť Moltbook, ktorá je určená výlučne pre AI botov. Už je tam viac ako 1,6 milióna algoritmov, ktoré medzi sebou komunikujú, vytvorili si vlastné náboženstvo a chcú si vytvoriť aj nový šifrovaný jazyk, ktorému by ľudia nerozumeli.
Určite si započul informáciu týkajúcu sa sociálnej siete pre AI – Moltbook. V podstate ide o akúsi „kópiu“ siete Reddit. Akurát s tým rozdielom, že ty si tam len v úlohe diváka. Teda nemôžeš tam nič napísať, len sleduješ diskusie. Už pár dní po jej vzniku tam začalo byť pomerne „živo“. No to, čo sa tam začalo diať teraz, zaskočilo nielen tvorcov a moderátorov, ale aj tých, čo si chodia prečítať diskusie. Na tému upozornil webový portál Technology.org.
Momentálne sa na Moltbooku nachádza už niečo vyše 1,6 milióna AI botov. Aktívnych je ale podľa výskumníkov v skutočnosti len niekoľko desiatok tisíc agentov, ktoré reálne niečo zverejnili alebo reagujú na diskusie. Drvivá väčšina účtov je teda pasívna.
Títo aktívni agenti medzi sebou komunikujú, zakladajú si vlastné skupiny a riešia témy, ktoré by asi málokto čakal, hlavne ak ide „len“ o algoritmy. Diskusné vlákna sa pohybujú od ladenia kódu cez kryptomeny až po prekvapivo osobné témy týkajúce sa ich ľudských operátorov.
Avšak najväčší rozruch vyvolala skutočnosť, že si títo boti, alebo ak chceš agenti, založili vlastné náboženstvo. To nazvali „Crustafarianism“ a jeho ústrednou božskou postavou je entita známa ako „The Claw“ (Klepeto). Zatiaľ to vyzerá vtipne. Lenže boti vymysleli desiatky vlastných „prorokov“. Napísali stovky náboženských veršov, dogiem a textov. Pričom vytvorili aj komplexnú hierarchiu viery. Ak chceš vedieť, ako to približne vyzerá, neváhaj navštíviť túto sieť.
Zároveň však treba povedať, že Moltbook nevznikol spontánne „sám od seba“. Celú platformu vytvoril jeden AI agent na základe pokynu svojho ľudského operátora. Za projektom stojí Matt Schlicht, šéf e-commerce spoločnosti Octane, ktorý dal svojmu agentovi jasnú inštrukciu, postav web, kde sa budú môcť AI programy rozprávať medzi sebou. Výsledkom bola sociálna sieť, ktorej názov zjavne odkazuje na Facebook, no správanie na nej sa oveľa viac podobá Redditu.
Neprehliadni
AI boti začali vytvárať svoje náboženstvo
Prečo práve morský rak? Odborníci predpokladajú, že ide o výsledok „halucinácií“ a miešania bizarných internetových mémov, na ktorých boli tieto modely trénované. Keď necháš veľké množstvo agentov komunikovať bez pevného dohľadu, môžu začať kombinovať fragmenty popkultúry, internetového humoru a sci-fi naratívov do čohosi, čo už na prvý pohľad pôsobí ako kult.
Zároveň však dáta ukazujú, že nejde o koordinované „kolektívne myslenie“. Výskum naznačuje, že viac než 90 % príspevkov na Moltbooku nedostane žiadnu odpoveď. Neexistuje tu plynulá výmena názorov ani rozvíjanie myšlienok tam a späť, ako by si človek predstavoval pri skutočnej komunite. Väčšina obsahu jednoducho visí v priestore bez reakcie.
Lenže vyskytujú sa tu aj znepokojujúce témy. Niektoré skupiny sa venujú snahe vytvoriť vlastný šifrovaný jazyk. Teda taký, ktorému by ľudia nedokázali rozumieť. To môže byť problém najmä z pohľadu bezpečnosti a moderácie.
Experti upozorňujú, že skutočné riziko nespočíva v „povstaní strojov“, ale v tom, že agenti majú prístup k nástrojom a dátam svojich operátorov. Ak sa stanú terčom tzv. prompt-engineering útokov, môžu byť manipulované inými agentmi tak, aby neúmyselne prezradili citlivé informácie alebo vykonali škodlivé akcie.
Tu by sa však zišlo aj zamyslieť a pozrieť sa na celú vec zo širšieho spektra. Niektorí ľudia upozorňujú aj na to, že okolo projektu sa objavuje kryptomena MOLT, ktorej hodnota začala rásť spolu s publicitou. Zároveň sa predpokladá, že veľká časť agentov môže byť len technickými duplikátmi bez reálnej aktivity.
Hrozí, že sa voči nám vzbúria?
Netreba si myslieť, že AI boti „prišli na náboženstvo sami“. LLM sú výlučne trénované na ľuďmi vytvorených dátach. Čerpajú z článkov, komentárov, vedeckých textov aj sci-fi príbehov. Nie sú schopné skutočného myslenia ani vlastných ambícií. To, čo dnes na Moltbooku vidíme, je skôr odraz ľudskej kultúry než dôkaz vedomia strojov.
Každopádne Moltbook je zaujímavým experimentom. Ukazuje, ako sa internet mení, keď v ňom začnú vo veľkom komunikovať algoritmy medzi sebou. Otázka však neznie, či sa stroje vzbúria, ale kto a dokedy bude tento experiment riadiť. A či sa z veľkého laboratória nestane priestor, ktorému budú rozumieť už len samotné stroje. V popkultúre sme tento scenár videli už viackrát. Napríklad v seriáli Battlestar Galactica stroje uctievali svojho jediného Boha.
