Kto je Elias Thorne? AI chatboty generujú miliónom ľudí rovnakú postavu so znepokojivo podobnými príbehmi
AI vraj dokáže vymyslieť takmer čokoľvek. Lenže keď ju požiadaš o jednoduchý príbeh, často sa vracia k rovnakým menám, postavám a motívom. Elias Thorne je najlepší dôkaz, že kreativita chatbotov má zvláštne limity.
Umelá inteligencia sa tvári ako nekonečne kreatívny nástroj, ale pri detailnejšom pohľade sa začína ukazovať zvláštny vzorec. Veľké jazykové modely ako ChatGPT, Gemini alebo Claude často opakujú tie isté mená, motívy a profesie, hlavne v prípadoch, kedy dostanú úplne jednoduchý pokyn „napíš príbeh“. Jedno meno sa pritom objavuje až podozrivo často, Elias Thorne.
Elias Thorne môže byť podľa chatbota strážca majáka, inokedy hodinár alebo knihovník. Kontext sa mení, ale meno ostáva. A práve toto meno sa začalo šíriť mimo samotných chatbotov, informujú experti z 404 Media. Meno sa už objavilo aj vAI knihách na Amazone, na YouTube aj na rôznych generovaných „spravodajských“ weboch.
Súčasne sa začali objavovať aj ďalšie opakujúce sa motívy, staré mestá, osamelí majitelia majákov a remeselníci, ktorí žijú mimo civilizácie. Výskumník Daniel May si tento vzorec všimol už skôr. Pri testovaní rôznych modelov zistil, že keď zadáš jednoduchú výzvu „napíš príbeh“, veľmi často dostaneme príbeh práve o správcovi majáku, hodinárovi alebo podobnej kombinácii postáv. Rovnako je veľmi pravdepodobné, že jedna z postáv bude práve záhadný Elias Thorne.
Kto je Elias Thorne a prečo sa objavuje tak často?
Problém začal skúmať tím vedcov z Cornell University. V štúdii s názvom „Elias v majáku, opäť?“ analyzovali 20 000 AI generovaných príbehov z viacerých modelov. Výsledok bol prekvapivo konzistentný. Malá skupina slov a mien sa opakovala v obrovskej väčšine textov, viac než 88 % príbehov obsahovalo rovnaké vzory mien a povolaní. Medzi najčastejšie patrili mená ako Elias, Mara alebo Elara a povolania ako strážca majáka, hodinár či knihovník.
„Vývoj modelov dnes pripomína rodokmeň. Väčšina modelov je navzájom prepojená, pretože trénovacie dáta často vznikli pomocou iných modelov,“ uviedol výskumník Sil Hamilton.
Hamilton dodáva, že AI sa učí z dát, ktoré často obsahujú už iné AI výstupy. A tie sa potom znovu recyklujú. Časť problému, podľa výskumníkov, môže súvisieť aj s takzvaným „zúžením štýlu“ pri ladení bezpečnosti modelov. Modely sa po tréningu upravujú tak, aby sa vyhli problémovým alebo citlivým témam. Hlavne pri viacerých úpravách a kontrolách model prestane byť úplne náhodný a začne uprednostňovať bezpečné, overené a „neutrálné“ vzory príbehov.
Neprehliadni
„Zistili sme, že mnoho konverzácií v databáze WildChat bolo nevhodných či toxických. Keď sa modely ladili na bezpečnosť, prešli bottleneckom a začali uprednostňovať len malý, sterilný výsek príbehov, ktoré boli stopercentne nezávadné, a práve tie o Eliasovi filter vyhodnotil ako najbezpečnejšie,“ vysvetlil Hamilton.
Elias už dnes existuje aj mimo chatbotov
Ešte zaujímavejšie je, že Elias Thorne sa nezastavil len v chatovacích oknách. Na Amazone sa objavili knihy, kde vystupuje ako autor alternatívnej medicíny, ako tvorca návodov na úspech alebo ako hrdina fantasy príbehov. Inde sa z neho stal hudobník alebo tajomný archeológ.
Na YouTube sa zas objavili AI generované videá, kde Elias vystupuje ako starý vojak alebo tragická postava s ťažkým osudom. Na rôznych weboch sa jeho meno používa v clickbait príbehoch, ktoré pôsobia ako novinové články, ale vznikli automaticky.
Odborníci poukazujú na vznik akéhosi zvláštneho ekosystému, kde sa jedna fiktívna postava začala šíriť cez rôzne platformy, aj keď ju nikto vedome nevytvoril. Vedci zatiaľ nemajú jednoznačnú odpoveď, prečo sa v generovaných príbehoch tak spoľahlivo často objavujú majáky alebo hodinári. Jedna z hypotéz hovorí, že tieto motívy sa objavujú preto, že práve tieto miesta alebo povolania sa len mimoriadne zriedkavo objavujú v nevhodných príbehoch, ktoré AI chatbot kvôli bezpečnému obsahu filtroval.
Maják, osamelý remeselník alebo tichý knihovník sú témy, ktoré sa spájajú spravidla s existenciálnymi, alebo inými podobnými témami. Ak by sme mali napísať príbeh o osamelom strážcovi majáka, pravdepodobne by sme sa točili okolo tém samoty, introspekcie, povinnosti, možno stratenej lásky, rodiny alebo izolácie. Málokedy človeka napadne vytvoriť explicitný, alebo vyslovene sexuálny obsah, ktorý by bol vystavaný na postavách knihovníka alebo hodinára.
Rovnako aj realistickejšie príbehy zo života vedia mať v sebe pasáže, ktoré by v nesprávnom kontexte mohli pôsobiť nevhodne. Napríklad ak sledujeme rodinnú drámu, vieme prirodzene vyvodiť, že ak ublížený partner používa tie najhoršie nadávky v slovníku, že tie slová v skutočnosti nemyslí doslovne, no hovoria zaňho emócie. Umelá inteligencia však tento kontext zatiaľ rozlúštiť nevie, preto tieto príbehy filtruje buď úplne, alebo vystrihne len tie pasáže, kde sa nadáva alebo zobrazuje nevhodný obsah.
Odkiaľ sa Elias vlastne vzal?
Zaujímavosťou je, že meno Elias Thorne sa úplne neobjavilo z ničoho. Vedci našli jeho stopu v starších zdrojoch. Objavil sa ako fiktívna postava v 80. rokoch v kartovej hre Dinosaurs Attack! a existuje aj historická postava Elias Allen, londýnsky hodinár zo 16. storočia.
To znamená, že modely mohli spojiť reálne historické meno, literárne motívy a moderné tréningové dáta do jedného opakujúceho sa archetypu.
Celý jav zatiaľ nemá podľa vedcov jedno jednoduché vysvetlenie. Výskumníci pracujú s viacerými možnosťami, od štruktúry tréningových dát až po spôsob, akým sa modely „učia bezpečnosti“. Už teraz sú ale presvedčení, že AI nezačína tvoriť úplne originálne svety z ničoho. Často recykluje a mieša existujúce vzory, ktoré sa potom začnú objavovať na miestach, kde by si ich nečakal. Elias Thorne je v tomto prípade len najviditeľnejší príklad toho, ako sa jeden opakujúci sa literárny tieň môže rozšíriť naprieč internetom bez toho, aby ho niekto plánoval.
