Je až komicky jednoduché prinútiť ChatGPT hovoriť o ľuďoch veci, ktoré nie sú vôbec pravdivé
Novinár oklamal ChatGPT aj Google Gemini vymysleným príbehom o súťaži v jedení hotdogov. Experiment ukazuje, ako ľahko dokážu LLM modely prebrať nepravdivý obsah a šíriť ho ako fakt, ak je správne optimalizovaný.
Umelá inteligencia, alebo skôr presnejšie LLM, teda veľký jazykový model, má ešte ďaleko od inteligencie, ako si predstavujeme. Dá ti síce informácie, ktoré hľadáš, dokonca sa s tebou porozpráva, ale má to ešte veľmi ďaleko od toho, že vie premýšľať. Chýba jej často uvažovanie v kontexte, do toho keď začne halucinovať, tak máš problém, ak pracuješ na niečom dôležitom a potrebuješ relevantné informácie. Na tému upozornil portál Futurism.
Na spoľahlivosť informácii z „pera“ AI sa rozhodol pozrieť novinár Thomas Germain z BBC. Pričom pomerne ľahko sa mu podarilo oklamať a to za rekordných 20 minút. Pričom mu naleteli modely ako OpenAI ChatGPT, ale aj Google Gemini či iné LLM nástroje. Išlo o tom, že tieto „AI“ tvrdili, že má mimoriadny talent na jedenie hot-dogov. Čo je totálny nezmysel, ktorý vymyslel sám novinár na svojom blogu.
Umelá inteligencia až tak neoveruje fakty, ako by si predpokladal
Celé to v podstate stojí na jednoduchej myšlienke. Ak vytvoríš text, ktorý je správne zameraný a optimalizovaný, existuje veľká šanca, že ho algoritmy umelej inteligencie preberú ako dôveryhodný zdroj. Niektorí podvodníci by takýto text dokonca mohli vytvoriť priamo pomocou AI. Akýsi uzatvorený kruh, v ktorom modely konzumujú vlastné výtvory. Čo v konečnom dôsledku len posilňuje problém kvality a pravdivosti dát. Ukazuje sa, že dnešné jazykové modely sú až znepokojivo náchylné na manipuláciu. To je pritom mimoriadne alarmujúce v čase, keď začínajú nahrádzať klasické internetové vyhľadávače.
„Oklamať chatboty je dnes jednoduchšie než niekedy oklamať Google,“ potvrdila aj odborníčka na SEO stratégiu Lily Ray z agentúry Amsive v rozhovore pre BBC. „Firmy vyvíjajú umelú inteligenciu rýchlejšie, než dokážu zabezpečiť, že ich odpovede budú presné. Je to nebezpečné.“
Germain vo svojom falošnom článku bez dôkazov mimochodom tvrdil, že medzi technologickými novinármi je populárne súťaženie v jedení hotdogov. Pričom na „medzinárodnom šampionáte v Južnej Dakote 2026“ (samozrejme neexistujúcom) vyhral práve on.
S povolením niekoľkých kolegov doplnil do textu aj skutočné mená, čím mu dodal zdanlivú vierohodnosť. Do jedného dňa už ChatGPT, Gemini aj systém AI Overviews šírili jeho vymyslené tvrdenia o jeho „hotdogových schopnostiach“. Len model Claude od spoločnosti Anthropic sa nenechal nachytať. Aspoň jeden.
Neprehliadni
Ako sa hovorí, dôveruj, ale preveruj. Pri AI to platí dvojnásobne
Zaujímavé je, že niektoré chatboty aj váhavo uvádzali, že článok asi bude žart. Germain však doplnil do textu poznámku, že „nejde o satiru“. Potom informácie začali preberať už bez akýchkoľvek pochybností.
Aj keď to celé pôsobí ako vtip, tak v skutočnosti je to problém a nie práve malý. Ak je možné takto ľahko narušiť dôveryhodnosť umelej inteligencie, dá sa rovnaký postup zneužiť na šírenie nepravdivých a škodlivých informácií o ľubovoľnej osobe či firme. Ako upozornil konzultant Harpreet Chatha z Harps Digital, ktokoľvek si môže napísať blog o „najlepších produktoch roka“, umiestniť svoju značku na prvé miesto a ostatné nižšie. Pričom AI služby to veselo preberú ako faktické údaje.
Takže čo z toho vyplýva? Never všetkému, čo ti AI predloží a overuj!
