Aj obyčajné recenzie v e-shopoch sú v AI dobe veľký problém: Môžeme im ešte stále dôverovať?
Výskumníci pracujú na AI nástroji, ktorý dokáže spoľahlivejšie odhaliť aj realistické falošné recenzie. Zameriava sa pritom na jazyk, kontext, náladu a ďalšie detaily, ktoré človek môže prehliadnuť.
Nakupovanie cez internet sa pre väčšinu ľudí stalo úplnou samozrejmosťou. Skúsenosti nás ale naučili, že skôr než vložíš produkt do košíka, pravdepodobne skontroluješ hodnotenia ostatných zákazníkov. Práve recenzie často ukážu, či skutočný produkt sedí s obrázkami, či sú správne popísané veľkosti alebo aká je kvalita materiálu a teda ti povedia, či sa produkt oplatí kúpiť, alebo je lepšie siahnuť po inej možnosti. Problém však spočíva v tom, že v dnešnej dobe umelej inteligencie nemusí byť každé hodnotenie písané skutočným zákazníkom, varujú výskumníci z University of East London.
Falošné recenzie zaplavili internet už pred rokmi, no nástup umelej inteligencie situáciu ešte viac skomplikoval. Moderné AI nástroje totiž dokážu vytvoriť presvedčivé hodnotenia za niekoľko sekúnd. Takéto texty často vyzerajú prirodzene, neobsahujú gramatické chyby a bežný človek ich len veľmi ťažko odlíši od skutočných skúseností.
Výskumníci sa preto rozhodli vytvoriť systém, ktorý by dokázal podvodné recenzie odhaliť oveľa spoľahlivejšie než doterajšie riešenia. Výsledky ich výskumu naznačujú, že nový prístup môže výrazne pomôcť internetovým obchodom aj samotným zákazníkom.
AI už nehľadá iba podozrivé slová
Doterajšie systémy sa pri odhaľovaní falošných recenzií vo veľkej miere spoliehali na jednoduché pravidlá. Hľadali napríklad opakujúce sa výrazy, podozrivé formulácie alebo neobvyklé slovné spojenia. Ako zákazník si to mohol vidieť napríklad tak, že všetky recenzie s najvyšším hodnotením mali najviac pár viet, nehovorili nič špecifické, len sucho chválili, zatiaľ čo skutočné recenzie mali oveľa nižšie hodnotenie, boli rozpísané detailnejšie a celkovo pôsobili viac organickejšie.
Takýto prístup však dnes prestáva stačiť. Umelá inteligencia totiž dokáže vytvoriť text, ktorý pôsobí prirodzene a vyhne sa typickým znakom podvodu. Navyše jej nerobí problém sa aj rozpísať a pochváliť konkrétne aspekty produktu. Vedci preto zvolili úplne inú stratégiu.
Neprehliadni
Ich nový model nehodnotí iba samotný text. Skúma aj správanie autora recenzie a porovnáva viacero faktorov naraz. Sleduje napríklad, či emocionálny tón hodnotenia zodpovedá počtu pridelených hviezdičiek, akú dĺžku recenzia obsahuje alebo či sa v nej objavia ďalšie znaky typické pre podvodné príspevky.
Vďaka tomu získa oveľa širší obraz o tom, či recenzia vznikla na základe skutočnej skúsenosti alebo slúži iba na manipuláciu zákazníkov.
„Falošné recenzie sú čoraz prepracovanejšie a ich odhalenie je čoraz náročnejšie. Spojenie jazykovej analýzy umelej inteligencie s behaviorálnymi znakmi ponúka spoľahlivejší spôsob ich rozpoznania a môže posilniť dôveru v internetové obchody,“ vysvetlil spoluautor štúdie doktor Hisham AbouGrad.
Vedci svoj systém otestovali na recenziách z dvoch známych platforiem, Amazon a Yelp a výsledky dopadli veľmi sľubne. Na Amazone dosiahol nový model úspešnosť približne 93 %. Pri recenziách zo služby Yelp zaznamenal približne 91-percentnú presnosť. V oboch prípadoch prekonal viacero starších systémov, ktoré výskumníci porovnávali počas testovania.
Samozrejme, ani takáto úspešnosť neznamená, že systém odhalí úplne každý podvod. Napriek tomu ide o výrazný posun oproti doterajším riešeniam.
Systém sa pokúša hľadať aj súvislosti
Jednou z najväčších výhod nového modelu je schopnosť pochopiť význam textu. Ak napríklad recenzia obsahuje päť hviezdičiek, no samotný text pôsobí skôr negatívne alebo rozporuplne, systém takúto nezrovnalosť vyhodnotí ako podozrivú. Podobne si všíma aj ďalšie súvislosti, ktoré človek pri rýchlom čítaní ľahko prehliadne.
To predstavuje veľký rozdiel oproti starším algoritmom, ktoré sa zamerali najmä na jednotlivé slová bez hlbšieho pochopenia významu celej recenzie.
„Tento výskum ukázal, že systémy umelej inteligencie už nemusia hľadať iba podozrivé slová. Ak zohľadnia význam textu aj správanie autora, oveľa lepšie rozpoznajú vzorce typické pre klamlivé recenzie a zároveň zachovajú priestor pre skutočné hodnotenia zákazníkov,“ uviedla spoluautorka štúdie Fiza Riaz.
Autori výskumu upozorňujú, že problém sa netýka iba samotných kupujúcich. Podvodné recenzie dokážu poškodiť aj firmy, ktoré ponúkajú kvalitné výrobky. Ak konkurencia zaplatí stovky pozitívnych hodnotení alebo naopak zaplaví profil negatívnymi komentármi, zákazníci získajú skreslený obraz o kvalite produktu. Takéto praktiky narúšajú férovú hospodársku súťaž a znižujú dôveru v internetové obchody.
Ešte väčší problém vznikne v prípade výrobkov, ktoré môžu predstavovať zdravotné alebo bezpečnostné riziko. Ak ich falošné recenzie vykreslia ako spoľahlivé a kvalitné, zákazníci sa môžu rozhodnúť na základe nepravdivých informácií.
Výskumníci už teraz plánujú ďalšie vylepšenia. V ďalšej fáze chcú systém otestovať na ešte väčšom množstve recenzií z rôznych internetových obchodov. Zároveň chcú zapojiť modernejšie AI modely a overiť, či technológia zvládne kontrolu recenzií v reálnom čase.
Ak sa tento cieľ podarí splniť, internetové obchody by mohli podozrivé hodnotenia zachytiť ešte pred ich zverejnením. Takýto prístup by mohol znížiť množstvo podvodných recenzií, ktoré dnes ovplyvňujú rozhodovanie miliónov zákazníkov po celom svete.
Nový systém na odhaľovanie falošných recenzií by mohol pomôcť v prípade extrémov, teda hlavne ak recenzia dala buď jednu alebo päť hviezdičiek. V ostatných prípadoch sa môže ukázať komplikované hodnotiť súvis medzi tónom recenzie a počtom hviezdičiek. Bežný človek nie je prirodzený recenzent a kľudne sa môže stať, že produkt nadhodnotí, alebo naopak podhodnotí, no v samotnom texte jasne opíše plusy a mínusy.
Takáto recenzia môže byť pre kupujúceho prínos, no ak ju systém ohodnotí ako podvodnú, potom prichádza o cenné informácie. Rovnako netreba zabúdať, že dnes stále neexistuje spôsob, ako odhaliť AI písaný text. Nástroje na detekciu často odhaľujú AI vzorce napríklad aj v textoch, ktoré vznikli dekády pred tým, ako sa o umelej inteligencii vôbec uvažovalo.
