Myslíš si, že rozpoznáš falošný obrázok vytvorený umelou inteligenciou? Vedci majú pre teba nepríjemnú správu
Microsoft zisťoval, či sme schopní identifikovať deep fake videá, obrázky alebo máme problém rozlíšiť realitu. Výsledky prekvapia.
Máš problém rozlíšiť, ktoré obrázky vytvorila umelá inteligencia a ktoré vznikli vďaka ľudskej tvorbe? Nie si sám. Ako ukazuje nová štúdia od Microsoft AI for Good, ľudia sú v tomto ohľade pomerne neistí. Do výskumu sa zapojilo 12 500 účastníkov z rôznych krajín sveta. Spolu hodnotili 287 000 obrázkov, pričom ich úlohou bolo určiť, či ide o reálne fotografie alebo výstupy z umelej inteligencie. Na tému upozornil server neowin.net.
V rozpoznávaní obrázkov vytvorených umelou inteligenciou nie sme dobrí
Výsledky ukázali, že rozlíšiť tieto dve kategórie nie je vôbec jednoduché. Celková úspešnosť bola iba 62 percent, čo je len o niečo viac ako náhoda. Najľahšie sa účastníkom identifikovali falošné ľudské portréty. Pravdepodobne to súvisí s našou vrodenou schopnosťou rozpoznávať tváre a všímať si aj drobné nezrovnalosti. Omnoho horšie si však ľudia poradili s obrázkami prírody a mestských scenérií. V týchto prípadoch klesla úspešnosť na úroveň 59 až 61 percent.
Obrázky použité v experimente boli vyberané tak, aby čo najviac zodpovedali bežnému obsahu, s ktorým sa ľudia stretávajú na internete. Účastníci hrali hru s názvom „Real or Not Quiz“, kde si mali tipnúť, či sú obrázky skutočné alebo falošné. Štúdia zároveň upozorňuje, že umelá inteligencia sa neustále zlepšuje a nové generácie modelov dokážu produkovať čoraz realistickejšie výstupy.
Výskum vedie k jasnému záveru, ktorým je, že potrebujeme nástroje na zabezpečenie transparentnosti. Microsoft preto vyzýva na zavedenie technológií ako sú vodoznaky alebo pokročilé systémy na detekciu AI obsahu. Vodoznaky však majú svoje limity, keďže ich možno jednoducho orezať alebo prekryť. Práve preto sú potrebné aj sofistikovanejšie formy ochrany, ktoré pomôžu zabrániť šíreniu falošných obrázkov a dezinformácií.
Príkladom z nedávnej minulosti je prípad, keď bývalý americký prezident Donald Trump zdieľal falošné video s Barackom Obamom. To len potvrdzuje, aké riziko môže predstavovať zneužitie AI obsahu v politickom alebo spoločenskom kontexte.
Neprehliadni
Výskumníci zároveň testovali vlastný nástroj na detekciu AI obrázkov. Ten dosiahol úspešnosť viac ako 95 percent naprieč rôznymi kategóriami. Ukazuje sa, že automatizované systémy sú v tomto ohľade spoľahlivejšie ako ľudský úsudok, hoci ani tie nie sú úplne bezchybné.
Čo je ten Inpainting?
Osobitnú pozornosť si zaslúži technika s názvom inpainting. Ide o metódu, pri ktorej sa mení len malá časť skutočnej fotografie, napríklad výmena objektu či osoby, a nahrádza sa výstupom z AI. Takto upravený obrázok je takmer nemožné odhaliť bežným okom a predstavuje obzvlášť nebezpečný nástroj pre dezinformačné kampane.
Zaujímavé je, že staršie modely umelej inteligencie, napríklad generatívne kontradiktórne siete (GANs), často pôsobili dôveryhodnejšie než súčasné pokročilé systémy. Ich obrázky totiž pripomínali bežnú amatérsku fotografiu, zatiaľ čo moderné modely ako Midjourney či DALL·E 3 majú tendenciu produkovať až príliš uhladené, esteticky dokonalé vizuály, ktoré môžu pôsobiť podozrivo.
Výsledky štúdie ukazujú, že rozlišovanie medzi realitou a fikciou sa stáva čoraz náročnejším. Vzniká preto jasná potreba, aby technologické firmy vyvíjali riešenia, ktoré zabránia zneužívaniu umelej inteligencie pri šírení manipulácií a falošných informácií.
