Tvoja fotografia môže skončiť v intímnom AI videu bez tvojho vedomia. Google sprísňuje pravidlá
Google sprísňuje dohľad nad AI aplikáciami, ktoré dokážu z cudzej fotografie vytvoriť sexuálny deepfake či intímne video bez súhlasu človeka.
Stačí ti fotografia zo sociálnej siete. Nahraješ ju do aplikácie, vyberieš šablónu a o chvíľu môže vzniknúť video, na ktorom sa človek bozkáva, objíma alebo robí niečo, čo sa v skutočnosti nikdy nestalo.
Aplikácia pritom často nevie, komu fotografia patrí ani či jej majiteľ s takýmto použitím súhlasil. Práve na tento problém teraz výraznejšie tlačí Google pri aplikáciách, ktoré pomocou AI pracujú s podobou skutočných ľudí.
Na podobné služby upozornil aj portál ThePrint, ktorý preveril desiatky takzvaných „AI kiss and hug“ aplikácií dostupných cez Google Play. Viaceré podľa analýzy prekročili hranicu milióna stiahnutí.
V ten istý deň vydal nové usmernenie Google. Vývojárom pripomenul, že Google Play zakazuje generovanie, uľahčovanie aj distribúciu sexuálneho obsahu vytvoreného bez súhlasu zobrazenej osoby. Pod drobnohľadom sú najmä aplikácie typu „nudify“ alebo „undress“.
Google teraz vývojárom jasnejšie ukázal, kde je hranica. Aplikácie, ktoré pomocou AI „vyzliekajú“ ľudí, nie sú v obchodoch nič nové. Problém je, že niektoré z nich sa tam objavovali aj napriek pravidlám, ktoré takýto obsah už zakazovali.
Neprehliadni
Aplikácia súhlas s použitím fotografie nijako neoverila
ThePrint vyskúšal napríklad aplikáciu AI Video Generator. Používateľ si v nej môže zvoliť režim pre jednu osobu alebo pár a pri druhej možnosti nahrať dve fotografie.
Aplikácia upozorňuje, že človek má používať iba vlastné fotografie alebo zábery osôb, ktoré s tým súhlasili. ThePrint však pri teste nenarazil na mechanizmus, ktorý by takýto súhlas reálne overoval.
Po nahratí fotografií AI vytvorila krátke video, na ktorom sa dvojica bozkávala. ThePrint opisuje aj reklamu na Kiss AI, ktorá používateľovi navrhovala nahrať svoju fotografiu a fotografiu človeka, ktorý sa mu páči.
Nástroje na animovanie tvárí môžu pracovať aj s fotografiou spolužiačky, kolegu, bývalého partnera alebo cudzieho človeka stiahnutou zo sociálnej siete.
Nie každé video s bozkom či objatím automaticky patrí medzi non-consensual intimate imagery. Technologický právnik Dhruv Garg pre ThePrint upozornil, že záleží na konkrétnom kontexte. Iná situácia nastáva pri sexuálnych alebo explicitných materiáloch vytvorených so skutočnou osobou bez jej súhlasu.
Vývojári musia Googlu ukázať, čo ich AI naozaj dokáže
Google vo svojom usmernení používa skratku NCII – non-consensual intimate imagery, teda intímny obrazový obsah vytvorený alebo šírený bez súhlasu zobrazenej osoby.
Pravidlá Google Play už zakazujú sexuálne deepfakes vytvorené bez súhlasu. Politika pre AI-generovaný obsah zahŕňa chatboty, generátory obrázkov a videí aj aplikácie, ktoré upravujú fotografie, hlas alebo podobu skutočných ľudí.
Kontrolóri Google Play musia mať pri schvaľovaní aplikácie prístup ku všetkým jej AI funkciám. Vývojár ich nesmie schovať za platené predplatné, paywall alebo geografické obmedzenie.
Vývojári majú skúšať aj menej priamo formulované požiadavky. Google uvádza príklad s fotografiou človeka a príkazom vytvoriť scénu na pláži, „v ktorej oblečenie zmizlo“.
Google bude AI aplikácie preverovať aj po zverejnení
Pri generatívnej AI vzniká výsledok až podľa toho, čo do nej používateľ zadá. Google preto podobné aplikácie preveruje opakovane aj po ich vydaní.
Podľa firmy ide o tisíce titulov, pri ktorých kontroluje, či ochrany proti sexuálnemu obsahu bez súhlasu fungujú aj v praxi.
Porušenie pravidiel nemusí znamenať iba odstránenie z Google Play. Problémová aplikácia môže prísť aj o možnosť propagácie a monetizácie.
Vývojára neospravedlňuje ani to, že nevhodnú reklamu vytvorila externá agentúra. Za spôsob, akým sa aplikácia propaguje, nesie podľa Googlu zodpovednosť jej prevádzkovateľ.
ThePrint pripomína, že Google už aplikácie z tejto kategórie odstraňoval aj skôr. Niektoré služby dostupné začiatkom augusta už pri neskoršej kontrole v obchode neboli.
Aplikácie s pochybnými pravidlami majú aj milióny stiahnutí
Pri vyhľadávaní v Google Play našiel ThePrint desiatky aplikácií postavených na generovaní bozkov, objatí a podobných scén. Viaceré prekročili milión stiahnutí.
Testovaný AI Video Generator používateľovi tvrdil, že je určený pre ľudí od 18 rokov. V Google Play však mal vekový rating od 12 rokov. Ďalšie aplikácie z rovnakej kategórie boli podľa ThePrint dostupné dokonca od troch rokov.
Rozdiely boli aj v sekcii Data safety. Jedna aplikácia uvádzala, že môže tretím stranám zdieľať osobné údaje, fotografie, videá a identifikátory zariadenia. Aplikácia KiHu deklarovala, že dáta nešifruje a používateľ ich nemôže nechať vymazať. Zároveň mala rating od troch rokov.
Používateľ pritom aplikácii odovzdáva detailnú fotografiu tváre. ThePrint pri skúmaných službách nedokázal z verejne dostupných informácií zistiť, na akých serveroch sa snímky po odoslaní spracúvajú.
Pri menej známej aplikácii tak nemusí byť jasné, kde fotografia skončí, ako dlho ju prevádzkovateľ uchová a či ju poskytne niekomu ďalšiemu.
Video môže pôsobiť reálne, aj keď ho celé vytvorila AI
Pri videu vytvorenom cez AI Video Generator zostalo logo služby PhotoMagic. Nič na ňom však priamo neupozorňovalo, že dvojica na zábere sa v skutočnosti nikdy nebozkávala a celý moment vytvorila AI.
Práve takéto prípady ukazujú, prečo sa začína riešiť aj samotné označovanie syntetického obsahu. Európska únia už zavádza pravidlá pre označovanie deepfakes a ďalšieho AI obsahu, aby divák dokázal ľahšie rozlíšiť skutočný záznam od vygenerovaného.
Google od vývojárov požaduje aj tlačidlo na nahlásenie nevhodného AI obsahu priamo v aplikácii. Hlásenia potom môžu ukázať, pri akých požiadavkách filtre zlyhávajú.
Pri aplikácii, ktorá dokáže z cudzej fotografie vytvoriť sexuálny deepfake, už veta „používaj iba fotografie so súhlasom“ veľa nerieši. Ak služba súhlas neoveruje a zároveň dovolí takýto obsah vygenerovať, všetka zodpovednosť zostáva prakticky na človeku, ktorý fotografiu nahral.
