Meta čelí odpornému škandálu: Stovky platených reklám na Facebooku a Instagrame mali ukazovať zneužívanie detí
Meta čelí kritike po tom, čo vyšetrovanie odhalilo stovky reklám na Facebooku a Instagrame s AI obsahom sexuálneho zneužívania detí. Niektoré reklamy využívali fotografie skutočných detí.
Spoločnosť Meta čelí vážnym otázkam okolo kontroly reklám na Facebooku a Instagrame. Vyšetrovanie organizácie Tech Transparency Project (TTP) odhalilo viac ako 300 platených reklám, ktoré obsahovali materiál zachytávajúci sexuálne zneužívanie detí (CSAM).
Nešlo pritom iba o počítačovo vytvorené postavy. Výskumníci našli aj fotografie skutočných detí, ktoré niekto prevzal zo sociálnych sietí alebo verejne dostupných webov a následne ich pomocou umelej inteligencie vložil do sexuálneho obsahu. TTP celkovo identifikoval 332 takýchto reklám. Meta pritom deklaruje nulovú toleranciu voči sexuálnemu zneužívaniu detí a tvrdí, že reklamy kontroluje ešte pred ich zverejnením.
Umelá inteligencia zneužila fotografie skutočných detí
Veľká časť reklám používala podobný vzorec. Krátky úsek pornografického videa doplnila fotografia dieťaťa. Umelá inteligencia následne vytvorila video, v ktorom tvár alebo telo dieťaťa pôsobilo ako súčasť sexuálnej scény. TTP navyše dokázal identifikovať fotografie viacerých skutočných detí. V jednom prípade sa v reklame objavila fotografia maloletého člena európskej kráľovskej rodiny, ktorú rodina pôvodne zverejnila na internete. Reklama následne pomocou AI vytvorila sexuálne zneužívajúce video.
Výskumníci našli aj fotografiu 14-ročnej influencerky, ktorú dievča samo zverejnilo na Instagrame. Niekto ju následne použil v reklame a pomocou AI ju zasadil do sexuálneho videa. TTP pritom zámerne neuvádza ďalšie podrobnosti ani nezverejňuje samotný škodlivý obsah.
Meta odstránila reklamy až po upozornení
Zistenia ukazujú problém aj v samotnom systéme kontroly reklám. TTP našiel stovky reklám, ktoré prešli kontrolou spoločnosti Meta a dostali sa medzi používateľov. Keď organizácia začiatkom septembra upozornila Metu na svoje zistenia, spoločnosť v priebehu niekoľkých hodín odstránila približne 150 reklám, ktoré ešte zostávali v jej reklamnej databáze.
Neprehliadni
Ďalší problém sa týkal spôsobu, akým Meta označila porušenia pravidiel. Pri 113 reklamách pôvodne uviedla porušenie pravidiel súvisiacich s obsahom pre dospelých, pričom vôbec nespomenula sexuálne zneužívanie detí. Meta tieto označenia zmenila až po upozornení TTP.
Organizácia preto upozorňuje, že Meta môže mať problém aj so svojimi vlastnými štatistikami o odstraňovaní CSAM. Ak systém časť takéhoto obsahu nesprávne zaradí medzi porušenia pravidiel pre dospelých, interné čísla nemusia presne zobrazovať rozsah problému.
Podľa TTP sa reklamy objavili v rôznych krajinách. Z približne 332 identifikovaných reklám ich 262 cielilo aj na používateľov v Spojených štátoch, 84 sa objavilo v Indii a 120 v Austrálii. V Európskej únii reklamy podľa údajov z Meta Ad Library zasiahli viac ako 29 000 používateľov. V Spojenom kráľovstve ich videlo najmenej 6 800 ľudí.
Skutočný počet používateľov však môže byť vyšší. Meta totiž neposkytuje výskumníkom kompletné údaje o dosahu reklám vo všetkých krajinách. Niektoré reklamy pritom zostali dostupné aj po skončení kampane. Meta Ad Library uchováva určité reklamy z Európskej únie a Spojeného kráľovstva až jeden rok, takže výskumníci ich môžu nájsť aj neskôr.
Za reklamami boli aj čínski partneri Meta
Vyšetrovanie odhalilo ďalšiu pozoruhodnú súvislosť. Niekoľko problematických reklám zadali čínski reklamní partneri spoločnosti Meta. Medzi nimi sa objavili firmy GIMC, Meetsocial a BlueFocus. Ide o takzvaných resellerov, ktorí sprostredkúvajú reklamu čínskych zákazníkov na Facebooku a Instagrame. Za zmienku stojí najmä prípad GIMC. Ide o firmu kontrolovanú čínskou vládou a zároveň o jedného z autorizovaných reklamných partnerov Meta v Číne.
Jedna z reklám sprostredkovaných GIMC smerovala na aplikáciu AstralVPN. Tá mala v obchode Google Play viac ako 100 000 stiahnutí. Ďalšie reklamy od čínskych partnerov smerovali na podobné aplikácie. TTP zároveň pripomína, že Meta týmto partnerom udeľovala ocenenia za reklamné výsledky. Podľa predchádzajúcich zistení agentúry Reuters navyše Meta získava z reklám sprostredkovaných čínskymi resellermi províziu.
Väčšina reklám propagovala AI aplikácie
Najväčšiu časť prípadu však tvorili aplikácie založené na umelej inteligencii. Z 332 identifikovaných reklám ich až 298 smerovalo na aplikácie na generovanie alebo úpravu obrázkov a videí. Až 253 z nich pochádzalo od vývojárov z Číny. TTP následne preveril viacero týchto aplikácií. Výskumníci zistili, že niektoré dokázali takzvané „nudifikovanie“ fotografií. Používateľ do aplikácie nahral fotografiu človeka a AI následne vytvorila jeho nahú alebo sexuálne ladenú podobu.
Jedna z aplikácií, Lumin – AI Partner, dokonca obsahovala šablóny na vytváranie sexuálneho obsahu. TTP našiel viacero ďalších aplikácií s rovnakým dizajnom a podobnými funkciami.
Po upozornení zo strany TTP Apple odstránil z App Store tri takéto aplikácie, ktoré boli v tom čase stále dostupné.
„Máme nulovú toleranciu voči vývojárom, ktorí sa zámerne pokúšajú obísť náš proces kontroly,“ uviedla spoločnosť Apple.
Podobne zareagoval aj Google. Spoločnosť uviedla, že aplikácie z Google Play, na ktoré TTP upozornil, pozastavila. Išlo nielen o AI nástroje, ale aj o niekoľko VPN aplikácií propagovaných prostredníctvom problematických reklám.
Problém predstavovali aj falošné účty
TTP si všimol aj ďalší spoločný prvok. Mnohé reklamy nepochádzali zo zavedených stránok alebo reálnych firiem, ale z účtov, ktoré pôsobili ako falošné identity.
Niektoré stránky nemali žiadny obsah ani sledovateľov a používali rovnakú profilovú fotografiu. TTP tak našiel viacero účtov, ktoré pravdepodobne patrili rovnakej skupine. Takéto správanie je v rozpore s pravidlami Meta, ktoré zakazujú vytváranie falošných identít a koordinované neautentické správanie.
Ani nahlásenie reklamy nemuselo pomôcť
TTP počas vyšetrovania nahlásil Mete 129 aktívnych reklám s CSAM. Výsledok však často neprišiel okamžite. Pri 73 prípadoch, teda pri 57 percentách nahlásených reklám, Meta výskumníkom oznámila, že reklama podľa jej posúdenia neporušuje pravidlá. Pri ďalších 56 prípadoch spoločnosť uviedla, že reklamu už odstránila. V šiestich z týchto prípadov však reklama podľa TTP stále zostávala dostupná v Ad Library. Jeden z problematických inzerátov napríklad po nahlásení získal ďalších približne 330 zobrazení, kým ho Meta odstránila.
Meta pritom už roky používa technológie na vyhľadávanie rovnakých a podobných fotografií a videí. TTP preto upozorňuje na otázku, prečo systém nedokázal zachytiť ani identické kópie niektorých reklám. Spoločnosť sa k väčšine konkrétnych otázok TTP nevyjadrila.
„Netolerujeme aplikácie na vyzliekanie ľudí pomocou AI ani žiadnu formu vykorisťovania detí, či už ide o skutočný alebo umelo vytvorený obsah,“ uviedla Meta vo vyjadrení.
Prípad tak ukazuje, že problém nemusí spočívať iba v samotných AI nástrojoch. Dôležitú úlohu zohráva aj spôsob, akým reklamné platformy kontrolujú obsah, overujú inzerentov a reagujú na nahlásenia používateľov. Vyšetrovanie zároveň ukazuje, že aj keď spoločnosť reklamy po upozornení dokáže odstrániť pomerne rýchlo, medzi ich schválením a zásahom môže vzniknúť priestor, počas ktorého sa škodlivý obsah dostane k ďalším ľuďom.
