Facebook a Instagram budú analyzovať tvoje fotky a komentáre, aby zistili, koľko máš rokov
Meta chce prísnejšie kontrolovať vek používateľov na Instagrame a Facebooku. AI bude analyzovať profily, príspevky aj fotky, aby odhalila deti pod 13 rokov a tínedžerov zaradila do ochranného režimu.
Kontrola veku na sociálnych sieťach sa mení z okrajovej témy na jeden z najväčších sporov digitálneho sveta. Niektoré krajiny chcú vek používateľov overovať cez vlastné systémy, iné tlačia na spoluprácu s technologickými firmami a prevádzkovateľmi platforiem. Oficiálny dôvod znie jednoducho: ochrana detí pred obsahom a kontaktmi, ku ktorým by sa na internete nemali dostať.
Na tento tlak teraz reaguje aj prevádzkovateľ sociálnych sietí Instagram a Facebook, spoločnosť Meta. Firma zavádza ďalší balík opatrení, ktorých cieľom je prísnejšie dohliadať na vek používateľov a systematickejšie odhaľovať účty detí mladších ako 13 rokov. Tie podľa pravidiel nemajú mať na týchto platformách vôbec konto. Meta sa pritom čoraz viac opiera o umelú inteligenciu a do celého procesu chce aktívnejšie zapojiť aj rodičov.
Spoločnosť už dlhšie tvrdí, že chce mladým používateľom ponúknuť bezpečnejšie online prostredie. Práve preto pre nich vytvára takzvané Teen Accounts, teda účty s predvolenými obmedzeniami a filtrovaným obsahom. Ich úlohou je obmedziť, kto môže tínedžerov kontaktovať, aký obsah sa im bude zobrazovať a do akých nastavení budú automaticky zaradení. Aby to však celé fungovalo, platforma musí čo najpresnejšie vedieť, koľko má používateľ rokov. A práve tu vzniká problém.
Meta už nebude veriť len dátumu narodenia. Vek používateľa má odhadovať aj AI
Meta v poslednom období masívne investuje do technológií na overovanie veku, ktoré sa nespoliehajú iba na to, čo človek vyplní pri registrácii. Inými slovami, ak si dieťa nastaví dospelý dátum narodenia, nemá to byť koniec kontroly. Nové systémy majú aktívnejšie využívať umelú inteligenciu na analýzu správania, obsahu profilu a ďalších signálov, ktoré môžu naznačiť, že účet v skutočnosti patrí dieťaťu alebo tínedžerovi.
Ak algoritmy nadobudnú podozrenie, že účet patrí používateľovi mladšiemu ako 13 rokov, profil môže byť preventívne deaktivovaný. Jeho vlastník následne musí preukázať svoj vek cez overovací proces. Ak to nespraví, o účet môže definitívne prísť.
Neprehliadni
AI modely majú pracovať s viacerými vrstvami údajov. Meta hovorí o analýze príspevkov, komentárov, popisov fotografií, údajov v profile, biografií aj ďalších stôp, ktoré používateľ na platforme zanechá. Systém si tak môže všímať napríklad zmienky o narodeninách, školských ročníkoch alebo iných okolnostiach, ktoré naznačujú reálny vek používateľa.
Najcitlivejšia časť prichádza pri fotkách a videách. AI má odhadovať vek aj vizuálne
Dôležitým doplnkom má byť takzvaná vizuálna analýza. V jej rámci umelá inteligencia „pozerá“ na fotografie a videá a snaží sa odhadnúť približný vek zobrazenej osoby podľa všeobecných vizuálnych znakov. Meta ako príklad spomína výšku, telesné proporcie alebo stavbu tela.
Firma zároveň zdôrazňuje, že nejde o klasické rozpoznávanie tváre. Systém podľa nej nemá identifikovať konkrétneho človeka tak, ako to robí facial recognition, ale vytvárať len hrubý vekový odhad. Tento odhad sa následne kombinuje s textovými údajmi, správaním na platforme a interakciami s inými používateľmi.
Aj tak ide o citlivý krok. Na jednej strane môže takáto technológia pomôcť odhaliť deti, ktoré sa snažia obísť pravidlá. Na druhej strane však prirodzene otvára otázku, koľko osobných signálov musí sociálna sieť analyzovať, aby „uhádla“ vek človeka. Meta navyše priznáva, že niektoré pokročilejšie prvky, vrátane vizuálnej analýzy, zatiaľ fungujú len vo vybraných krajinách a firma ich plánuje rozširovať postupne.
Sociálny gigant upravuje aj spôsob, akým môžu používatelia nahlasovať podozrenie, že niekto je na platforme príliš mladý. Rozhranie na nahlasovanie má byť jednoduchšie a prehľadnejšie. Nahlásenie bude možné spraviť priamo v aplikácii alebo cez centrum pomoci. Takéto podnety už nemajú posudzovať len ľudskí moderátori. Pomáhať im majú aj automatizované modely, ktoré podľa Mety dokážu uplatňovať konzistentné kritériá a zrýchliť celý proces.
Teen Accounts sa rozširujú aj v Európskej únii. Zasiahnu aj používateľov, ktorí klamali o veku
Meta myslí aj na deti a tínedžerov, ktorí sa pokúsia systém jednoducho obísť. Ak firma zruší účet, založenie nového by podľa nej nemalo byť také ľahké ako doteraz. Spoločnosť preto pracuje aj na opatreniach, ktoré majú brániť opakovanému vytváraniu účtov používateľmi, pri ktorých má podozrenie, že sú príliš mladí.
Popri odhaľovaní detí mladších ako 13 rokov sa Meta zameriava aj na používateľov, ktorí síce môžu platformu používať, no nie sú správne zaradení do ochranných nastavení. Od roku 2024 preto firma postupne zapisuje stovky miliónov tínedžerov na Instagrame, Facebooku a Messengeri do režimu Teen Accounts.
Novinkou je, že technológiu na automatické zaraďovanie podozrivých tínedžerských účtov Meta rozširuje aj do 27 krajín Európskej únie a Brazílie na Instagrame. Na Facebooku ju najskôr nasadzuje v USA, pričom v júni má nasledovať Veľká Británia a Európska únia. Znamená to, že ak si používateľ nastaví dospelý vek, no správanie účtu bude podľa systému naznačovať opak, platforma ho môže aj tak zaradiť do ochranného režimu.
Rodičia dostanú nové upozornenia, no Meta chce presunúť časť zodpovednosti aj na obchody s aplikáciami
Výraznejšiu rolu majú zohrať aj rodičia. Meta plánuje posielať rodičom na Facebooku a Instagrame upozornenia s návodom, ako skontrolovať a potvrdiť vek svojich detí v účte. Súčasťou majú byť aj odporúčania, ako s tínedžermi hovoriť o tom, prečo má zmysel na internete neuvádzať falošný dátum narodenia. Rodičia po celom svete môžu navyše využiť Family Center, teda samostatnú sekciu s nástrojmi a radami pre rodiny.
Meta zároveň pripomína, že pri podozrivých zmenách veku môže vyžadovať overenie totožnosti. Ak sa napríklad používateľ pokúsi zmeniť dátum narodenia tak, aby sa z neho zrazu stal dospelý človek, platforma od neho môže chcieť doklad totožnosti alebo overenie cez nástroj na odhad veku od spoločnosti Yoti.
Mimochodom, tento problém sa netýka iba Mety a jej služieb. Rovnaké otázky rieši TikTok, X, YouTube a ďalšie platformy. Meta preto tlačí myšlienku, že overovanie veku by sa nemalo riešiť v každej aplikácii zvlášť, ale už na úrovni obchodov s aplikáciami alebo operačného systému. Inými slovami, vek by podľa nej mali overovať napríklad Apple a Google a aplikáciám následne poskytnúť informáciu, do akej vekovej kategórie používateľ patrí.
