Čo sa deje s Instagramom? Sociálnu sieť za posledných 24 hodín zaplavili násilné a nevhodné videá
Meta potvrdila veľký problém. Deti na jej sociálne sieti sú ohrozené pornografickým obsahom a nielen tým! Spoločnosť už problém rieši.
Spoločnosť Meta, materská firma Instagramu, sa ospravedlnila za závažnú technickú chybu, ktorá spôsobila, že používatelia videli na svojej osobnej stránke Reels množstvo násilného a sexuálneho obsahu. Táto situácia vyvolala značné znepokojenie medzi používateľmi a otázky o efektivite moderácie obsahu na platforme. Na tému upozornil portál Techspot.
Podľa vyhlásenia hovorkyne Meta pre CNBC,
„Opravili sme chybu, ktorá spôsobila, že niektorí používatelia videli vo svojom kanáli Instagram Reels obsah, ktorý nemal byť odporúčaný. Ospravedlňujeme sa za túto chybu.“
Spoločnosť tvrdí, že problém už vyriešila, hoci neposkytla podrobnosti o povahe chyby alebo o tom, ako dlho trvala.
Chyba by podľa Mety mala byť už opravená
Používatelia na sociálnych sieťach hlásili široké spektrum nevhodného obsahu, vrátane pouličných bitiek, školských strelieb, vrážd, krvavých nehôd, a dokonca aj explicitného sexuálneho obsahu.
Jeden používateľ na Reddite uviedol, že jeho stránka Reels bola zaplavená videami zo školských strelieb a vrážd. Iní hlásili, že videli sériu násilných videí, vrátane bodnutí, sťatí hláv a kastrácie, ako aj nahotu a necenzurované pornografické materiály.
Neprehliadni
Obzvlášť znepokojujúce je, že bežné metódy na obmedzenie nežiaduceho obsahu, ako je označenie „Nemám záujem“ alebo úprava nastavení citlivého obsahu, sa ukázali ako neúčinné. Používatelia hlásili, že aj po týchto krokoch sa nevhodné videá naďalej objavovali v ich informačných kanáloch. Tento incident prichádza krátko po tom, čo Meta oznámila významné zmeny vo svojej stratégii moderovania obsahu. Spoločnosť prešla od využívania veľkých tímov moderátorov obsahu k viac automatizovanému systému, podobne ako TikTok a iné platformy sociálnych médií.
Meta tvrdí, že jej technológia „proaktívne detekuje a odstraňuje veľkú väčšinu porušujúceho obsahu predtým, ako ho niekto nahlási“. Napriek tomu, tento incident poukazuje na potenciálne nedostatky v ich systémoch automatizovanej moderácie. Podľa pravidiel, spoločnosť odstraňuje „najgrafickejší obsah a pridáva varovné štítky k inému grafickému obsahu, aby ľudia vedeli, že môže byť citlivý alebo znepokojujúci, predtým ako naň kliknú“. Pravidlá spoločnosti tiež stanovujú, že odstraňuje „skutočné fotografie a videá nahoty a sexuálnej aktivity“.
Incident vyvoláva obavy týkajúce sa ochrany detí na sociálnych sieťach
Táto situácia vyvoláva otázky o rovnováhe medzi slobodou prejavu a potrebou chrániť používateľov pred škodlivým obsahom. Zároveň poukazuje na výzvy, ktorým čelia veľké technologické spoločnosti pri moderovaní obrovského množstva obsahu generovaného používateľmi. Meta sa zaviazala k ďalšiemu vyšetrovaniu incidentu a zlepšeniu svojich systémov na detekciu a filtrovanie nevhodného obsahu. Používateľom sa odporúča, aby naďalej hlásili akýkoľvek obsah, ktorý považujú za porušenie komunitných štandardov Instagramu.
Tento incident zdôrazňuje dôležitosť robustných systémov moderácie obsahu a potrebu neustáleho zlepšovania algoritmov odporúčania obsahu. Zároveň pripomína používateľom, aby boli obozretní pri konzumácii obsahu na sociálnych médiách a aktívne sa podieľali na udržiavaní bezpečného online prostredia.
Ako sa platformy sociálnych médií naďalej vyvíjajú a rastú, bude čoraz dôležitejšie nájsť efektívne riešenia na vyváženie slobody prejavu s ochranou používateľov pred škodlivým obsahom. Incident s Instagramom slúži ako pripomienka, že aj najsofistikovanejšie technologické systémy môžu zlyhať, a že neustála ostražitosť a zlepšovanie sú nevyhnutné pre udržanie bezpečných a príjemných online komunít.
