Meta čelí žalobe kvôli smart okuliarom. Kamera môže zachytiť citlivé momenty a zábery môžu analyzovať aj ľudia
Smart okuliare Ray-Ban Meta čelia žalobe za klamlivú reklamu o ochrane súkromia. Zábery z kamery môže v niektorých prípadoch analyzovať aj ľudský pracovník pri tréningu umelej inteligencie.
Smart okuliare od spoločnosti Meta čelia vážnemu problému. Firma je v Spojených štátoch žalovaná za údajne klamlivú reklamu týkajúcu sa ochrany súkromia. Podľa žaloby totiž zábery zachytené okuliarmi Ray-Ban Meta môžu v niektorých prípadoch analyzovať aj ľudskí pracovníci, ktorí pomáhajú trénovať systémy umelej inteligencie, upozorňuje server techspot.com.
Prípad sa objavil krátko po investigatívnej reportáži švédskych novín Svenska Dagbladet. Tie priniesli svedectvá pracovníkov, ktorí označujú dáta pre AI systémy. Tvrdia, že pri svojej práci videli aj veľmi citlivé zábery zachytené kamerou smart okuliarov, vrátane situácií z domácností či intímnych momentov.
Žaloba tvrdí, že Meta zavádzala používateľov o súkromí smart okuliarov
Žaloba bola podaná na federálnom súde v San Franciscu. Podľa žalobcov Meta zavádzala zákazníkov v otázke súkromia. Okuliare totiž firma prezentovala ako zariadenie, ktoré rešpektuje súkromie používateľa aj ľudí v jeho okolí.
Problém je v tom, že časť dát zachytených okuliarmi môže skončiť v systémoch, ktoré Meta používa na tréning umelej inteligencie. V niektorých prípadoch ich pritom analyzujú aj externí pracovníci, ktorí označujú objekty vo videách a pomáhajú zlepšovať algoritmy.
Žalobcovia tvrdia, že keby o tomto procese vedeli skôr, okuliare by si nekúpili. V žalobe preto žiadajú finančné odškodnenie a zásah súdu, ktorý by mohol prinútiť Meta jasnejšie vysvetliť, ako zariadenie v skutočnosti pracuje s dátami.
Neprehliadni
Pracovníci mali vidieť intímne zábery z okuliarov používateľov
Celý prípad sa dostal na verejnosť po investigatívnom článku švédskych novín Svenska Dagbladet a Göteborgs-Posten. Tie priniesli svedectvá pracovníkov v Keni, ktorí označujú dáta pre systémy umelej inteligencie.
Podľa ich slov sa pri práci dostali aj k veľmi citlivým záberom zo smart okuliarov. V niektorých videách mali byť ľudia na toalete, pri prezliekaní alebo v intímnych situáciách.
Problém je v tom, že kamera na okuliaroch zachytáva presne to, čo vidí používateľ. A to je často oveľa osobnejší priestor než pri klasickom smartfóne, ktorý väčšina ľudí vytiahne z vrecka len na krátku chvíľu.
Funkcia Live AI posiela obraz zo sveta priamo do systémov Meta
Kľúčovým prvkom okuliarov je funkcia nazývaná Live AI. Tá umožňuje používateľovi položiť umelej inteligencii otázku o tom, čo práve vidí. Okuliare napríklad dokážu rozpoznať predmety, prečítať text alebo vysvetliť situáciu v okolí.
Aby to fungovalo, zariadenie musí obraz z kamery odoslať na servery spoločnosti Meta, kde ho analyzuje umelá inteligencia. Tento proces sa označuje ako multimodálna analýza, pretože kombinuje obraz, zvuk a text.
Problém je v tom, že niektoré zábery, ktoré sa používajú na analýzu, sa neukladajú do galérie používateľa. Môžu však skončiť v datasetoch, ktoré firma využíva na tréning svojich modelov.
Meta tvrdí, že ide o bežnú prax pri vývoji umelej inteligencie
Spoločnosť Meta v reakcii uviedla, že používanie ľudských pracovníkov na kontrolu dát je v oblasti umelej inteligencie bežné. Ide o proces známy ako data labeling, pri ktorom ľudia označujú objekty vo videách alebo obrázkoch, aby sa algoritmy mohli učiť.
Firma zároveň tvrdí, že sa snaží odstraňovať citlivé informácie a chrániť identitu ľudí, ktorých zariadenia môžu zachytiť. Kritici však upozorňujú, že anonymizácia v praxi nemusí fungovať dokonale.
Niektorí pracovníci napríklad tvrdia, že videli celé čísla kreditných kariet, tváre ľudí alebo iné identifikovateľné detaily.
Smart okuliare otvárajú otázku, kde končí pomoc AI a kde začína sledovanie
Smart okuliare majú byť ďalším krokom vo vývoji osobných asistentov. Kamera na očiach má umelej inteligencii umožniť vidieť svet rovnako ako používateľ a okamžite reagovať na to, čo sa deje okolo.
Práve tu však vzniká problém. Ak zariadenie neustále analyzuje obraz a zvuk z okolia, množstvo zachytených situácií môže byť oveľa osobnejších, než si väčšina ľudí uvedomuje.
Niektorí vývojári už dokonca pracujú na aplikáciách, ktoré dokážu upozorniť, že sa v tvojej blízkosti nachádza človek so smart okuliarmi schopnými nahrávať video.
Žaloba proti Meta tak môže byť len prvým väčším konfliktom okolo tejto technológie. Otázkou totiž nie je len to, čo vidí umelá inteligencia, ale aj to, kto všetko sa k týmto záberom môže nakoniec dostať.
