Systém Chameleon schová tvoju tvár na internete. Vďaka nemu ťa umelá inteligencia nespozná
Výskumníci vyvinuli technológiu Chameleon, vďaka ktorej tvoje online fotky nedokáže rozpoznať žiaden systém na rozpoznanie tváre.
Jednou z najväčších obáv ohľadom umelej inteligencie je systém na rozpoznávanie tvárí. Výskumníci z Georgia Tech ale v rámci svojej novej práce vytvorili “digitálnu masku”, ktorú možno aplikovať na tvoje fotky a vďaka nej ťa umelá inteligencia online nebude môcť spoznať.
Autori štúdie v úvode svoje práce varujú, že ktokoľvek, kto pridá online svoju fotku, sa dostáva do rizika, že jeho súkromie naruší systém na rozpoznávanie tváre. Ten môžu využiť napríklad kyberzločinci pri vytváraní databáz tvárí. Vďaka zozbieraným tváram môžu hackeri vykonávať ďalšie zločinecké činnosti, napríklad krádež identity, stalkovanie a radu ďalších zločinov.
Rozpoznávanie tvárí sa však využíva aj v marketingovej sfére, napríklad na cielenie reklám na špecifického zákazníka.
Model, ktorý bráni rozpoznávaniu tvárí online, výskumníci príhodne nazvali Chameleon. Na trhu existujú podobné modely, ktoré vytvoria masku anonymity na každú fotku užívateľa zvlášť. Systém Chameleon ale funguje tak, že vytvorí jednu personalizovanú masku na ochranu súkromia pre všetky fotky tváre užívateľa. Keď užívateľ aplikuje masku na svoje fotky, jeho tvár nebude odhaliteľná žiadnym softvérom, ktorý používa hacker aby našiel čo najviac fotiek danej obete. Namiesto toho podvodný rozpoznávací systém vyhodnotí, že fotky patria niekomu inému.
Chameleon dáva užívateľom súkromie na internete
Počas vývoja technológie Chameleon mali výskumníci dva hlavné ciele. Prvým cieľom bolo chrániť identitu osoby a druhým bolo zaistiť len minimálny vizuálny rozdiel medzi originálnou fotkou a maskovanou fotkou. Výskumníci prezradili, že dnes používané maskovacie modely spôsobujú to, že človek vidí rozdiel medzi pôvodnou a upravenou fotkou. Chameleon pracuje ale tak, že rozdiel je takmer nepostrehnuteľný.
Neprehliadni
V testoch Chameleon oklamal tri najlepšie systémy na rozpoznávanie tváre. Tieto experimenty zároveň ukázali, že Chameleon ponúka lepšiu ochranu súkromia, zatiaľ čo je rýchlejší a menej náročný na zdroje.
“Chceli by sme v budúcnosti použiť našu technológiu na to, aby fotografie užívateľov online nemohli byť použité na trénovanie AI generatívnych modelov. Mohli by sme zabrániť tomu, aby fotografie užívateľov boli použité bez ich súhlasu,” vyjadril sa profesor Ling Liu, jeden z autorov technológie.
Výskumníci demonštrovali, že Chameleon funguje aj proti najlepším systémom na rozpoznávanie tvárí na trhu. V ďalších krokoch plánujú kód pre Chameleona vydať verejne na platforme GitHub, hoci zatiaľ nevedia povedať kedy. Zverejnenie tohto systému dá užívateľom možnosť chrániť svoje fotografie a vývojárom zas možnosť vylepšiť prácu výskumníkov o ďalšie funkcie.
Systémy na ochranu súkromia užívateľov pomôžu zodpovednejším spôsobom adoptovať AI technológie do nášho života.
Zodpovedné prijatie umelej inteligencie
Rok čo rok nám veľké spoločnosti prinášajú sofistikovanejšie a pokročilejšie AI modely. Niet pochýb o tom, že táto technológia bude hrať v budúcnosti významnú rolu, no ako to býva s každým revolučným pokrokom, AI nám vie rovnakým dielom uškodiť, ako nám vie pomôcť.
Mimoriadne dôležité je preto zodpovedne prijať túto technológiu a vytvoriť okolo nej pevné mantinely, ktoré by zabránili veľkým spoločnostiam a krajinám zneužívať jej schopnosti. V tomto smere napreduje práve Európska únia, ktorá ako jedna z prvých krajín schválila dôležitý zákon o AI.
V praxi ide o zákon, ktorý zakáže používanie AI modelov spôsobom, ktoré by ohrozili práva občanov. Jedným zo zakázaných spôsobov je práve používanie umelej inteligencie na vytváranie databáz tvárí alebo takzvanú prediktívnu policajnú prácu. Rovnako EÚ v rámci tohto zákona vymedzila, že sa nebudú môcť používať AI modely na identifikáciu podozrivého v reálnom čase, okrem úzko vymedzených situácií. Jednou z nich je hrozba teroristického útoku. Z iného súdka môže ísť o identifikáciu nezvestných osôb.
Zákon o AI toho upravuje a stanovuje oveľa viac. Ak ťa zaujíma, ako môže budúcnosť AI vyzerať na území Európy, do pozornosti dávame tento článok.
