Meta chce, aby si bol na Facebooku aktívny aj po smrti. Dala si patentovať technológiu, z ktorej behá mráz po chrbte
Meta si dala patentovať systém, ktorý by udržal účet zosnulého aktívny aj po jeho smrti vytvorením „digitálnej dvojičky“.
Spoločnosť Meta si dala patentovať technológiu, ktorá by dokázala pokračovať v aktivite na sociálnych sieťach aj po smrti používateľa. Znie to ako niečo vystrihnuté priamo z Black Mirroru, no naozaj ide o oficiálne registrovaný patent z decembra. Dokument opisuje systém postavený na veľkom jazykovom modeli (LLM), ktorý vytvorí „digitálny klon“ človeka a napodobní jeho online správanie, píše TechSpot.
Model by čerpal z histórie účtu, teda z komentárov, správ, reakcií, fotografií či videí. Na základe týchto dát by generoval nové príspevky, odpovedal na správy, reagoval na obsah iných používateľov a udržiaval účet aktívny. V prípade influencerov by dokonca napodobnil štýl tvorby obsahu tak, aby sledovatelia zaznamenali minimum zmien. Patent spomína aj simuláciu hlasu a obrazu, čo by umožnilo vytvoriť video alebo audio hovor so „znovu oživeným“ profilom.
Meta však tvrdí, že podobnú funkciu zatiaľ neplánuje spustiť.
„Podávanie patentov nám umožňuje chrániť nové nápady, no neznamená to, že tieto technológie uvedieme do praxe,“ uviedol hovorca Mety.
Firma si tak drží možnosť do budúcna, no zároveň si uvedomuje, že téma vyvolá silné reakcie.
Digitálna nesmrteľnosť a problém súhlasu
Technologickí analytici spomínajú hlavne etiku, no ešte zásadnejšia je otázka súhlasu. Väčšina dnešných podmienok používania sociálnych sietí nerieši, čo sa stane s tvojím „štýlom písania“ po smrti. Keď si si pred desiatimi rokmi založil účet na Facebooku, dal si tým súhlas na tréning umelej inteligencie z tvojich dát aj po svojom odchode?
Neprehliadni
Ak by firma použila historické príspevky na vytvorenie digitálneho klonu bez výslovného súhlasu, právnici by mohli hovoriť o zásahu do osobnostných práv alebo dokonca o krádeži identity. Profesorka Edina Harbinja z University of Birmingham Law School upozornila, že sociálne siete majú finančný záujem udržať populárne účty aktívne, no musia rešpektovať digitálne práva a súkromie po smrti.
V budúcnosti by sa preto mohla objaviť nová položka v nastaveniach profilu, povoliť alebo zakázať AI klonovanie po smrti. Bez jasného a vedomého súhlasu by takýto systém čelil právnym sporom prakticky v každej jurisdikcii EÚ.
„Zombie“ ekonomika pozornosti
Sociálne siete stoja na pozornosti. Keď používateľ zomrie, prestane klikať na reklamy a generovať interakcie. Ak by však jeho digitálny klon pokračoval v aktivite, algoritmus by udržiaval účet medzi živými používateľmi a predlžoval ich čas na platforme.
Vznikol by zvláštny model „posmrtného marketingu“. Digitálny klon by mohol v príspevkoch spomenúť značky alebo produkty, ktoré mal človek rád za života. Zosnulý by sa tak stal trvalou súčasťou reklamného ekosystému. Takýto precedens by otvoril otázku, či by mŕtvi nezačali súperiť so živými o miesto v algoritme.
„Mali by sme nechať mŕtvych odpočívať,“ hovorí sociológ Joseph Davis z University of Virginia.
Jeho argument smeruje najmä k rodinám. Pre niekoho by digitálna spomienka pôsobila ako útecha, pre iného by znamenala neustále otváranie rany.
Bezpečnostné riziká a deepfake vydieranie
Ak systém dokáže presne napodobniť hlas a tvár človeka, stane sa z neho extrémne citlivý cieľ pre hackerov. Únik takéhoto modelu by znamenal viac než len stratu hesla.
Predstav si scenár, v ktorom útočník získa prístup k „posmrtnému klonu“ a použije ho na vydieranie rodiny. Video hovor s dôveryhodnou tvárou a hlasom by presvedčil aj opatrných ľudí. Hranica medzi spomienkovým chatbotom a dokonalým phishingovým nástrojom by sa zmazala.
Už dnes riešia úrady prípady deepfake podvodov, pri ktorých útočníci napodobnia hlas riaditeľa firmy a žiadajú prevod peňazí. Ak by platforma sama vytvorila dokonalý model identity, riziko by sa ešte zvýšilo.
Z verného klonu zosnulého by sa mohla časom stať karikatúra
Veľké jazykové modely sa učia z dát, ktoré im poskytneš. Problém spočíva v tom, že na sociálnych sieťach sa správaš inak než v súkromí. Online persona býva ostrejšia, uhladenejšia alebo prehnane pozitívna.
Digitálny klon by tak nereprezentoval celého človeka, ale jeho digitálnu masku. Výsledok by mohol pripomínať karikatúru, zosilnenú verziu toho, čo si písal pod vplyvom emócií alebo algoritmov. Technológia by síce kopírovala štýl, no autenticitu by nahradila štatistickou pravdepodobnosťou.
Meta zatiaľ drží technológiu na papieri. Patent však otvoril diskusiu o tom, čo vlastne znamená digitálna identita a komu patrí po smrti. Odpoveď dnes nemá jasné kontúry a pravdepodobne sa bude formovať až v momente, keď podobné nástroje prekročia hranicu laboratória.
