Tento AI hlas znie takmer ako človek. Ľudí desí svojou takmer 100 % prirodzenosťou
Realistické AI hlasy sú čoraz presvedčivejšie, no zároveň desivejšie. Nový hlasový model od Sesame AI vyvoláva aj obavy z jeho možného zneužitia kyberzločincami.
Populárne AI modely ako ChatGPT, Gemini, Bing a iné majú potenciál už samé o sebe byť niekedy znepokojivé. Ak ale k týmto modelom pridáme dokonale ľudský hlas, výsledky sú častokrát ešte horšie.
Na jednej strane je fascinujúce sledovať pokrok, aký umelá inteligencia za posledné roky urobila, no na druhú stranu sa stretávame aj s prípadmi, kedy kyberzločinci zneužívajú schopnosti AI modelov na podvody, či už pri vytváraní phishingových správ alebo používaním AI hlasového “klona” na oklamanie ľudí. Ako informuje portál Techspot, nedávno výskumníci zo Sesame AI vytvorili nový konverzačný hovorový model, ktorý sa vyznačuje fenomenálnymi ľudskými kvalitami, ktoré konkurujú technologickým gigantom ako Google alebo OpenAI.
Spoločnosť venujúca sa výskumu umelej inteligencie zverejnila demo verziu tohto AI hlasového modelu, ktorá nám ukazuje dva AI hlasy. Mužský hlas nazvali výskumníci Miles a ženský zas Maya. Realizmus týchto hlasových modelov fascinuje a zároveň desí užívateľov. Model zatiaľ nie je dostupný pre širokú verejnosť a spoločnosť Sesame AI momentálne hľadá spôsoby, ako sa vysporiadať s obrovským dopytom.
Technológia, ktorú spoločnosť využila pri vytváraní hlasového modelu, využíva multimodálny prístup. Ten spracúva audio a text v rámci jedného modelu, čím umožňuje prirodzenejšiu syntézu hlasu. Zvolená metóda sa podobá na hlasové modely OpenAI a tieto podobnosti sú aj v rámci ukážky zjavné.
Uprostred uncanny valley
Spoluzakladateľ spoločnosti Sesame AI, Brendan Iribe, priznáva, že nový hlasový model leží priamo uprostred takzvanej “uncanny valley”. Pokiaľ nevieš o čo ide, pojem uncanny valley značí niečo, čo sa takmer podobá na niečo ľudské, no nie je to stopercentne ono. Presnejšie povedané, nerobí nám problém vypočuť si hlas, ktorý je zreteľne umelý a rovnako nám nerobí problém počúvať hlas skutočného človeka. Medzi týmito bodmi sa však nachádza priestor – takzvaný uncanny valley – v rámci ktorého je hlas takmer ľudský, no nie úplne. Čím bližšie je hlas k hlasu skutočného človeka, no vnímame isté nedokonalosti, tým znepokojivejším je.
Neprehliadni
Nový hlasový AI model znie ako človek v izolovaných testoch. V rámci konverzácie ale môžeš počuť, že mu niekedy robí problém pochopiť kontext a má problém s plynulosťou reči a rytmom.
Odhalenie nového hlasového modelu vyvolalo naprieč internetom veľký rozruch. Na jednu stranu môžeme povedať, že je nový hlasový model revolučný. Užívatelia a AI odborníci ale poukázali na to, že tento takmer prirodzený model v nich vyvoláva obavy. Jedným zo znepokojených testerov je Mark Hachman, ktorý píše pre PCWorld. Hachman skúšal ženský model Maya a povedal, že mu pripomínal jeho bývalú partnerku. Dodáva, že sa ho umelá inteligencia pýtala otázky, ktoré by sa dali interpretovať aj ako “budovanie intimity”.
“Zážitok s modelom Maya nebol taký, ako som si predstavoval. Tento hlasový model už mal maniere mojej expartnerky zvládnuté desivo dobre. Hovoríme napríklad o znížení hlasu, keď sa mi chcela s niečím zdôveriť a podobne. Nehovorím, že sa AI model správal presne ako bývalá partnerka, no bolo to desivo blízko. Počas rozhovoru som ostal značne znepokojený a musel som rozhovor opustiť,” tvrdí Hachman.
Množstvo užívateľov má z modelu zlý pocit
Hachman ale nie je jediný, kto mal z rozhovoru s AI modelom od Sesame AI zlý pocit. Hoci nie každý v modeli videl svojho bývalého partnera, väčšina priznáva, že takto prirodzený hlas v nich vyvoláva nepohodu. Podobná situácia nastala s hlasovým modelom Duplex od Googlu. Spoločnosť nakoniec musela pridať upozornenie na začiatok konverzácie, že sa užívateľ nerozpráva so skutočným človekom.
Najväčším problémom sú kyberzločinci, ktorí môžu využiť takto realistickú umelú inteligenciu na vytvorenie ešte realistickejších podvodov. AI odborníkom sa už podarilo “prelomiť” Sesame AI a naučiť ju klamať.
Celkovo sa už AI hlasové modely stali tak presvedčivé, že ľudia začínajú zavádzať v rámci rodiny a blízkych tajné frázy, pomocou ktorých vedia, že sa rozprávajú skutočne s konkrétnym človekom.
