EÚ sprísnila pravidlá pre umelú inteligenciu. Chatboty už nesmú predstierať, že sú človek
EÚ zavádza nové pravidlá pre umelú inteligenciu. Chatboty a AI obsah musia byť jasnejšie označené, firmám za porušenie hrozia vysoké pokuty.
Umelá inteligencia dostala v Európskej únii ďalšie pravidlá. Od 2. augusta vstúpili do platnosti dôležité ustanovenia AI Actu, ktoré sa dotknú nielen veľkých technologických spoločností, ale aj bežných používateľov.
Práve na internete si môžeš všimnúť jednu z najviditeľnejších zmien. Ak komunikuješ s chatbotom, mal by si dostať jasnú informáciu, že na druhej strane nie je človek. Rovnako sa majú označiť obrázky, videá, zvuk či text, ktoré vytvorila alebo výrazne upravila umelá inteligencia. EÚ tým nechce AI zakázať. Cieľom je najmä znížiť riziko, že človek nebude vedieť, či komunikuje s človekom alebo so strojom, prípadne či narazil na skutočný obsah alebo jeho umelú napodobeninu, informuje Malwarebytes.
Chatbot už nemá hrať človeka
Práve transparentnosť patrí medzi najvýraznejšie časti nových pravidiel. Ak používaš systém, ktorý komunikuje s tebou ako človek, prevádzkovateľ musí splniť požiadavky na informovanie používateľa. To sa týka rôznych interaktívnych AI systémov vrátane chatbotov. Dôvod je pomerne jednoduchý. AI dokáže viesť čoraz prirodzenejšiu konverzáciu a používateľ nemusí na prvý pohľad spoznať, že odpovede nevytvoril človek.
Nové pravidlá preto dávajú dôraz na to, aby AI svoju povahu neskrývala. Podobná situácia nastáva pri obsahu vytvorenom umelou inteligenciou. Syntetické obrázky, videá, zvuk a ďalší obsah musia dostať príslušné označenie alebo technický údaj, ktorý umožní jeho identifikáciu.
Neplatí však, že internet musí spätne označiť všetko, čo AI vytvorila v minulosti. Obsah vytvorený a zverejnený pred 2. augustom nemusí dostať dodatočné označenie. Pri novom obsahu už pravidlá platia, aj keď samotný materiál vznikol ešte pred týmto dátumom.
Neprehliadni
Nové pravidlá sa netýkajú iba chatbotov, ktoré vidíš ako hotové aplikácie. AI Act zavádza pravidlá aj pre takzvané všeobecné modely umelej inteligencie, teda General-Purpose AI alebo GPAI. Ide o modely, ktoré môžu slúžiť ako základ pre množstvo rôznych aplikácií. Typickým príkladom sú veľké jazykové modely, ktoré vývojári následne využijú v chatbotov, kancelárskych nástrojoch, vyhľadávačoch či ďalších službách.
Na dodržiavanie pravidiel dohliada AI Office v Bruseli spolu s príslušnými národnými úradmi. Do kontroly sa pri určitých prípadoch zapája aj Európsky dozorný úradník pre ochranu údajov. Pre technologické firmy tak nejde iba o odporúčania. Pri porušení niektorých povinností môžu prísť výrazné finančné sankcie. Za nedodržanie transparentnostných povinností môže pokuta dosiahnuť až 15 miliónov eur alebo 3 percentá celosvetového ročného obratu, podľa toho, ktorá suma bude vyššia. Pre veľké technologické spoločnosti tak nejde práve o zanedbateľnú položku.
Používateľ môže problém nahlásiť
EÚ zároveň pripravila nástroje, pomocou ktorých môžu ľudia a organizácie upozorniť na možné porušenie pravidiel. Používateľ môže podať sťažnosť na údajné porušenie AI Actu zo strany poskytovateľa alebo nasadzovateľa AI systému, ak prípad spadá pod dohľad AI Office. Existuje aj kanál pre takzvaných whistleblowerov. Človek, ktorý má profesionálne väzby na poskytovateľa alebo nasadzovateľa AI, môže anonymne upozorniť na možné porušenie pravidiel. Týkať sa to môže napríklad ohrozenia základných práv, zdravia alebo dôvery verejnosti.
Ďalšia možnosť sa týka spoločností, ktoré vytvoria vlastný produkt na základe cudzieho všeobecného AI modelu. Aj tie môžu upozorniť na podozrenie, že poskytovateľ základného modelu porušil svoje povinnosti. To vytvára oficiálnu cestu pre prípady, ktoré by sa inak mohli dostať na verejnosť až po vážnom incidente. Môže ísť napríklad o nebezpečné správanie modelu, ignorovanie výsledkov bezpečnostných testov alebo používanie AI spôsobom, ktorý zasahuje do základných práv.
Niektoré AI praktiky EÚ úplne zakazuje
AI Act zároveň prináša pravidlá pre takzvané neprijateľné riziká. Pri niektorých spôsoboch využitia už nejde iba o povinnosť používateľa informovať. EÚ zakazuje aj AI systémy určené na vytváranie sexuálne explicitného alebo intímneho obsahu bez súhlasu dotknutej osoby. Pravidlá sa týkajú napríklad takzvaných „nudifierov“, ktoré pomocou AI vytvárajú falošné nahé fotografie skutočných ľudí.
Do tejto oblasti patrí aj obsah sexuálneho zneužívania detí vytvorený pomocou umelej inteligencie.
„Pre obete takéhoto zneužívania nejde iba o symbolické opatrenie,“ upozorňuje Malwarebytes vo svojom hodnotení nových pravidiel.
Dôležité však je, že táto konkrétna časť pravidiel nebude platiť okamžite. Zákaz týchto AI systémov nadobudne účinnosť 2. decembra 2026. Firmy tak dostali čas na úpravu svojich služieb alebo ich stiahnutie z trhu EÚ.
Nové pravidlá však automaticky nevyriešia všetky problémy spojené s umelou inteligenciou. Ak niekto vytvorí škodlivý deepfake pomocou nástroja mimo Európskej únie, európske pravidlá jeho existenciu na internete nezmažú. Útočníci navyše môžu využiť služby, ktoré pravidlá EÚ nerešpektujú. AI Act preto nemožno vnímať ako akýsi vypínač nebezpečnej umelej inteligencie.
Jeho význam spočíva skôr v tom, že firmy pôsobiace na európskom trhu dostávajú jasnejšie povinnosti. Používateľ má jednoduchšie zistiť, kedy komunikuje s AI a kedy narazil na obsah, ktorý vytvoril alebo upravil algoritmus.
„AI Act neurobí umelú inteligenciu bezpečnou zo dňa na deň,“ uvádza Malwarebytes: „Zároveň však posúva pravidlá od prístupu „môžeš robiť prakticky čokoľvek“ k modelu, pri ktorom musia služby v EÚ splniť aspoň základné požiadavky.“
Pre bežného používateľa môže byť najviditeľnejšia práve tá najjednoduchšia zmena, keď sa rozprávaš s chatbotom, mal by si vedieť, že na druhej strane nie je človek. A pri obrázkoch, videách či zvukoch môže byť čoraz dôležitejšie aj to, či ich vytvoril človek, alebo umelá inteligencia. Ako sa bude AI ďalej šíriť do bežných služieb, podobné označenia môžu zohrávať čoraz väčšiu úlohu pri rozhodovaní, čomu na internete venovať dôveru.
