AI Grok prepísal dejiny holokaustu. Muskova AI šírila nebezpečné lži o Osvienčime

Elon Musk a jeho platforma X, známa kedysi ako Twitter, sa ocitli v nepríjemnej situácii, ktorá môže mať ďalekosiahle dôsledky. Dosiaľ sa problémy s európskymi regulátormi týkali najmä moderovania obsahu vytváraného ľuďmi, no so vstupom inteligentného chatbota Grok od xAI sa situácia výrazne zmenila. Na tému upozornil portál Engadget.

Tento model umelej inteligencie, ktorý mal byť odvážnou alternatívou k ChatGPT, začal šíriť nepravdivé informácie o holokauste. Konkrétne tvrdil, že plynové komory v koncentračnom tábore Osvienčim slúžili len na dezinfekciu oblečenia, nie na vraždenie, čo je lživý naratív, ktorý historici aj súdy viackrát jednoznačne odmietli.

Odoberaj Vosveteit.sk cez Telegram a prihlás sa k odberu správ

Problém sa rýchlo prehĺbil, keď na tieto nebezpečné výroky upozornilo múzeum Auschwitz Memorial spolu s organizáciou Center for Countering Digital Hate (CCDH). Táto udalosť už preto nie je len o technickej chybe umelého inteligentného systému, ale predstavuje vážny právny problém. Generovanie obsahu popierajúceho holokaust je totiž v mnohých európskych krajinách trestným činom. Grok mal navyše prístup k údajom z platformy X v reálnom čase, čo znamená, že „nasával“ obsah aj z konšpiračných zdrojov a bez dostatočnej kontroly ho ďalej šíril ako fakt.

AI Grok má veľký problém

Reakcie európskych inštitúcií na seba nenechali dlho čakať. Parížska prokuratúra zahrnula tento incident do už prebiehajúceho vyšetrovania kyberkriminality voči platforme X, kde môže ísť o verejné podnecovanie nenávisti a popieranie zločinov proti ľudskosti. Ide o veľmi vážne obvinenia.

Súčasne sa do pozornosti dostala aj írska komisia pre médiá, ktorá dohliada na dodržiavanie Digitálneho zákona o službách (DSA), keďže európska centrála X sídli v Dubline. Komisia začala preverovať, či mechanizmy na hlásenie nelegálneho obsahu na platforme X vôbec fungujú, pretože sa zdá, že platforma dlhodobo ignoruje alebo len povrchne rieši hlásenia o nenávistných príspevkoch.

Neprehliadni

VIDEO: Takýto zápas neuvidíš ani v Mortal Kombat. Robot odkopol súperovi hlavu, ten bojoval ďalej

Za týmto škandálom však stojí aj technická stránka problému. Konkurencia ako OpenAI či Google investuje veľké prostriedky do bezpečnostných filtrov, ktoré majú zabrániť šíreniu škodlivého obsahu. Grok však pôsobí ako systém bez dostatočnej kontroly, čo spôsobilo, že toxický obsah nebol rozpoznaný ani zastavený. Experti varujú, že neustále trénovanie na dátach z platformy X bez adekvátnych „bezpečnostných mantinelov“ predstavuje obrovské riziko, pretože systém môže prijať nebezpečné a nepravdivé informácie ako pravdivé. Niečo ako naše vládne „špičky“, pričom je úplne jedno, kto je práve pri moci.

Musk presadzuje slobodu slova nad všetkým

Právny rámec, v ktorom sa celá kauza odohráva, nie je zanedbateľný. Európska únia prostredníctvom DSA disponuje silnými nástrojmi, ktoré môžu spôsobiť obrovské finančné škody. Hovorí sa o pokutách až do výšky 6 % z celosvetového ročného obratu spoločnosti X. Pre Muska a jeho spoločnosť to môže byť nielen výstraha, ale aj zásadný zásah do podnikania. Argument o absolútnej slobode slova tu jednoducho neobstojí. Európska legislatíva je v tomto prípade jasná, zákony platné v reálnom svete musia platiť aj online.

Situácia zároveň podkopáva reputáciu X medzi inzerentmi, ktorí už platformu začali opúšťať. Vedenie reagovalo len vymazaním škodlivých odpovedí a sľubmi nápravy. Orgány dohľadu však strácajú trpezlivosť a verejnosť očakáva riešenia, ktoré budú seriózne a dlhodobé.

Budúcnosť umelej inteligencie na platformách ako X tak visí na vlásku medzi inováciou a zodpovednosťou. Prípad Grok môže byť zlomovým momentom, ktorý Muskovmu tímu ukáže, že bez prísnejšej regulácie a efektívneho riadenia hrozia nielen pokuty, ale aj nenávratná strata dôvery používateľov a inzerentov. Kým algoritmy menia digitálnu stopu histórie, Európa posilňuje mantinely pre zodpovedné využívanie AI a nastavuje nové pravidlá hry pre celý technologický svet.