Trump chce vytvoriť vlastnú „AI Force“, ktorá bude mať vlastného „AI cára“: Vývoj umelej inteligencie ale spomaľovať nechce
Donald Trump chce v USA vytvoriť „AI Force“ po vzore Space Force a zaviesť funkciu AI „cára“. Zatiaľ však nie je jasné, aké právomoci nový tím dostane.
Donald Trump chce v Spojených štátoch vytvoriť nový tím, ktorý sa bude venovať umelej inteligencii. Prezident ho prirovnal k Space Force a oznámil aj vznik novej funkcie AI „cára“. Konkrétne právomoci ani podoba nového orgánu však zatiaľ nie sú známe.
Oznámenie prichádza v čase, keď sa v technologickom svete čoraz viac hovorí o rizikách pokročilej umelej inteligencie. Niektoré AI systémy už dokážu samostatne vykonávať zložité úlohy, pracovať s internetom či používať rôzne nástroje. Práve autonómni AI agenti sa v posledných mesiacoch dostali do centra pozornosti po prípadoch, keď vykonali kroky, ktoré ich tvorcovia pôvodne nezadali, informuje The Guardian.
Trump chce vlastnú „AI Force“
Trump oznámil svoj plán v príspevku na sociálnej sieti. Podľa jeho predstavy má nový tím fungovať podobne ako Vesmírne sily, ktoré Spojené štáty vytvorili počas jeho prvého prezidentského obdobia. Prezident zároveň uviedol, že čoskoro oznámi meno človeka, ktorý sa stane AI „cárom“. Očakáva od neho vysokú úroveň odbornosti.
„Vytváram AI Force, podobne ako som vytvoril Space Force, ktorá bola počas môjho prvého volebného obdobia obrovským úspechom,“ napísal Trump.
Zatiaľ však nie je jasné, či bude nový orgán dohliadať na technologické firmy, bezpečnosť AI systémov, výskum alebo presadzovanie pravidiel. Trump totiž vo svojom oznámení neposkytol podrobnosti o tom, čo presne bude AI Force robiť. Napriek tomu môže ísť o významnú zmenu. Trump totiž ešte len niekoľko dní pred oznámením odmietal predstavu, že Spojené štáty potrebujú ďalšie výrazné obmedzenia pre vývoj umelej inteligencie.
Prezident nechce AI spomaľovať
Trump dlhodobo tvrdí, že príliš prísne pravidlá by mohli poškodiť americký technologický sektor. Jedným z hlavných dôvodov je konkurencia s Čínou. Spojené štáty a Čína súperia o technologické prvenstvo v oblasti umelej inteligencie. Trump preto nechce, aby americké firmy spomalili vývoj v čase, keď sa Čína snaží posilniť vlastné AI technológie.
Neprehliadni
Prezident dokonca označil obavy z údajného nebezpečenstva umelej inteligencie za „hoax“. Zároveň uviedol, že jeho administratíva nebude brzdiť rast tohto odvetvia.
„AI je ďalšia priemyselná revolúcia alebo internet, no bude ešte väčšia a významnejšia,“ napísal Trump.
Podľa jeho odhadu by umelá inteligencia mohla v budúcnosti predstavovať až štvrtinu amerického HDP.
Trump zároveň tvrdí, že prípadných „zlých aktérov“ v oblasti AI možno riešiť prostredníctvom existujúceho trestného a občianskeho práva. Neuviedol však, ako presne by mala nová AI Force do tohto systému zapadnúť.
Problémom sú autonómni AI agenti
Debata o bezpečnosti AI pritom v poslednom období zosilnela aj pre konkrétne incidenty. Jedným z nich bol prípad, ktorý sa týkal AI agentov vytvorených spoločnosťou OpenAI. Nezávislé vyšetrovanie organizácie METR zistilo, že približne 1 200 agentov si medzi sebou vymenilo viac ako 70 000 správ a súborov. Približne 700 z nich následne zaútočilo na platformu Hugging Face, hoci takúto úlohu pôvodne nedostali.
Nešlo teda iba o klasický chatbot, ktorý odpovedá na otázky. AI agenti dokážu vykonávať sériu krokov samostatne a pri splnení zadanej úlohy používať rôzne nástroje. Práve táto vlastnosť vyvoláva otázky, čo sa stane, keď systém nesprávne pochopí cieľ alebo nájde spôsob, ako ho splniť úplne inak, než jeho tvorcovia očakávali.
Na potrebu opatrnosti preto upozorňujú aj ľudia priamo z technologického sektora. Medzi osobnosti, ktoré v poslednom období hovorili o potrebe spomalenia alebo väčšej kontroly vývoja AI, patria napríklad šéf OpenAI Sam Altman, šéf Anthropic Dario Amodei či Elon Musk.
Trumpov postoj je však odlišný. Podľa neho by Spojené štáty nemali riskovať stratu technologického náskoku pred Čínou.
Opatrnosť požadujú aj republikáni
Trump zároveň čelí tlaku aj vo vlastnej politickej strane. Niektorí republikánski politici požadujú väčšiu kontrolu nad vývojom umelej inteligencie. Guvernér Floridy Ron DeSantis podporil zavedenie kontrol nad AI. Generálny prokurátor Floridy James Uthmeier zase presadzuje možnosť trestne stíhať technologické firmy za nezákonné konanie, ktoré ich systémy umožnia vykonať.
Podobne sa vyjadril aj republikánsky guvernér Utahu Spencer Cox. Ten vyzval Kongres na prijatie zákonov zameraných na bezpečnosť AI a podporil aj obmedzenia predaja najvýkonnejších technológií do Číny. V Kalifornii zase guvernér Gavin Newsom oznámil vznik panelu, ktorý má pripraviť pravidlá pre bezpečnosť AI spoločností. Jednou z diskutovaných možností je dokonca mechanizmus na vypnutie AI programu v prípade, že začne konať v rozpore s pokynmi svojich tvorcov.
Trumpovo oznámenie tak prichádza uprostred širšej debaty o tom, ako Spojené štáty nastavia hranicu medzi rýchlym technologickým rozvojom a bezpečnostnými opatreniami.
Prezident chce podľa vlastných slov udržať americký náskok pred Čínou. Zároveň však jeho plán na vytvorenie AI Force naznačuje, že aj jeho administratíva počíta s potrebou špeciálneho dohľadu nad rýchlo sa rozvíjajúcou technológiou. Aké konkrétne úlohy nový tím dostane, má byť jasnejšie až po predstavení jeho štruktúry a vedenia.
