OpenAI sa dohodla s Pentagonom: „Analýza dát áno, zbrane nie“. Toto sú tri prísne zákazy, ktoré jej AI nesmie porušiť
Dohoda OpenAI s Pentagonom vyvolala kritiku aj odchod niektorých používateľov ChatGPT. Firma tvrdí, že AI nebude použitá na sledovanie obyvateľov ani riadenie autonómnych zbraní.
OpenAI sa dostala pod paľbu kritiky po tom, čo potvrdila spoluprácu s americkým Pentagonom. Informácia o dohode vyvolala medzi časťou používateľov ChatGPT ostrú reakciu. Niektorí dokonca oznámili, že službu opúšťajú a prechádzajú ku konkurenčným chatbotom.
Mnohí používatelia sa obávajú, že technológia, ktorú dnes používajú na písanie textov, riešenie problémov či programovanie, by sa mohla postupne objaviť aj v systémoch štátu alebo armády.
Správa preto okamžite vyvolala reakcie aj medzi výskumníkmi umelej inteligencie a ľuďmi z technologického sektora. Kritici upozorňujú najmä na to, že podobné partnerstvá môžu postupne posúvať hranicu medzi spotrebiteľskými AI nástrojmi a technológiami využívanými v oblasti národnej bezpečnosti.
OpenAI potvrdila spoluprácu s Pentagonom. AI má pomáhať s analýzou dát a kybernetickou bezpečnosťou
OpenAI nedávno potvrdila, že spolupracuje s americkým ministerstvom obrany na testovaní generatívnej umelej inteligencie vo viacerých vládnych úlohách. Podľa dostupných informácií má ísť najmä o využitie pri analýze veľkého množstva dát, kybernetickej bezpečnosti, logistickom plánovaní či administratívnych procesoch.
V praxi by tak AI mohla napríklad pomáhať analytikom rýchlejšie spracovať rozsiahle dokumenty alebo vyhľadávať súvislosti v obrovských databázach informácií.
Neprehliadni
Dôležité je, že podľa OpenAI nejde o verejnú verziu ChatGPT, ktorú používajú milióny ľudí. Systémy majú fungovať v oddelenom a zabezpečenom vládnom prostredí.
Podobné experimenty pritom nie sú úplne nové. Vládne agentúry testujú rôzne AI nástroje už niekoľko rokov, no prudký pokrok generatívnej umelej inteligencie v poslednom období záujem o tieto technológie výrazne zvýšil.
Kritika prišla rýchlo. Ľudia sa obávajú sledovania a vojenského využitia AI
Hneď po zverejnení dohody sa objavila vlna kritiky. Ozvali sa nielen používatelia ChatGPT, ale aj výskumníci umelej inteligencie či niektorí zamestnanci technologických firiem.
Najčastejšie sa objavujú dve obavy.
Prvou je domáce sledovanie obyvateľov. Kritici sa obávajú, že generatívna AI by mohla pomáhať analyzovať obrovské množstvo osobných dát a tým uľahčiť sledovanie občanov.
Druhou je možnosť, že by sa podobná technológia mohla postupne dostať aj do vojenských operácií alebo zbraňových systémov. Aj keď dnes ide najmä o analýzu dát, mnohí odborníci upozorňujú, že hranica medzi analytickými nástrojmi a bojovými systémami môže byť v budúcnosti veľmi tenká.
OpenAI po kritike upravila podmienky dohody
Po vlne kritiky spoločnosť OpenAI oznámila, že do dohody s Pentagonom pridala presnejšie pravidlá o tom, ako sa jej systémy môžu používať.
Najdôležitejšia veta v upravenej dohode hovorí, že AI systémy OpenAI nesmú byť úmyselne použité na domáce sledovanie občanov Spojených štátov. V texte sa dokonca výslovne uvádza, že to platí aj pre monitorovanie ľudí prostredníctvom komerčne získaných osobných dát.
Firma zároveň zdôraznila, že jej technológia nesmie riadiť autonómne zbraňové systémy. Inými slovami, AI nemá rozhodovať o použití sily bez ľudského dohľadu.
OpenAI tiež uviedla, že systémy budú nasadené výhradne v cloudovom prostredí. To znamená, že firma si zachová kontrolu nad bezpečnostnými mechanizmami a nad tým, ako sa technológia používa.
Ďalším zaujímavým detailom je, že podľa vyjadrenia firmy by tieto AI systémy nemali používať spravodajské agentúry ako NSA. Ak by o ne mali záujem, musela by vzniknúť nová dohoda.
Technologické firmy sa čoraz častejšie dostávajú aj do vládnych projektov
Prípad OpenAI zároveň ukazuje, ako rýchlo sa umelá inteligencia dostáva aj do vládnych a bezpečnostných systémov. Technológia, ktorú dnes používajú milióny ľudí na písanie textov alebo programovanie, začína zaujímať aj štátne inštitúcie.
Nie je to pritom len OpenAI. V posledných rokoch začali generatívnu AI testovať rôzne vládne agentúry, armády aj bezpečnostné organizácie. Najčastejšie ide o analýzu dát, vyhodnocovanie informácií alebo automatizáciu administratívnych úloh.
Práve preto podobné partnerstvá vyvolávajú čoraz viac diskusií o tom, kde by mala byť hranica medzi technologickými firmami a štátnymi bezpečnostnými projektmi.
Dohoda sa netýka bežnej verzie ChatGPT
Pre ľudí, ktorí ChatGPT používajú na písanie textov, preklady alebo programovanie, sa zatiaľ nič nemení. Dohoda sa týka len systémov nasadených vo vládnom prostredí, nie verejnej verzie služby.
OpenAI zároveň tvrdí, že jej modely nemajú byť používané na domáce sledovanie obyvateľov USA ani na riadenie autonómnych zbraní. Firma tiež zdôrazňuje, že systémy budú fungovať v cloude a pod jej bezpečnostnými mechanizmami.
