Anthropic povedal Pentagonu nie. Z Clauda neodstráni brzdy pre armádne použitie ani masové sledovanie
Pentagon chce „akýkoľvek zákonný spôsob použitia“ AI. Anthropic odmietol odstrániť poistky z modelu Claude, ktoré bránia masovému sledovaniu a plne autonómnym zbraniam.
Pentagon dal firme Anthropicu termín do piatka. Buď odstráni bezpečnostné poistky z modelu Claude, alebo príde tvrdý zásah zo strany štátu. Už to nie je len hádka o zmluvu. Pentagon chce, aby Anthropic odstránil poistky, ktoré má Claude zabudované priamo v logike modelu.
Šéf Anthropicu Dario Amodei vo svojom vyhlásení jasne odmieta predstavu, že firma brzdí americkú obranu. Naopak, zdôrazňuje, že boli prví medzi „frontier AI“ spoločnosťami, ktorí nasadili modely v klasifikovaných sieťach vlády USA, v národných laboratóriách aj pre zákazníkov z oblasti národnej bezpečnosti.
„Claude je rozsiahlo nasadený naprieč Ministerstvom obrany a ďalšími agentúrami národnej bezpečnosti pre kritické aplikácie,“ uvádza Amodei. Model sa dnes využíva na analýzu spravodajských informácií, modelovanie a simulácie, operačné plánovanie aj kybernetické operácie.
Anthropic zároveň pripomína, že sa vzdal „niekoľko stoviek miliónov dolárov na príjmoch“, keď odstrihol firmy napojené na čínsku komunistickú stranu a podporil exportné kontroly čipov. Anthropic sa tak snaží ukázať, že nie je brzda systému.
Ale zároveň zdôrazňuje dve hranice, ktoré odmieta prekročiť.
Masové domáce sledovanie. AI vie spojiť drobné dáta do úplného profilu človeka
Prvá výhrada sa týka masového domáceho sledovania. Anthropic podporuje zákonné zahraničné spravodajské operácie. Odmieta ale využitie AI na plošné sledovanie vlastných občanov.
Neprehliadni
„Používanie týchto systémov na masové domáce sledovanie je nezlučiteľné s demokratickými hodnotami,“ píše Amodei.
Problém podľa neho nie je len morálny. Je aj technologický. Dnes je legálne kupovať určité typy dát, pohybové záznamy, webové návyky či informácie o sociálnych väzbách. Každý z týchto dátových bodov vyzerá neškodne. No výkonná AI ich dokáže spojiť do jedného detailného obrazu života konkrétneho človeka. Automaticky. Vo veľkom meradle.
Samostatne ide o bežné údaje. V rukách silnej AI sa z nich stane kompletná mapa toho, kde sa pohybuješ, čo čítaš a s kým komunikuješ.
Amodei zároveň naznačuje, že zákon ešte nestíha reflektovať schopnosti moderných modelov. To, čo je dnes „legálne“, nemusí byť pripravené na silu, ktorú AI prináša.
Pentagon chce zbrane bez človeka. Anthropic tvrdí, že AI na to ešte nemá
Druhá červená línia je ešte citlivejšia. Ide o plne autonómne zbrane, teda systémy, ktoré vyberajú a zasahujú ciele bez človeka v rozhodovacom procese.
Anthropic priznáva, že čiastočne autonómne systémy, aké dnes vidíme napríklad na Ukrajine, sú kľúčové pre obranu demokracie. No úplné vyradenie človeka z reťazca rozhodovania považuje za problém.
„Špičkové AI systémy jednoducho nie sú dostatočne spoľahlivé na to, aby poháňali plne autonómne zbrane,“ píše Amodei. A dodáva: „Vedome neposkytneme produkt, ktorý by vystavil amerických vojakov a civilistov riziku.“
Problém je v stabilite modelu. Frontier systémy ešte stále generujú nepresnosti a reagujú citlivo na manipulované vstupy. Ak takýto systém rozhoduje o cieli, chyba už nie je len štatistika.
Anthropic tvrdí, že ponúkol spoluprácu na výskume spoľahlivosti týchto systémov. Pentagon ju podľa vyjadrenia neprijal.
Pentagon požaduje „akýkoľvek zákonný spôsob použitia“. V hre je aj zákon Defense Production Act
Podľa vyhlásenia ministerstvo obrany požaduje, aby AI firmy pristúpili na „any lawful use“ a odstránili bezpečnostné poistky aj v spomínaných prípadoch. Ak nie, hrozí odstránenie Anthropicu zo systémov, označenie firmy za „supply chain risk“ a dokonca využitie zákona Defense Production Act.
Ak by Pentagon siahol po tomto zákone, nešlo by o bežný spor s dodávateľom. Štát by prvýkrát mohol prinútiť súkromnú AI firmu prepísať vlastný model podľa armádnych požiadaviek.
Amodei upozorňuje na rozpor. Firma má byť vraj bezpečnostné riziko, no jej model je zároveň „nevyhnutný pre národnú bezpečnosť“.
A ustúpiť nechce. „Nemôžeme v dobrej viere pristúpiť na ich požiadavku,“ píše otvorene.
Zároveň dodáva, že ak si ministerstvo obrany vyberie iného dodávateľa, Anthropic zabezpečí plynulý prechod bez narušenia prebiehajúcich operácií.
