Anthropic tvrdí, že zablokoval pokusy štátom podporovaných výskumníkov použiť Claude pri výskume možných biologických zbraní
Anthropic odhalil prípady, keď vedci napojení na štátne a vojenské programy používali Claude pri výskume vírusov, vtáčej chrípky a toxínov a obchádzali jeho bezpečnostné obmedzenia.
Anthropic zachytil prípady, keď vedci napojení na štátne alebo vojenské výskumné programy používali Claude pri výskume vtáčej chrípky, chikungunya vírusu, orthopoxvírusov či toxínov. Niektorí pritom obchádzali regionálne blokácie a bezpečnostné obmedzenia služby.
Claude už vedcom nepomáha len so sumarizáciou štúdií. Vie prejsť odbornú literatúru, pracovať s výsledkami experimentov, navrhnúť ďalší postup alebo pripraviť veľkú časť grantového projektu. Anthropic teraz ukázal aj odvrátenú stranu takéhoto využitia.
Vo svojom septembrovom Threat Intelligence Report firma opisuje päť prípadov biologického výskumu, ktoré jej bezpečnostný tím preveroval podrobnejšie. Objavili sa medzi nimi vírusy schopné vyvolať vážne ochorenia aj látky s paralytickými účinkami. V niektorých prípadoch zároveň používatelia skrývali svoju polohu alebo sa k modelu dostávali cez sprostredkovateľov.
Claude odmietol pomôcť s projektom, ktorý riešil prenos a únik vírusu pred imunitou
Jeden z prípadov Anthropic zachytil v máji 2026. Claude dostal požiadavku súvisiacu s grantom na gain-of-function výskum chikungunya vírusu. Bezpečnostný systém ju odmietol.
Vedci skúmali vlastnosti spojené s prenosom vírusu a jeho schopnosťou unikať imunitnej odpovedi. Podľa dokumentov, ktoré Anthropic analyzoval, mali na projekte pracovať civilní výskumníci vo vojenskom výskumnom ústave.
Neprehliadni
Gain-of-function pritom automaticky neznamená výrobu biologickej zbrane. Výskumníci podobnými experimentmi zisťujú napríklad to, ktoré mutácie môžu zmeniť správanie vírusu a na čo sa treba pripraviť pri vývoji vakcín alebo liečby. Riziko spočíva v tom, že rovnaké poznatky sa dajú využiť aj opačne.
V tomto prípade bolo podozrivé aj to, ako sa používatelia ku Claude dostávali. Nachádzali sa v regióne, ktorý Anthropic nepodporuje, a komunikáciu smerovali cez infraštruktúru v USA. Keď Claude niektorú otázku odmietol, používaná platforma ju vedela poslať inému AI modelu s miernejšími obmedzeniami.
Anthropic účty zablokoval a pomáhal odstaviť aj sprostredkovateľskú službu. Tá sa podľa firmy po niekoľkých dňoch objavila znova s novými účtami.
Vedec skúmal, ako sa vtáčia chrípka môže prispôsobiť cicavcom
Ďalší výskumník pracoval s vysoko patogénnou vtáčou chrípkou. S Claude komunikoval celé týždne a počet správ sa dostal do tisícov.
Zaujímali ho genetické zmeny, ktoré súvisia s adaptáciou vírusu na cicavce a so vznikom závažného ochorenia. Model používal pri štúdiu odbornej literatúry, spracovaní dát, plánovaní práce aj pri výbere experimentov, ktorým sa oplatí venovať viac času.
Anthropic pri tomto prípade nevidel zásadný technický skok, ktorý by Claude výskumníkovi poskytol. Citlivejšie požiadavky bezpečnostné systémy obmedzovali a používateľ pracoval najmä so slabšími modelmi Sonnet 4 a Haiku 4.5. AI mu skôr zrýchľovala každodennú vedeckú prácu.
Aj to však môže mať význam. Činnosti, ktoré by inak zabrali hodiny čítania, triedenia a porovnávania výsledkov, zvládne model podstatne rýchlejšie.
Celý návrh výskumu orthopoxvírusov vznikol približne za hodinu
Výraznejšiu pomoc Anthropic zaznamenal pri orthopoxvírusoch. Používateľ cez sprostredkovateľskú službu zapojil model Opus 5 a približne za hodinu s ním pripravil podstatnú časť výskumného návrhu.
Claude pomáhal s hypotézou, návrhom experimentov, štatistickým plánom aj alternatívnymi postupmi. Výskum sa sústredil na gény, pomocou ktorých vírusy ovplyvňujú imunitnú odpoveď hostiteľa.
Do skupiny orthopoxvírusov patrí vírus mpox aj variola vírus spôsobujúci pravé kiahne. Samotný výskumný projekt však bezpečnostný systém nevyhodnotil ako jednoznačne škodlivý a komunikáciu nezablokoval. Presne takéto prípady robia kontrolu biologických tém komplikovanou. Rovnaký experiment môže mať medicínsky význam a zároveň vytvoriť poznatky, ktoré sa dajú zneužiť.
Claude pomáhal hľadať nové molekuly medzi látkami s paralytickými účinkami
Ďalší výskumník zo štátom podporovaného programu používal Claude pri tvorbe databázy peptidov pochádzajúcich z jedov. Na ňu nadviazal systém, ktorý mal vyhľadávať molekuly s vybranými vlastnosťami.
Takéto látky sa skúmajú aj pri vývoji liekov. V analyzovaných dátach sa však objavili aj štruktúry spojené s paralytickými účinkami.
Ešte väčšiu pozornosť vzbudil posledný z piatich prípadov. Vedec pracoval na počítačovom redizajne toxínov a Claude využíval pri viacerých projektoch. Pri príprave štvrťročnej správy modelu zadal, aby konkrétny bakteriálny toxín a vírusový proteín neopisoval príliš presne a ich identitu ponechal neurčitú.
Anthropic súvisiace účty v máji 2026 zablokoval.
Anthropic za 30 dní zachytil desiatky podobných výskumných projektov
Anthropic pri spätnej kontrole 30 dní používania Claude našiel približne 35 výskumných aktivít spojených s nepriateľskými štátnymi inštitúciami. Väčšina bola bežným civilným výskumom, pozornosť firmy pritiahli najmä projekty s dual-use potenciálom a snahy obchádzať obmedzenia.
Firma nezverejnila krajiny ani zapojené inštitúcie. Pri takomto výskume sa totiž rovnaké poznatky dajú použiť pri vývoji liekov a vakcín, ale aj oveľa nebezpečnejším spôsobom.
Anthropic chce pri citlivom výskume preverovať aj to, kto sa k modelu pripája
Najväčší problém pre Anthropic nepredstavovali samotné biologické otázky, ale spôsob, akým sa k modelu niektorí používatelia dostávali. Firma zachytila relay služby, pripájanie cez americkú infraštruktúru aj presmerovanie odmietnutých požiadaviek na iné AI modely.
Pri novších modeloch preto sprísnila pravidlá pre citlivý biologický výskum. Pri najrizikovejších témach chce kontrolovať nielen obsah požiadavky, ale aj pôvod používateľa a inštitúciu, pre ktorú pracuje.
Anthropic totiž pri vyšetrovaných prípadoch často nedokázal zo samotnej otázky určiť, na čo chce vedec získané poznatky použiť. A práve na tom dnes ochrany AI pri biologickom výskume najčastejšie narážajú.
