Umelá inteligencia dokáže až desivo jednoducho navrhnúť biologické zbrane, ktoré prejdú cez bezpečnostné protokoly
Umelá inteligencia dokáže vytvoriť nové biologické zbrane tak jednoducho, ako dokáže vytvoriť nové lieky.
Umelá inteligencia ti môže pomôcť vyliečiť choroby. Rovnaké nástroje ale môžu uľahčiť vytvorenie biologickej zbrane, ktorú dnešné kontroly ani nezachytia. Informuje o tom Techxplore.
Vedci z Microsoftu vykonali tvrdý test. Použili verejne dostupné AI nástroje na vytvorenie viac ako 76 000 variácií známych nebezpečných proteínov (medzi nimi aj sekvencie súvisiace s ricínom). Nevyrobili žiadne jedy v laboratóriu, išlo len o návrhy genetických inštrukcií, dáta, ktoré by niekto mohol poslať firme vyrábajúcej syntetickú DNA. Tieto návrhy poslali do štyroch bežne používaných bio‑bezpečnostných filtrov (BSS), ktoré firmy používajú pri kontrole objednávok. A výsledok ťa prekvapí. Značná časť týchto AI‑vytvorených sekvencií prešla kontrolou bez povšimnutia.
Prečo to nie je len akademická debata? Lebo BSS fungujú podľa databázy známych hrozieb, porovnávajú novú sekvenciu s tým, čo už poznáme. Ak AI vygeneruje variantu, ktorá v databáze nie je, filter ju nemusí rozpoznať. Keď Microsoft spätne spolupracoval s poskytovateľmi týchto nástrojov, upravili databázy a dolaďovali algoritmy. Po týchto opravách dokázali nástroje v druhom kole zachytiť až 97 % najnebezpečnejších návrhov. Znie to dobre, no stále zostalo 3 %, ktoré si systém nevšimol.
Dôležité je mimoriadne prísne testovanie
Treba zdôrazniť dve veci. Po prvé to, že AI navrhne nebezpečnú sekvenciu, neznamená automaticky, že niekto dokáže z toho urobiť funkčný jed alebo patogén. Ide o počítačové predpovede, nevieme, či by výsledný proteín fungoval v reálnom svete. Po druhé, práve preto sú takéto testy kľúčové. Ukazujú slabé miesta skôr, než ich môže zneužiť niekto so zlými úmyslami.
Tento výskum tiež odhaľuje širší problém. AI nielen obchádza súčasné filtre, ona znižuje aj prah pre experimentovanie. Už to nie sú len štátne programy s obrovskými rozpočtami.
Neprehliadni
AI dokáže optimalizovať laboratórne protokoly tak, že aj menej skúsený človek zvládne zložité kroky, odhaliť zraniteľné miesta v distribučnom reťazci biologických materiálov a navrhnúť variácie proteínov, ktoré sa vyhnú tradičným detekčným rutinám.
Inými slovami, AI „demokratizuje“ možnosť tvorby biologických hrozieb, a to mení pravidlá hry. Riziko už nie je len pre veľké štáty, ale týka sa malých laboratórií, súkromných skupín a slabších štátov.
„Veríme, že prebiehajúci pokrok v dizajne proteínov za pomoci umelej inteligencie je veľkým prísľubom pre riešenie kritických výziev v oblasti zdravia a vied o živote, s potenciálom priniesť prevažne pozitívne dopady na ľudí a spoločnosť. Avšak, rovnako ako v prípade iných rozvíjajúcich sa technológií, je tiež kľúčové proaktívne identifikovať a zmierňovať riziká vyplývajúce z nových možností,“ uviedli vedci vo svojej štúdii, ktorá bola publikovaná v časopise Science.
Microsoftov tím však ukázal aj pozitívny príklad zodpovednosti. Red‑teaming, teda zámerné „hackovanie“ vlastných systémov, testovanie, kde filtre zlyhajú, a následné zdieľanie poznatkov s poskytovateľmi BSS. Takéto samoregulujúce kroky majú veľký etický význam. Keď veľké firmy vykonajú takéto testy a zverejnia výsledky, tlačia celý sektor, aby zaviedol prísnejšie bezpečnostné štandardy. To nie je len technický problém, je to morálna povinnosť vývojárov a firiem, ktoré stoja za pokročilými modelmi.
Obavy ostávajú
Otázka open‑source modelov pritom zostáva tvrdá. Ak sú pokročilé AI nástroje voľne dostupné, kontrola ich zneužitia sa stáva takmer nemožná. Bezpečnostní experti preto diskutujú, či by sa prístup k určitým modelom nemal obmedziť len na kontrolované prostredie laboratórií. Legislatíva a medzinárodné dohody si budú musieť určiť hranice dostupnosti, inak sa technológia môže vymknúť spod kontroly.
Čo by sme mali robiť teraz? Firma, ktorá vyrába DNA, musí pravidelne robiť red‑teaming a okamžite aktualizovať filtre. Vývojári AI musia implementovať bezpečnostné poistky už pri návrhu modelov. Regulátori musia definovať, kedy treba obmedziť prístup k nebezpečným nástrojom. A medzinárodné zdieľanie informácií o hrozbách musí fungovať rýchlejšie než dnes.
AI prináša obrovské prínosy v medicíne aj v biotechnológii, no zároveň otvára nové slabiny. Ak nechceme, aby sme doháňali problémy zo zbrane generovanej kódom, musíme byť proaktívni. Znamená to testovať, opravovať a tvoriť pravidlá skôr, než sa z nich stanú nočné mory.
