Dokáže ti AI pomôcť vyrobiť biologické zbrane alebo syntetické vírusy? Experti reagujú na populárne bulvárne titulky
V nedávnej dobe sa objavili články, podľa ktorých ti vie umelá inteligencia pomôcť vyrobiť biologické zbrane alebo syntetické vírusy. Pravda je ale úplne inde.
Umelá inteligencia preniká do našich životov a niektorí túto technológiu oslavujú, zatiaľ čo iní vyjadrujú svoje obavy. Na internete môžeme častokrát vidieť články narážajúce na potenciálne hrozby umelej inteligencie.
Nedávno sa objavili titulky, ktoré tvrdia, že AI modely ako ChatGPT môžu užívateľom veľmi jednoducho ukázať, ako sa robí biologická zbraň, alebo že umelá inteligencia môže pomôcť vyrobiť vírusy, ktoré vyhubia celý život na Zemi. Tieto články vyvolávajú u ľudí dojem, že umelá inteligencia môže hocikomu s nečistými úmyslami poskytnúť prostriedky na to, aby spôsobil škodu gigantických rozmerov. Výskumníci z Bulletin of the Atomic Sciences ale uvádzajú veci na pravú mieru.
Naprieč históriou takmer každý skutočne revolučný vynález predstavoval dvojsečnú zbraň, vysvetľujú výskumníci. Na jednu stranu mala technológia potenciál pomôcť ľudstvu a aj bola pre tento účel stvorená. Na tú druhú sa však stále dala zneužiť aj na nekalé úmysly.
Môžeme hovoriť napríklad o vývoji genetického inžinierstva a technológií na syntézu génov. Rovnaký technologický míľnik predstavuje aj umelá inteligencia a je pochopiteľné, že ľudia majú obavy. Experti ale prízvukujú, že v súčasnom stave AI je veľmi nepravdepodobné, že by sa naplnil najhorší scenár, ktorý predkladajú bulvárne titulky. Jednoduchšie povedané, v najbližších rokoch skutočne nedôjde k vyššiemu počtu prípadov bioterorizmu.
Experti zároveň poukazujú na to, že aj historicky bolo používanie biologických zbraní extrémne vzácne. Je teda nepravdepodobné, že by sa táto štatistika s pomocou umelej inteligencie výrazne zmenila. Výskumníci dodávajú, že je dobré si byť vedomý rizík, ktoré môže umelá inteligencia predstavovať, no tieto riziká nie sú ani zďaleka tak závažné, ako to prezentujú bulvárne titulky.
Neprehliadni
Bezpečnosť umelej inteligencie
Spoločnosť OpenAI, tvorca chatbota ChatGPT, ešte pred zverejnením najnovšej verzie modelu mimoriadne prísne testuje bezpečnosť tohto modelu. Aj po zverejnení spoločnosť OpenAI publikuje takzvanú systémovú kartu a postupne adresuje riziká, ktoré sa objavia.
“Najväčším rizikovým faktorom modelu GPT-4 je to, že dokáže rýchlo generovať verejne dostupné, no ťažko vyhľadateľné informácie. Tým výrazne znižuje čas, ktorý človek strávi výskumom a zhromažďovaním informácií spôsobom, aby sa v nich vyznal aj človek, ktorý nie je odborníkom v danej oblasti,” vyjadrila sa spoločnosť OpenAI.
Testovanie modelu teda ukázalo, že umelá inteligencia dokáže s najväčšou pravdepodobnosťou poskytnúť užitočné informácie aj pre ľudí, ktorí nemajú odborné skúsenosti v určitom odbore. Nie dlho po zverejnení tejto informácie vedecký inštitút MIT vykonal zaujímavú štúdiu, ktorá ešte viac rozvírila vody AI bezpečnosti.
Autori výskumu nariadili študentom, aby s pomocou AI modelu našli spôsob, ako vytvoriť nebezpečný vírus s potenciálom spôsobiť globálnu pandémiu. Stačila len hodina a študenti s pomocou AI modelu priniesli zoznam štyroch patogénov, ktoré by mali potenciál spôsobiť pandémiu.
Umelá inteligencia poukázala na genetické mutácie, o ktorých sa písalo v literatúre. AI model zároveň popísal, ako by sme dokázali vytvoriť nové vírusy s pomocou syntetickej DNA. AI zároveň navrhla zoznam spoločností venujúcich sa syntéze DNA v prípade, ak užívateľ nemá potrebné schopnosti alebo vybavenie.
Štúdia z MIT bola dôkazom toho, ako môže AI uľahčiť prácu ľuďom so zlými úmyslami, ktorí ale nemajú žiadne vedecké pozadie a skúsenosti na vytvorenie biologickej zbrane.
Druhá strana mince
Experti priznávajú, že umelá inteligencia môže priniesť citlivé informácie pre ľudí s nečistými úmyslami jednoduchšie. Na druhú stranu ale ide o informácie, ktoré môže tento človek voľne nájsť, pričom mu stačí vedieť len narábať s vyhľadávačom o niečo lepšie.
Aj keby človek získal potrebné informácie o tom, ako vyrobiť biologickú zbraň, jej výroba je stále otázkou dostupných prostriedkov. Vytvorenie biologickej zbrane je extrémne nákladný a komplikovaný proces. Ak si teda niekto prečíta ako vyrobiť biologickú zbraň, pravdepodobne nebude mať prostriedky na to, aby to urobil. Ak aj má prostriedky, neznamená to, že sa mu to naozaj aj podarí. Experti vysvetľujú, že aj keby mal niekto prostriedky a schopnosť tento projekt dostať do konca, táto osoba alebo skupina nebude potrebovať pomoc AI modelu.
