Istraživači pronalaze skrivene biosigurnosne prijetnje

Proteini su motori i gradivni blokovi biologije jer pokreću način na koji se organizmi prilagođavaju, misle i funkcioniraju. Umjetna inteligencija pomaže znanstvenicima u dizajniranju novih proteinskih struktura iz aminokiselinskih sekvenci, otvarajući vrata novim terapijama i lijekovima.

Ali s tom moći dolazi i ozbiljna odgovornost, jer bi mnogi od ovih alata otvorenog koda mogli biti podložni zlouporabi.

Kako bi razumjeli rizik, znanstvenici Microsofta su pokazali kako se alati otvorenog koda za dizajn proteina umjetne inteligencije (AIPD) mogu iskoristiti za generiranje tisuća sintetičkih verzija određenog toksina, mijenjajući njegov slijed aminokiselina uz očuvanje njegove strukture. Eksperiment, proveden računalnom simulacijom, otkrio je da bi većina tih redizajniranih toksina mogla izbjeći sustave probira koje koriste tvrtke za sintezu DNK.

To otkriće razotkrilo je slijepu točku u biosigurnosti i u konačnici dovelo do stvaranja suradničkog, međusektorskog napora posvećenog povećanju otpornosti sustava za probir DNK na napredak umjetne inteligencije. Tijekom 10 mjeseci, tim je diskretno i brzo radio na rješavanju rizika, formulirajući i primjenjujući nove procese „crvenog timinga“ u biosigurnosti kako bi razvio „zakrpu“ koja je globalno distribuirana tvrtkama za sintezu DNK.

Njihov recenzirani rad, objavljen 2. listopada u časopisu Science, detaljno opisuje početne nalaze i naknadne akcije koje su ojačale globalne mjere biosigurnosti.

Eric Horvitz, glavni znanstveni direktor Microsofta i voditelj projekta, objašnjava kako je u suradnji s Bruceom Wittmannom, višim primijenjenim bioznanstvenikom u timu, krenuo odgovoriti na pitanje: „Mogu li se današnji najsuvremeniji alati za dizajn proteina umjetne inteligencije koristiti za redizajniranje toksičnih proteina kako bi se očuvala njihova struktura, i potencijalno njihova funkcija, a istovremeno izbjeglo otkrivanje trenutnim alatima za probir?“  Odgovor na to pitanje bio je da bi mogli.

Otkrili su da softver i procesi probira nisu bili dovoljni u otkrivanju „parafrazirane“ verzije zabrinjavajućih proteinskih sekvenci. Dizajn proteina pokretan umjetnom inteligencijom jedno je od najuzbudljivijih i najbržih područja umjetne inteligencije trenutno, ali ta brzina također izaziva zabrinutost zbog potencijalne zlonamjerne upotrebe AIPD alata.

Nakon pokretanja projekta Paraphrase, istraživači vjeruju da su prilično daleko stigli u karakterizaciji i rješavanju početnih zabrinutosti u relativno kratkom vremenu.

Postoji više načina na koje se umjetna inteligencija može zloupotrijebiti za inženjering biologije, uključujući područja izvan proteina.

"Očekujemo da će ovi izazovi potrajati, stoga će postojati stalna potreba za identificiranjem i rješavanjem novih ranjivosti. Nadamo se da naša studija pruža smjernice o metodama i najboljim praksama koje drugi mogu prilagoditi ili na kojima mogu graditi. To uključuje prilagođavanje metoda iz scenarija odgovora na kibernetičke hitne slučajeve i razvoj tehnika za „crveno udruživanje“ za umjetnu inteligenciju u biologiji, simuliranje uloga i napadača i branitelja kako bi se iterativno testiralo, izbjeglo i poboljšalo otkrivanje prijetnji koje generira umjetna inteligencija", navodi Horvitz.

Microsoftov istraživač dodaje kako je natom putu bilo nekoliko iznenađenja. "Bilo je iznenađujuće vidjeti koliko se učinkovito međusektorski tim mogao tako brzo okupiti i tako blisko surađivati, formirajući kohezivnu grupu koja se redovito sastajala mjesecima. Prepoznali smo rizike, uskladili pristup, prilagodili se nizu nalaza i posvetili se procesu i trudu sve dok nismo razvili i distribuirali rješenje", ističe Horvitz koji kaže da je važno da svi razumiju moć i obećanje ovih AI alata, uzimajući u obzir njihov nevjerojatan potencijal da omoguće revolucionarna otkrića u biologiji i medicini, kao i našu kolektivnu odgovornost da koriste društvu, a ne da uzrokuju štetu.

"Gotovo sva velika znanstvena dostignuća imaju dvojnu namjenu, nude velike koristi, ali nose i rizik. Važno je zaštititi se od opasnosti dok se istovremeno iskorištavaju koristi, posebno u umjetnoj inteligenciji za biologiju i medicinu, gdje je potencijal za napredak u zdravstvu ogroman. Naša studija pokazuje da je moguće istovremeno ulagati u inovacije i zaštitne mjere. Izgradnjom zaštitnih ograda, politika i tehničke obrane možemo pomoći u osiguravanju da ljudi i društvo imaju koristi od obećanja umjetne inteligencije, a istovremeno smanjujemo rizik od štetne zlouporabe. Ovaj dvojni pristup ne odnosi se samo na biologiju, to je okvir za to kako bi čovječanstvo trebalo ulagati u upravljanje napretkom umjetne inteligencije u svim disciplinama i područjima", zaključuje Horvitz.