Bill Gates upozorio da je ‘AI moćan da izazove milijardu žrtava’

Bill Gates je nekad optimistično gledao na umjetnu inteligenciju. U srpnju 2023. napisao je da su rizici stvarni, ali rješivi. No, tri godine kasnije, suosnivač Microsofta upozorava da bi zlonamjerni pojedinci mogli iskoristiti tehnologiju za masovna ubojstva.

“Umjetna inteligencija je definitivno dovoljno moćna da izazove događaje s milijardu žrtava”, rekao je Gates u nedjeljnom intervjuu za podcast Meet the Press. “Nikada nije postojalo oružje tako moćno kao što je spoj ljudi sa zlim namjerama i najnovijih AI alata.”

AI i biološko oružje

Gates već godinama govori o biološkim prijetnjama, još prije pojave ChatGPT-a. U svom TED govoru 2015. upozorio je da svijet nije spreman za bolesti koje se brzo šire, poput ebole, a nakon što je covid-19 opteretio sustave vlasti, napisao je knjigu “Kako spriječiti sljedeću pandemiju”.

Sličnu zabrinutost pokazao je i jučer u razgovoru s Ezrom Kleinom iz New York Timesa, gdje je istaknuo opasnost koju AI predstavlja u kontekstu biološkog oružja. “Umjetna inteligencija je dosegnula razinu na kojoj može omogućiti bioteroristu da ubije stotine milijuna ljudi. Ta mogućnost danas postoji”, izjavio je.

Gates je dodao da napredak u umjetnoj inteligenciji može pomoći u dizajniranju novih molekula i potencijalno stvoriti patogen “gori od velikih boginja”. Objasnio je da su za to nekad bili potrebni resursi cijele države, a danas to uz pomoć AI-ja mogu izvesti i male skupine.

Usporedba s nuklearnim oružjem

“Ovo je najopasnije čemu se čovječanstvo ikad približilo”, rekao je. “U usporedbi s ovim, nuklearno oružje djeluje bezazleno.” Gates smatra da je neposredna opasnost od zlouporabe veća od dugoročne mogućnosti da sustavi izmaknu ljudskoj kontroli.

Tekst se nastavlja ispod oglasa

Taj rizik, kaže, dodatno povećava to što vladama nedostaje tehnička stručnost kakvu su povijesno razvile za nuklearno oružje, budući da je umjetna inteligencija potekla iz privatnog sektora. Za Meet the Press je izjavio da bi vlade trebale zahtijevati od developera da u sustave ugrade nadzorne i zaštitne mehanizme, što uključuje i zapise koji bi vlastima omogućili uvid u korištenje modela.

“Nitko ne smatra da je samoregulacija dovoljna”, rekao je Gates. Ipak, on ne misli ni da je sigurnosni prekidač dovoljan, jer umjetna inteligencija još nije na razini na kojoj bi mogla preuzeti kontrolu nad računalima i oduprijeti se gašenju. “Ako želite suzbiti loše ponašanje, morate imati uvid i zapise o tome što se radi. Sami sigurnosni prekidači ne bi spriječili takve tragedije”, rekao je.

Vodeći laboratoriji usporavaju razvoj

Gatesa prvenstveno brine ljudska zlouporaba, ali industrija se suočava i s drugim strahom: da će se AI sustavi početi ponašati na načine koje njihovi kreatori ne mogu kontrolirati. Bivši istraživač OpenAI-ja Jacob Coxon dao je otkaz u Anthropicu ranije ovog mjeseca i optužio oba vodeća laboratorija da “jure prema samopoboljšavajućoj superinteligenciji i kockaju se s našim životima”.

Izvršni direktor Anthropica Dario Amodei u eseju je ovog mjeseca pozvao na usporavanje razvoja, a šef OpenAI-ja Sam Altman također je priznao da će industrija možda morati usporiti treniranje naprednih modela kako bi se uskladila sa sigurnosnim standardima.

NOVO.hr

foto: epa