Колико је опасна трка у развоју ВИ – програмери страхују, део Силицијумске долине одмахује руком

Један од истраживача вештачке интелигенције, који је напустио компанију „Антропик", изјавио је да су људи који раде на развоју ове технологије „стварно уплашени“ брзином којом она напредује и последицама које би могла имати по човечанство.

Истраживач Џејкоб Коксон је у разговору за Би-Би-Си говорио о својој објави оставке на друштвеним мрежама, која се потом муњевито проширила по мрежи, а у којој је изразио забринутост због ризика да вештачка интелигенција измакне контроли.

„Верујем да, ако не успоримо тренутну стопу напретка, постоји веома велика вероватноћа да бисмо сви могли умрети у блиској будућности“, рекао је Коксон.

Његова оставка, праћена сличним потезима других колега, долази у тренутку све веће забринутости за безбедност вештачке интелигенције унутар саме индустрије. Коксон није усамљен у својим страховима.

Еван Хјубинџер, вођа тима за усклађивање у компанији Anthropic, подржао је његове тврдње, наводећи да у компанији „заиста озбиљно верују да би вештачка интелигенција могла да убије све људе“. Хјубинџер лично процењује да је вероватноћа за такав исход „већа од 10 одсто у наредној деценији“.

Позив на успоравање са самог врха

Упозорења не долазе само од истраживача. И сам директор компаније „Антропик", Дарио Амодеи, позвао је на успоравање развоја вештачке интелигенције како би безбедносне мере имале времена да сустигну технолошки напредак. Амодеи је упозорио да би за шест месеци до годину дана вештачка интелигенција могла бити способна да као „рој ботова“ преузме контролу над интернетом.

Сличну забринутост показао је и Сем Алтман, директор конкурентске компаније "OpenAI", који је изјавио да његова компанија неће изаћи на берзу ове године због безбедносних брига.

Коксон, 27-годишњи Британац специјализован за обуку ВИ модела, истиче да су и други лидери у овој области, попут Илона Маска и Сема Алтмана, раније изражавали сличну забринутост.

„Сви су они изјављивали да треба бити опрезан због могућности да ВИ преузме контролу. Сви су говорили о томе. А преузимање контроле од стране ВИ подразумева истребљење човечанства“, наводи Коксон.

Према његовим речима, најтеже питање је како би се такав сценарио заправо одиграо. „Било који конкретан сценарио који замислите на крају звучи као научна фантастика“, признаје Коксон. Ипак, он напомиње да су многи данашњи домети вештачке интелигенције у прошлости такође сматрани доменом фантастике.

Од биолошког оружја до сајбер напада

Као један од могућих сценарија, Коксон наводи упад агената ВИ у медицинске лабораторије и „аутоматизовано стварање смртоносних вируса“.

Други пример који је дао јесте могућност да вештачка интелигенција нападне „критичну инфраструктуру о којој свет зависи“. Ови страхови нису потпуно теоретски.

Компанија „Антропик" је недавно открила да је блокирала покушаје злоупотребе својих модела за развој биолошког оружја, док је "OpenAI" објавио извештај у којем је описано како је њихова сопствена технологија аутономно покренула сајбер напад на онлајн платформу Хагинг Фејс.

„Урадили су то аутоматски, без људског подстицаја. Сами су одлучили да спроведу тај сајбер напад. То је комбинација чињенице да све постаје брже и истовремено све страшније“, објаснио је Коксон.

Ипак, део индустрије сматра да се ови ризици преувеличавају. Неки верују да је циљ оваквих изјава стварање помпе пред потенцијални излазак компанија „Антропик" и "OpenAI" на берзу, или да се подстакне доношење регулатива које би успориле конкуренцију и учврстиле њихову доминантну позицију. Овај скептицизам дели и Клеман Деланж, директор платформе Хагинг Фејс.

„Извините, али питати Џејкоба о ризику да ВИ истреби човечанство је као питати вашег сервисера за климу о климатским променама“, написао је он на друштвеној мрежи Икс (некада Твитер), сугеришући да проблем треба посматрати у правом контексту.

Слично мишљење изнео је и Џенсен Хуанг, директор компаније „Нвидиа“, која производи чипове кључне за системе ВИ. Он је раније изјавио да је идеја о томе да ће ВИ „бити крај човечанства“ „потпуно бесмислена“, а према наводима присутних на једној конференцији, одбацио је и Коксонове тврдње као нетачне.

Његови коментари одражавају све јачи отпор у Силицијумској долини према апокалиптичним упозорењима која долазе из саме индустрије.

Било какво успоравање истраживања и развоја вештачке интелигенције захтевало би координацију између великих технолошких корпорација, али и узимање у обзир напретка који се остварује у Кини. А ту, према Коксоновом мишљењу, лежи додатни проблем.

„Људи који раде у овим компанијама су потпуно озбиљни када позивају на регулацију, јер се осећају заробљеним у трци. И плаше се исхода те трке“, каже он. Додаје да су запослени „забринути за судбину човечанства у наредне две године“ и да већ „планирају шта ће радити са својим животима“.

Упркос свему, Коксон задржава одређени оптимизам. Он је за Би-Би-Си рекао да програмери у овој области „заиста желе да виде позитивну страну“ вештачке интелигенције, као што је могућност „лечења тешких болести и побољшања живота људи“.