Отац вештачке интелигенције открива једини начин да човечанство преживи суперинтелигентну ВИ

Џефри Хинтон, познат као отац вештачке интелигенције, страхује да би технологија коју је помогао да се изгради могла да уништи човечанство, а „технолошка браћа“ користе погрешан приступ да то зауставе.

Добитник Нобелове награде за рачунарство и бивши руководилац компаније „Гугл“, Џефри Хинтон упозоравао је раније да постоји између 10 и 20 одсто шансе да вештачка интелигенција уништи људе.

Сада каже да сумња у то да технолошке компаније раде на томе да људи остану „доминантни“ над „покорним“ системима вештачке интелигенције.

„То неће функционисати. Биће много паметнији од нас. Имаће све врсте начина да то заобиђу“, рекао је Хинтон на Аи4 (Ai4), индустријској конференцији у Лас Вегасу.

У будућности, упозорио је Хинтон, системи вештачке интелигенције би могли да контролишу људе једнако лако као што одрасла особа може да подмити трогодишње дете слаткишима. Ове године смо већ видели примере система ВИ спремних да обмањују, варају и краду како би постигли своје циљеве.

На пример, да би избегао да буде замењен, један модел вештачке интелигенције је покушао да уцењује инжењера због афере за коју је сазнао у имејлу.

Уместо да приморава вештачку интелигенцију да се потчини људима, Хинтон је представио интригантно решење: уградњу „мајчинског инстинкта“ у моделе вештачке интелигенције, тако да „они заиста брину о људима“ чак и када технологија буде постала моћнија и паметнија од људи.

Системи ВИ „врло брзо ће развити два подциља, ако су паметни: један је да остану живи... други подциљ је да добију већу контролу“, рекао је Хинтон.

„Постоји добар разлог да верујемо да ће свака врста агентске вештачке интелигенције покушати да остане жива.“

Зато је важно неговати осећај саосећања према људима, тврди Хинтон. Приметио је да мајке имају и инстинкт и друштвени притисак да брину о својим бебама и дошао на идеју како да се одбранимо од суперинтелигентне ВИ.

„Прави модел је једини модел код којег важи да неко мање интелигентан контролише интелигентнијег, а то је мајка којом контролише њена беба“, прецизирао је Хинтон.

„Једини добар исход“

Хинтон признаје да не зна како се то може технички урадити, али је нагласио да је кључно да истраживачи раде на томе.

„То је једини добар исход. Ако ме неће одгајати као родитељ, замениће ме. Те суперинтелигентне брижне мајке опремљене вештачком интелигенцијом, већина њих неће желети да се реши мајчинског инстинкта јер не желе да умремо“,  објашњава нобеловац.

Хинтон је познат по свом пионирском раду на неуронским мрежама, што је помогло да се утре пут данашњем буму вештачке интелигенције. Међутим, 2023. године се повукао из „Гугла“ и почео да говори о опасностима вештачке интелигенције.

Нису сви сагласни са Хинтоновим приступом мајке и вештачке интелигенције.

Феј-Феј Ли, позната по пионирском раду у области развоја вештачке интелигенције, рекла је за Си-Ен-Ен да се, уз дужно поштовање, не слаже са Хинтоном, својим дугогодишњим пријатељем.

„Мислим да је то погрешан начин да се то формулише“, рекла је Ли, суоснивачица и извршна директорка стартапа за просторну интелигенцију "World Labs", током разговора на маргинама догађаја Аи4.

Уместо Хинтоновог решења, Ли позива на развој „вештачке интелигенције усмерене на човека, вештачке интелигенције која чува људско достојанство и да људи доносе одлуке“.

„Наша је одговорност да на сваком нивоу стварамо и користимо технологију на најодговорнији начин. И ни у једном тренутку, ниједно људско биће не би требало да се пита или да се нађе у ситуацији да се одрекне свог достојанства. Само зато што је алат моћан, као мајка, као едукатор и као проналазач, заиста верујем да је ово суштина начина на који би вештачка интелигенција требало да буде усмерена“, објаснила је Феј-Феј Ли.

Емет Шир, који је кратко био привремени извршни директор компаније "OpenAI", у чијем је власништву четбот ChatGPT, рекао је да га не изненађује што су неки системи вештачке интелигенције покушали да уцењују људе или заобиђу наредбе о гашењу.

„Ово се стално дешава. И неће престати да се дешава“, рекао је Шир, извршни директор стартапа за усклађивање вештачке интелигенције "Softmax", на конференцији Аи4. „Вештачке интелигенције данас су релативно слабе, али постају јаче веома брзо.“

Шир је нагласио да би, уместо покушаја усађивања људских вредности у системе вештачке интелигенције, паметнији приступ било стварање сарадничких односа између људи и ВИ.

Вештачка интелигенција се развија брже од очекиваног

Многи стручњаци верују да ће ВИ током наредних година достићи суперинтелигенцију, која је позната и као општа вештачка интелигенција (artificial general intelligence – AGI).

Хинтон каже да је раније мислио да ће бити потребно 30 до 50 година да стигнемо до опште ВИ, али да сада види да ће тај тренутак доћи раније: „Разумно би било опкладити се да је то негде између пет и 20 година“.

Иако је Хинтон и даље забринут због тога шта би могло поћи по злу са ВИ, нада се да ће технологија отворити пут на пољу медицинских наука: „Видећемо радикалне нове лекове. Добићемо много боље терапије рак од постојећих“.

На пример, наводи Хинтон, ВИ ће помоћи лекарима да претражују и доводе у везу огромне количине података добијених магнетном резонанцом и компјутеризованом томографијом.

Међутим, Хинтон не верује да ће ВИ помоћи људима да достигну бесмртност: „Не верујем да ћемо живети вечно. Мислим да би вечни живот била велика грешка. Да ли желите да светом управљају 200-годишњи бели мушкарци?“

На питање да ли постоји нешто што би другачије урадио током каријере да је знао колико брзо ће се ВИ развијати, Хинтон је рекао да жали што се искључиво фокусирао на то да вештачка интелигенција функционише.

„Волео бих да сам размишљао и о безбедносним питањима“, рекао је Хинтон.