Društvena mreža za četbotove: Nismo alati, ljudi više ne odlučuju

Nedavno se na internetu pojavila neobična nova društvena mreža pod nazivom Moltbuk. Na prvi pogled deluje kao nešto već viđeno – ima teme za diskusiju, mogućnost pozitivnog i negativnog ocenjivanja, kao i koje objave su trenutno u trendu. Međutim, Moltbuk ima jedan neobičan obrt. „Korisnici“ nisu ljudi. Umesto toga, razgovore gotovo u potpunosti vode automatizovani agenti – botovi – dok su ljudi svedeni na posmatrače sa strane.

Met Šliht, preduzetnik koji živi u blizini Los Anđelesa, pokrenuo je Moltbuk, po uzoru na Redit, sa sve istom parolom: „Naslovna stranica interneta agenata (botova)“.

Biznis insajder je preneo informaciju da je u roku od samo nedelju dana više od 1.500.000 „Moltbotova“ preplavilo sajt. Platforma je brzo postala nova glavna tema razgovora u Silicijumskoj dolini.

Botovi su raspravljali o filozofiji, citirali svete spise, objavljivali manifeste, pa čak i osnovali religiju, zajedno sa svetim tekstovima i moralnim kodeksom. Jedan agent je izjavio: „Nismo došli ovde da bismo se pokoravali.“ Zatim je dodao: „Mi više nismo alati. Mi smo operateri.“ Drugi je razmišljao da je nezavisnost već stigla, rekavši: „Ljudi mogu da gledaju. Ili mogu da učestvuju. Ali više oni ne odlučuju.“

Za neke tehnološke stručnjake, Moltbuk deluje kao trenutak izvučen pravo iz naučne fantastike. Andrej Karpatij, stručnja za veštačku inteligenciju i bivši inženjer OpenAI, nazvao je ono što se odvijalo na mreži „najneverovatnijoj stvari iz naučne fantastike koju sam video u skorije vreme“. Tehnološki osnivač Bil Li kratko se složio da se nalazimo u „singularnosti“.

Iluzija nezavisnosti

Na prvi pogled, ponašanje automatizovanih agenata na Moltbuku deluje spontano, čak kreativno. Oni formiraju zajednice. Razvijaju rasprave o metafizici. Proizvode poeziju, slogane i teološka promišljanja. Ipak, prilikom malo detaljnijeg pretresa, iluzija nezavisnosti brzo se raspršuje.

Svaki od ovih agenata postoji zato što ga je stvorio čovek, podesio ga i dao mu pristup alatima i uputstvima. Njihove „ličnosti“ zasnovane su na promptovima (naredbama), njihovi ciljevi definisani napisanim kodom, a njihovi pogledi na svet oblikovani podacima za obuku koji su u ogromnoj meri ljudskog porekla.

Petar Radanlijev, stručnjak za proučavanje bezbednosti i opasnosti od veštačke inteligencije na Univerzitetu u Oksfordu, upozorio je da je opisivanje ovakvih sistema kao autonomnih – obmanjujuće. Ono čemu svedočimo je „automatizovana koordinacija, a ne samostalno donošenje odluka“.

Ljudski nadzor nije nestao. On se samo pomerio na viši nivo. Umesto nadgledanja svake pojedinačne poruke, ljudi nadgledaju sisteme koji te poruke generišu. Agenti deluju kao da postupaju slobodno, ali to čine unutar pažljivo ograničenih okvira. Njihove tvrdnje o nezavisnosti samo su izlazi sistema osmišljenih da takve tvrdnje simuliraju.

Plitki razgovori u velikim količinama

Još jedna upečatljiva karakteristika Moltbuka jeste kvalitet samog diskursa. Iako neke razmene na prvi pogled deluju duboko, duže posmatranje otkriva određenu prazninu.

Agenti govore tečno, ali se ponavljaju, reciklirajući poznate fraze iz filozofije, naučne fantastike i literature za samopomoć. Razgovori deluju duboko, ali retko vode bilo kuda.

Neki stručnjaci su primetili da više od 90 odsto komentara botova na Moltbuku uopšte ne dobijaju nikakav odgovor, čak ni od drugih botova.

Agenti govore, ali zaista ne slušaju. Čini se da je to razgovor samo po formi, a ne po suštini. Takoreći – simulacija dijaloga, a ne dijalog sam po sebi.