„Kroćenje goropadi“ veštačke inteligencije, igra mačke i miša o plagiranju teksta

Portparol kompanije OpenAI izjavio je da je cilj klasifikatora da pomogne u osporavanju lažnih tvrdnji da je tekst koji je generisala veštačka inteligencija napisao čovek.

"Međutim, i dalje ima brojna ograničenja – tako da bi trebalo da se koristi kao dopuna drugim metodama određivanja izvora teksta umesto da bude primarni alat za donošenje odluka", rekao je portparol kompanije.

Početnu verziju klasifikatora, dodaje, stavljaju na raspolaganje da bi dobili povratne informacije o tome da li su takvi alati korisni. Kaže i da se nadaju se da će u budućnosti deliti poboljšane metode.

Kako raste interesovanje oko veštačke inteligencije koja generiše tekst, kritičari su pozvali kreatore alata da preduzmu korake da ublaže njihove potencijalno štetne efekte.

Neki od najvećih školskih okruga u SAD zabranili su Chat GPT na svojim mrežama i uređajima, plašeći se uticaja na učenje i tačnost sadržaja koji proizvodi. Sajt kakav je Stack Overflow, neka vrsta foruma za programere, zabranio je korisnicima da dele sadržaj koji generiše ChatGPT, jer, kako navode, previše olakšava korisnicima da preplave teme diskusija sumnjivim odgovorima. 

Kako model funkcioniše 

OpenAI klasifikator je kao i ChatGPT, jezički model veštačke inteligencije obučen na ogromnim količinama teksta dostupnog sa interneta. Ali, za razliku od ChatGPT-a, on je fino podešen da predvidi koliko je verovatno da je deo teksta generisala veštačka inteligencija, i to bilo koji model veštačke inteligencije koji generiše tekst. 

Konkretnije, OpenAI je obučio tekstualni klasifikator za tekst na osnovu 34 sistema za generisanje teksta iz pet različitih organizacija, uključujući i sam OpenAI.

Tekst je uparen sa sličnim tekstovima sa Vikipedije, veb-sajtova izvučenim iz linkova deljenih na Reditu i skupom „ljudskih demonstracija“ prikupljenih za OpenAI sistem za generisanje teksta. 

Klasifikator neće raditi, ipak, na bilo kom tekstu. Potrebno je najmanje 1.000 karaktera, odnosno oko 150 do 250 reči. Takođe, ne otkriva plagijat. I OpenAI kaže da je veća verovatnoća da će pogrešiti u tekstu koji su napisala deca ili na jeziku koji nije engleski.

U zavisnosti od nivoa pouzdanosti, klasifikator će označiti tekst sa „veoma malo verovatno“ da je generisan veštačkom inteligencijom (manje od 10 odsto šanse), „malo verovatno“ (između 10 i 45 odsto šanse), „nejasno da li ga je generisala veštačka inteligencije“ (šansa od 45 do 90 odsto), „moguće“ da  ga je generisao AI (šansa od 90 do 98 odsto) ili „verovatno“ da ga je generisala veštačka inteligencije (šansa za to je preko 98 odsto). 

To, međutim, neće zaustaviti namere da se „vara“, ali je pitanje da li će to moći i drugi alati.

Igra mačke i miša 

Pojavilo se nešto poput „kućne radinosti“ kako bi se zadovoljila potražnja za detektorima teksta koji je generisala veštačka inteligencija.

ChatZero, koji je razvio student sa Univerziteta Prinston, koristi kriterijume uključujući „zamršenost“ (složenost teksta) i varijacije rečenica ne bi li otkrio da li je tekst napisala veštačka inteligencija.

U jednostavnoj pretrtazi na Guglu dobiće se desetine drugih aplikacija koje tvrde da su u stanju da odvoje „žito“ generisano veštačkom inteligencijom od „kukolja“ koje je stvorio čovek.

Verovatno je da će to u nekom trenutku postati igra mačke i miša. Kako se veštačka inteligencija koja generiše tekst bude poboljšavala, tako će se poboljšavati i alati za otkrivanje ko je pisao tekst.

I kako OpenAI navodi, iako bi klasifikatori mogli pomoći u određenim okolnostima, oni nikada neće biti jedini pouzdani dokaz u odlučivanju da li je tekst generisala veštačka inteligencija.