Kako američka tehnologija pokreće globalnu industriju prevara

Safir Muhamed Kurimanil  je bio žrtva trgovine ljudima i primoran da radi u centru za prevare u Mjanmaru, na internetu se predstavljao kao Ela, dvadesetosmogodišnja žena iz Singapura. Instrukcije su mu bile jasne: imao je četiri dana da natera svaku žrtvu da se zaljubi. A žrtava je bilo mnogo. 

Tokom tipične smene, kako kaže, Safir je istovremeno razgovarao sa više od sto ljudi preko desetina profila, dok su nadzornici patrolirali između stolova sa električnim palicama, spremni da kazne svakoga ko ne ispuni dnevnu kvotu.

Njegov zadatak bio je deo globalno rasprostranjene prevare poznate kao „klanje svinja” (pig butchering), gde se žrtve, ili „svinje”, pažljivo „hrane” lažnim obećanjima ljubavi i bogatstva pre nego što budu finansijski „zaklane”.

Za samo mesec dana, Kurimanil je ciljao oko 50.000 žrtava iz najmanje 17 zemalja. Među njegovim „klijentima” bili su udovac krojač iz Kurdistana, poslastičar iz Turske, farmer ovaca iz Kirgistana, vojnici iz Iraka i student iz Indonezije.

Sve je to radio koristeći softver izgrađen na modelima veštačke inteligencije američkih tehnoloških kompanija, koje prevaranti zloupotrebljavaju da bi ciljali žrtve neviđenom brzinom i u ogromnom obimu. „Svi su tamo roboti”, rekao je Safir za AP, opisujući automatizovanu prirodu operacije. „Sistem radi sve, mi samo pratimo uputstva.”

Američka tehnologija duž čitavog kriminalnog lanca

Istraga je pokazala da je američka tehnologija prisutna duž čitavog digitalnog lanca koji povezuje prevarante sa njihovim žrtvama. Problem je dostigao razmere koje Ujedinjene nacije opisuju kao „skandemiju”, sa globalnim gubicima koji premašuju hiljadu milijardi dolara godišnje.

Samo u Sjedinjenim Državama, gubici od prevara koje potiču iz jugoistočne Azije procenjeni su na 3,5 milijardi dolara u 2023. godini. Kriminalni sindikati, uglavnom smešteni u specijalnim ekonomskim zonama u Mjanmaru, Kambodži i Laosu – regionima obeleženim političkom nestabilnošću i korupcijom – izgradili su čitave gradove posvećene prevarama.

Prema procenama UN-a, najmanje 300.000 ljudi, poput Kurimanila, primorano je da radi u ovim centrima širom jugoistočne Azije. Iako ne postoje dokazi da američke kompanije rade bilo šta nezakonito, zloupotreba njihovih alata postavlja pitanje koliko rigorozno sprovode sopstvene uslove korišćenja, koji zabranjuju ilegalne aktivnosti.

Veštačka inteligencija unela revoluciju u prevarama

Modeli veštačke inteligencije američke proizvodnje, pre svega ChatGPT kompanije OpenAI i Džemini (Gemini) kompanije Gugl, korišćeni su za izradu specijalizovanog softvera koji prevarantima omogućava da neometano rade na desetinama jezika, nadziru radnike i ciljaju žrtve širom sveta.

Ovi alati, poznati pod nazivima kao što su KT (Kongtian) i 007TG, deo su sivog tržišta tehnologije koja ima i legitimne i nelegitimne primene. Funkcionišu kao „prevara kao usluga” (Scam-as-a-Service), gde kriminalne organizacije mogu da kupe gotove pakete za pokretanje sopstvenih operacija.

Bivši prevaranti opisuju ih kao „sve na jednom mestu” za vođenje prevara na industrijskom nivou. Softver koristi ChatGPT i Džemini za generisanje automatskih odgovora, pokretanje četbotova za igranje uloga, koje prevaranti koriste za razvijanje uverljivih likova, kao i za prevođenje u realnom vremenu na više od sto jezika.

Ali tehnologija ide i dalje. Ove platforme su zapravo sofisticirani sistemi za upravljanje odnosima sa klijentima (CRM), prilagođeni za upravljanje žrtvama.

Prevaranti mogu da prate stotine „svinja” istovremeno, beležeći lične podatke, prateći nivo poverenja i beležeći koliko je novca izvučeno od svakog od njih. Administratori mogu čak i da manipulišu onim što žrtva vidi na lažnoj investicionoj platformi, prikazujući izmišljene dobitke kako bi je podstakli na dalja ulaganja.

Analiza blokčejna, koju je za AP uradila kompanija TRM Labs, pokazala je da su prevaranti koji su koristili ove alate zaradili desetine miliona dolara.

Kriminalne grupe koriste i veštačku inteligenciju za kreiranje uverljivih lažnih profila, koristeći VI generatore slika za stvaranje fotografija koje ne postoje u stvarnosti.

Najnoviji trend je upotreba VI „face-changing” softvera, odnosno dipfejk tehnologije, koja omogućava prevarantu da tokom video-poziva u realnom vremenu prikaže lice druge osobe, čime se otklanja i poslednja sumnja žrtve.

Za one koji su prisiljeni da rade u ovim fabrikama prevara, odbijanje ili neuspeh nisu opcija. Kurimanil, koji nije bio vešt u prevari, bio je brutalno prebijan.

Skrivena infrastruktura: od servera do satelita

Sofisticirana, globalna internet infrastruktura podržava ekonomiju prevarantskih centara u Mjanmaru, koja se oslanja na usluge kompanija kao što su Kodžent Komunikejšens (Cogent Communications), AT&T, DidžitalOušen (DigitalOcean) i Orakl (Oracle).

Analiza više od 200.000 konekcija uređaja u četiri centra za prevare u Mjanmaru, sprovedena za AP, pokazala je da je svaki peti signal prenosila kompanija registrovana u SAD. Ovi centri su često smešteni u udaljenim, slabo kontrolisanim područjima duž granice sa Tajlandom, gde vladavina prava praktično ne postoji, a lokalne milicije pružaju zaštitu kriminalnim sindikatima u zamenu za deo profita.

Posebno se ističe Starlink, satelitska internet kompanija Ilona Maska, koja je postala provajder broj jedan u Mjanmaru, uključujući i centre za prevare. U zemlji razorenoj građanskim ratom, gde vlada često isključuje zemaljske internet veze kako bi suzbila otpor, Starlink je postao spas za škole, bolnice i humanitarne grupe.

Ipak, odaci pokazuju da prevaranti čine nesrazmerno veliki deo njegove korisničke baze. Satelitski internet im omogućava da zaobiđu lokalne restrikcije i nastave sa radom čak i kada im vlasti preseku zemaljske veze. Stabilna i brza veza je ključna za 24-časovni rad ovih centara, koji funkcionišu kao globalni pozivni centri, samo sa daleko mračnijom svrhom.

Kako da se stane na put zloupotrebi

Stručnjaci za sajber bezbednost kažu da bi internet provajderi, kompanije za veštačku inteligenciju i Starlink mogli da urade više kako bi sprečili zloupotrebu od strane prevaranata – ali im nedostaju zakonski, regulatorni i poslovni podsticaji.
U međuvremenu, u Vašingtonu, zakonodavci i vladini zvaničnici traže od američkih tehnoloških kompanija da sarađuju kako bi prevarante odvojili od američke infrastrukture, ali na dobrovoljnoj osnovi.

U novembru, američka tužiteljka okruga Kolumbija, Žanin Piro, osnovala je Udarnu grupu za centar prevare kako bi ciljala na prevarantske komplekse.

U četvorodnevnoj vežbi u maju, Udarna grupa je sarađivala sa kompanijama Meta, SpejsIks, Gugl i drugima kako bi poremetila više od 1,4 miliona naloga na društvenim mrežama i imejl naloga, prekinula saobraćaj zlonamernih IP adresa, zaplenila satelitske internet terminale i deaktivirala servere i hosting infrastrukturu povezanu sa prevarantskim mrežama jugoistočne Azije.

„Nećemo dozvoliti kriminalnim organizacijama da naoružaju našu sopstvenu infrastrukturu protiv nas ili da unište životne ušteđevine vrednih porodica“, rekla je Piro u imejlu za AP.

OpenAI i Gugl su saopštili da imaju robusne programe za proaktivno sprečavanje prevaranata da zloupotrebljavaju njihove alate. Starlink nije odgovorio Ej-Bi-Siju na detaljne zahteve za komentar.

Provajderi internet usluga su naglasili da ne mogu da vide sadržaj koji njihove mreže prenose ili šta krajnji korisnici rade na mreži – privatnost po dizajnu ograničava njihovu mogućnost praćenja zloupotrebe.

Svi su rekli da su odgovorili na validne prijave zloupotrebe i sarađivali sa organima reda. Niko nije želeo da otkrije konkretne informacije o klijentima, pozivajući se na pravila privatnosti, ali nekoliko njih je reklo da su preduzeli konkretne mere kao odgovor na izveštaje AP-a.

OpenAI je saopštio da je na osnovu informacija koje je AP podelio identifikovao i zabranio tri naloga koji su koristili njihove modele za podršku onlajn prevarama. Orakl je saopštio da „marljivo sarađuje sa organima reda“ na materijalu koji je podelio AP. 

Izvršni direktor OpenAIja, Sem Altman, uporedio je veštačku inteligenciju sa komunalnim preduzećem, sličnim električnoj energiji ili vodi. Ali za razliku od vodovodnih preduzeća, tehnološke i telekomunikacione kompanije u Sjedinjenim Državama generalno nisu odgovorne za proaktivno obezbeđivanje bezbednosti sadržaja koji prenose.

Neki ljudi veruju da bi trebalo da se promene.

„Ovo mora biti kao čista voda“, rekao je Metju Mojnahan, izvršni direktor kompanije GetReal Security, firme za sajber bezbednost. „Sve što izlazi iz slavine za krajnjeg korisnika, bilo da je ta slavina računar, pregledač ili vaš mobilni telefon, prljava voda ne bi trebalo da dođe do vas. A ovo je upravo to – prljava voda.“

Upotreba veštačke inteligencije u prevarama toliko brzo eksplodira da se mnogi u zajednici sajber bezbednosti plaše da će potpuno automatizovane prevare koje vode agenti VI uskoro postati uobičajene.

„Krećemo se ka svetu u kome vam možda više ne trebaju ljudi“, naglašava Ari Redbord, globalni šef politike u TRM Labsu, firme za kriptoanalitiku. „Sve što vam treba su stotine, hiljade, milioni agenata koji ne moraju da spavaju, ne moraju da jedu, koji ovo rade 24/7.”