Mračna strana VI: Novi oblici vršnjačkog nasilja i seksualnog zlostavljanja dece

Deca u britanskim školama koriste veštačku inteligenciju (VI) da prave nepristojne slike druge dece, upozorila je grupa stručnjaka u oblasti zlostavljanje dece i tehnologija.

Nekoliko škola prvi put je prijavilo da učenici koriste generativne alate zasnovane na veštačkoj inteligenciji kako bi kreirali slike druge dece koje, pravno gledano, predstavljaju seksualno zlostavljanje.

Ema Hardi, direktorka Centra za bezbedniji internet u Velikoj Britaniji (UKSIC), rekla je da su slike „zastrašujuće“ realistične.

„Kvalitet slika na koje nailazimo može se uporediti sa profesionalnim fotografijama koje se svake godine prave u školama širom zemlje“, istakla je Hardijeva, koja je i direktorka za komunikacije Fondacije „Internet Watch“.

„Foto-realistična priroda slika dece generisanih uz pomoć veštačke inteligencije znači da su deca koju vidimo ponekad prepoznatljiva kao žrtve seksualnog zlostavljanja. Deca moraju biti upozorena da se takvi sadržaji mogu proširiti internetom i na taj način završiti u posedu nepoznatih ljudi i seksualnih predatora. Potencijal za zloupotrebu ove tehnologije je zastrašujući“, naglasila je Ema Hardi.

Iz UKSIC-a navode da škole moraju hitno da reaguju kako bi uspostavile bolje sisteme za blokiranje pravljenja sadržaja koji se može klasifikovati kao zlostavljanje dece.

„Izveštaji koje viđamo o deci koja prave ove slike ne bi trebalo da budu iznenađenje. Ove vrste štetnog ponašanja treba predvideti kada nove tehnologije, poput generatora zasnovanih na VI, postanu dostupnije javnosti“, rekao je direktor UKSIC-a Dejvid Rajt.

„Deca možda istražuju potencijal generativnih alata za pravljenje slika, a da pritom ne mogu da sagledaju razmere štetu koju mogu da izazovu. Iako je broj slučajeva mali, moramo da imamo zaštitne korake koji se preduzimaju sada – pre nego što škole postanu preopterećene i problem poraste“, ukazao je Rajt.

Slike seksualnog zlostavljanja dece nezakonite su u Ujedinjenom Kraljevstvu, bilo da su nastale korišćenjem veštačke inteligencije ili klasično fotografisanjem. Protivzakonito je pravljenje, posedovanje i distribucija takvih crtanih ili drugih manje realističnih prikaza.

Prošlog meseca je Fondacija „Internet Watch“ upozorila da slike seksualnog zlostavljanja dece koje je generisala veštačka inteligencija „prete da preplave internet“, pri čemu su mnoge već sada toliko realistične da se ne mogu razlikovati od stvarnih slika. Ne razlikuju ih čak ni obučeni analitičari.