Вештачка интелигенција манипулише нашим ставовима, а да нисмо ни свесни – постоји начин да се одбранимо

Употреба вештачке интелигенције за манипулацију нашим ставовима и јавним мњењем - била је тема годишње конференције "Касперског" у Риму. Нушин Шабаб, водећи истраживач сајбер-безбедности у тој компанији, говорила је за РТС о могућности друштвених мрежа да уз помоћ вештачке интелигенције утичу на политичке и друге свакодневне погледе и понашање - а да ми тога нисмо ни свесни.

- Они имају капацитет да то ураде, захваљујући свом садржају и алгоритмима које користе да би вам приказали оно што вас занима.

Ако погледате своје налоге на друштвеним мрежама и налоге својих пријатеља, вероватно ћете уочити одређени образац. Видећете да вама стижу садржаји, теме, информације, слике или видео-снимци који су вама занимљиви, а ваши пријатељи или чланови породице виде нешто сасвим друго.

Те технологије служе томе да открију шта одређену публику занима и прикажу јој садржај за који је вероватно да ће јој се допасти - за разлику од садржаја који би јој се учинио неважним. И управо тај капацитет им омогућава да обликују начин на који људи размишљају, шта виде, у шта верују и шта сматрају стварношћу.

Да ли постоји разлика између алгоритма који препоручује филм или песму и алгоритма који утиче на јавно мњење и политичко или било које друго мишљење?

- Кључна разлика је у намери - у намери организације или људи који те алгоритме користе. Могу се употребити у добре сврхе, али и у лоше. Могу вам помоћи да пронађете нешто што вам одговара - рецимо, када купујете онлајн, алгоритми вам могу предложити мајицу или пар патика за које је вероватно да ће вам се свидети.

Али могу се користити и на злоћудан начин - да заправо манипулишу вашим мишљењем, вашом сликом стварности или вашим схватањем неког друштвеног концепта или проблема.

Да би људи разликовали та два случаја, мислим да се све своди на то како они сами користе технологију и друштвене мреже - и на то колико се ослањају на садржај који им се сервира, уместо да сами трагају за информацијама. Рекао бих да данас људи постају превише зависни од персонализованог и одабраног садржаја, а то није нарочито продуктивно.

Може ли обичан човек да се заштити или је овај вид утицаја вештачке интелигенције на наше мишљење измакао контроли? Јесмо ли, као обични грађани, заправо немоћни?

- Реч је о веома важној теми. Када говоримо о манипулацији или обликовању мишљења, говоримо о веома суптилној манипулацији - о постепеном померању нашег размишљања у одређеном правцу. Но, пошто је изузетно тешко разлучити да ли вам је сервиран персонализован или донекле манипулативан садржај, наспрам шире стварности - управо зато говоримо о регулацији.

Много смо расправљали о томе и сматрамо да је то данас најважније питање, с обзиром на то да когнитивна вештачка интелигенција и ови алгоритми постају све распрострањенији. Неопходно је успоставити одговарајућу регулативу и политике које ће штитити људе - и та одговорност не сме да буде пребачена на леђа самих грађана.

Ко би требало да регулише ове ствари - приватне корпорације, државе, или међународне институције?

- Сматрам да је најбоље да то иде одозго надоле. Веома је важно да одговарајуће политике успоставе друштва и владе, а затим и поједине компаније - ради заштите запослених, купаца, партнера и публике од потенцијалних ризика когнитивне вештачке интелигенције. Такође је важно да компаније имају јасне политике у погледу коришћења система вештачке интелигенције, управљања подацима и сличних питања.

Ако вештачка интелигенција може да предвиди наше понашање, ако може да утиче на наше мисли, шта онда остаје од нашег слободног избора и свега онога што нас чини људима? Шта очекујете да ће се догодити у будућности, гледано из те, хумане перспективе?

- Добра вест је да вештачка интелигенција не може да чита наше мисли, али може да предвиди шта би нас могло занимати или шта бисмо могли да урадимо. Мислим да сте поставили веома важно питање.

Кључно је да разумемо технологије које се данас развијају и напредак који доносе - и да образујемо људе, посебно млађе генерације, да се не ослањају превише на ове системе. Да раде оно што нас заиста чини људима: да негују своје вештине решавања проблема, критичког мишљења и просуђивања, да се ослањају на сопствену процену, сопствено разумевање и критичко мишљење - а не да се препусте вештачкој интелигенцији.