Veštačka inteligencija će sama sebe loviti u laži

Takozvane neuronske mreže za duboko učenje se svake godine sve više i više koriste u delatnostima koje imaju ogroman uticaj na naše zdravlje i bezbednost, kao što su medicina i transport.

Cilj ovih sistema je da ubrzaju proces donošenja odluka analiziranjem ogromne količine podataka koje ljudi nisu u stanju da efikasno obrade za kratko vreme. Ali kako da znamo da su ove odluke ispravne? Ova najnovija mreža ima za cilj da se pozabavi upravo ovim problemom, tako što će, zajedno sa odlukama koje donosi, izveštavati i o nivou sigurnosti u odluku.

Naučnici tvrde da ova novina može spasiti brojne živote. Naime, upravo stepen sigurnosti u sopstvenu procenu može da znači da će se sistem za autonomnu vožnju iz informacije „nema vozila na raskrsnici“ zaključiti „verovatno je u redu da se prođe, ali stani za svaki slučaj“.

Mogućnost neuronske mreže da proceni sopstvenu verodostojnost nazvana je „duboka dokazna regresija“, a ocena sigurnosti zasnovana je na kvalitetu podataka koje mreža obrađuje. Postojali su i razni metodi za smanjivanje rizika i pre ovog, ali su svi zahtevali mnogo više vremena i računarske obrade.

Naučnici su testirali mrežu tako što su je učili da oceni dubinu različitih delova slike, kao što bi sistem za autonomnu vožnju računao udaljenost od pešaka ili drugog vozila. Neuronska mreža se pokazala dobro u odnosu na već postojeće sisteme, ali najvažnije od svega, uspela je da kvalitetno proceni sopstvenu nesigurnost. Svaki put kada je mreža zaključila da nije sigurna u sopstvenu procenu, ispostavilo se da su te procene i bile pogrešne.

Članica istraživačkog tima koji je razvio ovu tehnologiju i profesorka na Institutu za tehnologiju u Masačusetsu (MIT), Danijela Rus, objasnila je da „je ova ideja veoma važna i ima široku primenu. Može da se koristi za evaluaciju postojećih tenhnologija koje se oslanjaju na slične modele. Procenom nesigurnosti modela dobijamo i inforamciju o tome koliku preciznost od njega možemo da očekujemo, kao i koji podaci koji nedostaju mogu da ga poboljšaju“, naglašava Rus.