Вештачка интелигенција ће сама себе ловити у лажи

Такозване неуронске мреже за дубоко учење се сваке године све више и више користе у делатностима које имају огроман утицај на наше здравље и безбедност, као што су медицина и транспорт.

Циљ ових система је да убрзају процес доношења одлука анализирањем огромне количине података које људи нису у стању да ефикасно обраде за кратко време. Али како да знамо да су ове одлуке исправне? Ова најновија мрежа има за циљ да се позабави управо овим проблемом, тако што ће, заједно са одлукама које доноси, извештавати и о нивоу сигурности у одлуку.

Научници тврде да ова новина може спасити бројне животе. Наиме, управо степен сигурности у сопствену процену може да значи да ће се систем за аутономну вожњу из информације „нема возила на раскрсници“ закључити „вероватно је у реду да се прође, али стани за сваки случај“.

Могућност неуронске мреже да процени сопствену веродостојност названа је „дубока доказна регресија“, а оцена сигурности заснована је на квалитету података које мрежа обрађује. Постојали су и разни методи за смањивање ризика и пре овог, али су сви захтевали много више времена и рачунарске обраде.

Научници су тестирали мрежу тако што су је учили да оцени дубину различитих делова слике, као што би систем за аутономну вожњу рачунао удаљеност од пешака или другог возила. Неуронска мрежа се показала добро у односу на већ постојеће системе, али најважније од свега, успела је да квалитетно процени сопствену несигурност. Сваки пут када је мрежа закључила да није сигурна у сопствену процену, испоставило се да су те процене и биле погрешне.

Чланица истраживачког тима који је развио ову технологију и професорка на Институту за технологију у Масачусетсу (МИТ), Данијела Рус, објаснила је да „је ова идеја веома важна и има широку примену. Може да се користи за евалуацију постојећих тенхнологија које се ослањају на сличне моделе. Проценом несигурности модела добијамо и инфорамцију о томе колику прецизност од њега можемо да очекујемо, као и који подаци који недостају могу да га побољшају“, наглашава Рус.