Садржај
Представио: АлтаМЛ
П:
Зашто неке компаније размишљају о додавању "људске повратне информације" модерним АИ системима?
А:
Неке компаније које раде са врхунском АИ технологијом раде на успостављању људских контрола над овим системима, дајући алатима за машинско учење и дубоко учење неке директне људске надзоре. Ни ове компаније нису мали играчи - Гоогле-ови ДеепМинд и ОпенАИ Елона Муска су два примера великих компанија које се баве напредком вештачке интелигенције. Имајући то у виду, резултати се разликују - на пример, ДеепМинд је предмет расправе због уоченог неспремности да јавности да кључне податке, док је ОпенАИ много више, отворено о свом раду на контроли вештачке интелигенције.
Чак је и такав значај који је Билл Гатес разматрао о том питању, Гатес је рекао да је један од многих који су забринути због појаве вештачке суперинтелигенце која би на неки начин могла да надиђе људску контролу. Муск је са своје стране такође изнео неки алармантни језик о могућности „рогуе АИ“.
То је вероватно најхитнији разлог што компаније раде на примени људских контрола на АИ - идеја да ће нека технолошка јединственост резултирати супер-моћном осећајном технологијом коју људи једноставно више не могу да контролишу. Од зоре људских амбиција, поставили смо алате како бисмо били сигурни да можемо контролисати моћи које поседујемо - било да су то коњи са узде и каблови, електрична енергија у изолованим жицама или било који други механизам управљања, који има контрола је урођено људска функција и зато има смисла у свету да се како се вештачка интелигенција ближи стварној функционалности, људи примењују сопствене изравне контроле како би одржали ту моћ под контролом.
Међутим, страх од супер интелигентних робота није једини разлог зашто компаније примењују људске контроле за машинско учење и АИ пројекте. Други главни разлог је машинска пристраност - то је идеја да су системи вештачке интелигенције често ограничени у процени дотичних података - тако да појачавају сваку пристраност својствену систему. Већина професионалаца који се баве машинским учењем могу причати грозне приче о ИТ системима који нису били у стању да третирају људске корисничке групе - било да је реч о полној или етничкој неједнакости или неком другом неуспеху система да заиста разуме нијансе наших људских друштава и како комуницирамо са људима.
У одређеном смислу, можемо да ставимо људску контролу на системе, јер се плашимо да би могли бити превише моћни - или наизменично, јер се плашимо да можда не буду довољно моћни. Људске контроле помажу у усмеравању скупова података о стројном учењу ради пружања веће прецизности. Помажу у јачању идеја које рачунар једноставно не може сам научити, било зато што модел није довољно софистициран, зато што АИ није напредовао довољно далеко, или зато што неке ствари леже у провинцији људске спознаје. Вештачка интелигенција одлична је за неке ствари - на пример, систем заснован на награђивању и постизању резултата омогућио је вештачкој интелигенцији да победи људског играча у неизмерно сложеној друштвеној игри „Иди“ - али за друге ствари, овај систем заснован на подстицајима је потпуно неадекватно.
Укратко, постоје бројни увјерљиви разлози да се људски корисници директно укључе у рад пројеката умјетне интелигенције. Чак и најбоље технологије вештачке интелигенције могу пуно размишљати самостално - али без стварног биолошког људског мозга који може обрађивати ствари попут емоција и друштвених обичаја једноставно не може видети велику слику на људски начин.
Квалификована компанија за машинско учење може помоћи у постизању ове равнотеже комбинацијом стручњака за пословање и теме и програмерима машинског учења са вештинама за решавање великих пословних проблема.
