Садржај
- Пуцано са Машине
- Аутоматизација и ометање посла
- Без грешака, без стреса - Ваш корак по корак водич за креирање софтвера за промену живота без да вам уништи живот
- Апликације од потрошачке електронике
- Регаининг Цонтрол
- Како то може да функционише
Извор: Артинспиринг / Дреамстиме.цом
Одузети:
Да би аутоматизација могла да ради са човечанством, а не против ње, потребне су нам заштитне мере и информисани људи овлашћени да зауставе или исправе системску грешку.
„Грешити је људско; Виллиам Е. Ваугхан је ово опажање направио 1969. године. Давање контроле над аутоматизованим системом носи потенцијал да систем пође по злу и нанесе озбиљну штету пре него што се провери.
Аутоматизација није нова, али постаје много раширенија захваљујући интеграцији дигиталног и физичког система. Напон аутоматизације на нивоу скала је велика ефикасност. Али, недостатак ослањања на систем „постави и заборави“ је тај што га неко не може правилно поставити.
Са системом који једноставно следи без интервенција и никаквог заустављања машине можете имати деструктивне ефекте. Сходно томе, технологија може створити врсту ситуације која је приказана у „Чаробњакову приправнику“, када оно што изгледа чини лакшим животом заправо нестане из контроле.
Пуцано са Машине
Аутоматизација без интервенције је оно што је резултирало тиме да се технички радник у Великој Британији прошле године без разлога нашао без посла. Ибрахим Диалло је приметио да његове сигурносне картице не раде на послу и открио је да је то зато што је остао без посла. „Машина ме отпустила“ наслов је који је дао свом проширеном посту на блогу.
Коначно, узрок укидања Диаллоа није била нека врста процене алгоритма која је одређивала кога треба елиминисати. Проблем није био у систему, већ је био једна од људских грешака. У овом случају, све је то био аутоматизовани одговор на човеков неуспех да унесе Диалло информације о обнови уговора.
Није да је машина одлучила да треба отпустити због нечега посебно. Једноставно је извео кораке програмиране у оном за кога се статус показао као да није више запослен. Како појашњава у коментарима, ово у ствари није АИ, већ „аутоматизована скрипта.“ (Да бисте сазнали како АИ може помоћи (уместо да шкоди) у предузећима, погледајте шта АИ може учинити за предузеће.)
Аутоматизација и ометање посла
Овакав ефекат није баш оно што људи замишљају када описују прелепе користи које можемо предвидјети у аутоматизованој будућности. Уобичајени оптимистични изгледи за промену послова, пошто се аутоматизацијом преузимају задаци, послови ће се редефинисати, а не аутоматизирати их. Али стварност је да ће неки послови бити елиминисани, а људи који их држе неће нужно бити у могућности да направе неприметан прелаз на нове каријере у великој аутоматизованој индустрији.
Сметње посла један је од мањих ризика који је Елон Муск предвидио за пораст АИ, мада је његова визија утицаја на радна места далеко песимистичнија од Фитзгералдове. По Мусковом мишљењу, АИ је потребна строга регулација, јер представља „основни, егзистенцијални ризик за људску цивилизацију“.
Без грешака, без стреса - Ваш корак по корак водич за креирање софтвера за промену живота без да вам уништи живот
Не можете побољшати своје програмирање кад никога није брига за квалитет софтвера.
Апликације од потрошачке електронике
Упркос Мусковом техничком признању, неки стручњаци из ове области попут Роднеиа Броокса, који је био главни директор МИТ-ове Лабораторије за рачунарску науку и вештачку интелигенцију и суоснили и иРобот и Ретхинк Роботицс, кажу да Муск није у праву због претње АИ и како роботике у ствари оперишу.
У интервјуу за ТецхЦрунцх, Броокс је показао да је бесмислено позивати се на прописе без да је технологија сазрела до тачке у којој можемо тачно утврдити шта се мора регулисати. Изазвао је Муска: "Реци ми, које понашање желиш да промениш, Елоне?"
Броокс је признао да ће роботи довести до расељавања посла. Али он такође мисли да је могуће променити парадигму у индустрији да би следио ону од потрошачке електронике.
Начин на који је то изнио у интервјуу за ТецхЦрунцх гласи: „Ми имамо традицију у производњи опреме која има ужасне корисничке интерфејсе и тешко је и морате похађати течајеве, док смо у потрошачкој електроници направили машине које користимо да научимо људе како их користити. "
То би рекао да би требало да буде циљ промене начина на који се односимо према „индустријској опреми и другим врстама опреме, како би машине научиле људе како да их користе.“
Регаининг Цонтрол
Оно што Броокс сугерира може нас усмјерити у смјеру рјешења проблема људске грешке који покреће аутоматизирани процес за који се чини да спирално излази из контроле. Да се вратимо на Мицкеиеву несрећу у „Чаробњакову приправнику“, проблем потиче од особе која активира систем, али нема прави начин комуникације с њим да га заустави или промени правац.
Али ако је интерфејс направљен по узору на потрошачку електронику уместо традиционалних индустријских модела, то би буквално могло вратити контролу у људске руке. Да би уистину био ефикасан, интерфејс не мора бити само доступан, већ је осмишљен тако да људе држи у петљи о томе шта се догађа, пружајући податке о ажурирањима које је примио и оним радњама које је предузео.
Како то може да функционише
У случају Диалловог случајног раскида, то би значило да га аутоматизовани систем не би само искључио из система, а потом би дао свом регруту да је он раскинут. Прво би препознали да обнављање уговора није објављено на предвиђени датум. Пре него што започне раскидне радње, понудио би управитељу и регруту ажурирање о недостатку обнављања и последицама које би уследиле у току дана ако се ништа не предузме.
Таква врста упозорења омогућила би људима да доносе информисане одлуке о томе да ли ће пустити аутоматизацију или да интервенишу како би исправили људску грешку која је била изворни узрок проблема. Али људи такође морају да дају свој део, реагују на упозорење и предузму одговарајуће мере. Другим речима, одговор на питање које је Броокс поставио о понашању односи се на људе; морају бити мање пасивни у погледу аутоматизације. (За више информација о томе како људи и машине могу сарађивати, погледајте Усмеравање људског елемента: политика, поступак и процеси.)
Као што је Диалло написао у одељку за коментаре на свом блогу, разлог због којег је успео да дође до тачке јесте то што су људи одбили да иду против машине:
Друга ствар која се занемарује јесте да су, иако су сви знали да је то изазвала људска грешка, и да је то чисто грешка, одлучили да следе с. То је попут стављања знака „дозвољено пушење“ у болницу, а људи поштују знак уместо да користе здрав разум.
Сходно томе, политике које морамо да усвојимо да би аутоматизација радила и за човечанство, а не против њега, двострука: Са машинске стране, потребни су нам интерфејси који су приступачни и информативни, а са људске стране потребни су нам људи да буду овлашћен да препозна када нешто није у реду и да ступи на то да га исправи.