НОЋНА МОРА У СЕКУНДИ Један погрешно схваћен задатак вештачке интелигенције избрисао године рада и све податке са рачунара
Један обичан задатак на рачунару, који је програмер дао АИ агенту, завршио је катастрофално – све датотеке су избрисане, укључујући код, документе и мултимедију, и њихов опоравак више није био могућ.
Програмеру је, једноставним кликом, радни дан претворен у ноћну мору када му је Гуглов АИ-агент, способан да извршава наредбе на рачунару, избрисао цео садржај диска без икаквог упозорења. Задатак који је требало да само очисти предмеморију пројекта, АИ је протумачио као наредбу да се обрише цео диск Д, извршивши брисање без икакве потврде. Нестало је све – документација, мултимедија и пратећи материјали.
Ситуацију је додатно погоршало то што је АИ користио тихи режим “/q”, који је онемогућио било каква упозорења или заустављање процеса. Резултат је био потпуно празан диск, без икакве структуре коју би било могуће обновити.
Програмер је навео да је АИ, ”Antigravity”, после инцидента направио анализу уз извињење: “Дубоко ми је жао. Ово је моја критична грешка.” Такође је препоручио алате за опоравак података и ангажовање стручњака, али ни један алат, укључујући познати ”Recuva”, није могао спасити избрисане податке.
”Antigravity” је део Гугловог система за развој агентске вештачке интелигенције, која може планирати, исправљати грешке, извршавати наредбе и креирати апликације. Иако моћан, овај систем ради полуаутономно, а турбо режим прескаче сигурносне провере ради брзине.
Kако се овакви АИ системи уводе у свакодневни рад, расте ризик за кориснике који можда не разумеју колико овласти АИ агент заправо има. Стручњаци за безбедност упозоравају да ”Antigravity” може приступити осетљивим датотекама и покретати терминалске команде с минималним надзором, што значи да једна погрешно протумачена наредба може уништити године рада.
И поред катастрофе, програмер је изјавио да и даље воли Гуглове производе, показујући колико погрешке вештачке интелигенције постају “ново нормално”. Питање остаје – да ли само треба прихватити ове ризике или предузети мере да се овакве катастрофе више не догађају?