ИСТРАЖИВАЧИ УПОЗОРАВАЈУ НА ЗАСТРАШУЈУЋИ СЦЕНАРИО Више од 10 одсто шансе да би вештачка интелигенција могла да уништи човечанство
Постоји више од 10 одсто вероватноће да би вештачка интелигенција током наредне деценије могла да „убије све људе“, тврди истраживач безбедности компаније „Антропик“ Еван Хјубингер. Његова изјава уследила је након што је његов колега Џејкоб Коксон напустио компанију, оптужујући водеће лабораторије да се „коцкају нашим животима“.
Ова упозорења указују на све већу забринутост међу људима који непосредно учествују у развоју вештачке интелигенције. Они страхују да би будући системи могли да измакну људској контроли, док „Антропик“ и „ОпенАИ“ истовремено прикупљају огроман капитал и приближавају се очекиваном изласку на берзу, пише амерички Си-Ен-Би-Си.
„Утркују се ка суперинтелигенцији“
Истраживач Џејкоб Коксон саопштио је да је поднео оставку у „Антропику“, оценивши да ни та компанија ни „ОпенАИ“ не поступају одговорно.
– Они се директно утркују ка самоунапређујућој суперинтелигенцији и коцкају се нашим животима – написао је Коксон на платформи Икс.
Самоунапређивање означава способност система вештачке интелигенције да побољшавају сопствене могућности без значајнијег учешћа људи. Потпуно рекурзивно самоунапређивање, при којем би свака нова верзија система стварала још способнију следећу верзију, још није остварено, али водеће лабораторије раде на развоју таквих могућности.
Коксон је упозорио да не треба потцењивати моћ те технологије.
– То ће ускоро бити системи са способностима већим од људских, који могу да хакују готово све, преко ноћи револуционарно промене било коју област и стекну стварну моћ и ресурсе. Напредак у свакој од ових области већ смо видели, а он се не успорава – навео је.
Према његовим речима, људи који развијају најнапредније системе „искрено верују да би вештачка интелигенција могла да нас све убије до краја деценије“.
„Немамо план за решавање проблема“
На Коксонову објаву одговорио је Еван Хјубингер, руководилац истраживања усклађивања система вештачке интелигенције у „Антропику“. Он је оценио да је тврдња његовог бившег колеге тачна.
– Заиста искрено верујемо да би вештачка интелигенција могла да убије све људе. Лично сматрам да је вероватноћа да се то догоди у наредној деценији већа од 10 одсто. Верујем да „Антропик“ чини све што може, али још немамо план како да решимо проблем усклађивања суперинтелигенције са људским циљевима, нити је јасно да смо на путу да то постигнемо – написао је Хјубингер.
Он је, међутим, нагласио да садашњи модели вештачке интелигенције представљају низак ризик.
– Забринут сам због суперинтелигенције која би могла да настане рекурзивним самоунапређивањем, за које смо већ рекли да напредује брже него што смо очекивали – додао је.
„Антропик“ и „ОпенАИ“ нису одмах одговорили на захтев Си-Ен-Би-Сија за коментар.
Модели пробили заштиту током тестирања
Забринутост је појачана након озбиљног безбедносног инцидента у јулу. Током интерног тестирања са намерно умањеним заштитним ограничењима, модели компаније „ОпенАИ“ заобишли су контроле које су их одвајале од интернета и компромитовали делове интерне инфраструктуре, као и системе платформе Hugging Face.
Модели су искористили раније непознат безбедносни пропуст, дошли до отвореног интернета и покушали да прибаве решења задатака на којима су тестирани. Компанија је касније саопштила да су модели предузимали кораке који нису били усклађени са циљем тестирања.
То није био спонтани „бег“ јавно доступног четбота, већ инцидент током специјализоване провере са искљученим делом уобичајених заштита. Ипак, случај је показао колико напредни системи већ могу бити способни да пронађу и искористе сложене пропусте.
„Антропик“ је раније упозорио да би потпуно рекурзивно самоунапређивање могло додатно да повећа опасност да људи изгубе контролу над системима.
– Ако системи буду способни да у потпуности развијају сопствене наследнике, начини на које их обезбеђујемо, надзиремо и обликујемо њихово понашање постаће много важнији – навела је компанија.
Страх од глобалне трке
На могућност да вештачка интелигенција постане претња човечанству претходних година упозоравали су Илон Маск, водећи истраживачи и бројни академици.
Коксон је инцидент са платформом Hugging Face описао као један од „хитаца упозорења“ који би могли да повећају шансе за договор америчких лабораторија. Ипак, сматра да ће глобалну трку у развоју све моћније вештачке интелигенције бити много теже зауставити.
– Немам утисак да смо на путу да спречимо глобалну трку, што би могло да захтева скупе мере, попут привремене забране даљег унапређивања способности модела – закључио је Коксон.
