АИ ће бити још интелигентнија, ко ће је контролисати: Да ли је ово преломни тренутак у развоју вештачке интелигенције
Вештачка интелигенција више није само систем који одговара на питања или помаже програмерима.
Најнапреднији модели умеју да разложе сложен проблем, користе алате, проверавају резултате и мењају приступ док не дођу до решења. У том преласку са AI који „говори“ на AI који анализира, планира и делује налази се суштина расправе о когнитивној вештачкој интелигенцији.
Она не подразумева машину са свешћу и сопственим намерама, већ системе који опонашају разумевање контекста, планирање, доношење одлука и прилагођавање понашања. Један од примера је Claude Mythos Preview, Anthropic-ов модел за програмирање и сајбер-безбедност.
Mythos још увек није јавно доступан четбот. У оквиру програма Project Glasswing приступ му има ограничен број компанија и безбедносних тимова, како би у великим софтверским системима проналазио слабости пре нападача. За разлику од ранијих модела, он не уочава само сумњиво место у програму већ поставља претпоставку о узроку грешке, тестира је, прати резултате и наставља док не пронађе начин да слабост искористи. Тиме AI престаје да буде само саветник и постаје извршилац сложеног задатка.
На брзину тог развоја недавно је упозорила Нушин Шабаб, водећи истраживач безбедности у оквиру Глобалног тима за истраживање и анализу компаније Касперски.
Иако је когнитивна вештачка интелигенција још у раној фази развоја и далеко од масовне примене, њен развој је веома брз - изјавила је Шабаб. - И даље се очекује да ће напредни модели интеракције између људи и AI постати знатно распрострањенији током наредних деценија. Како буде расла њихова примена, тако ће расти и повезани ризици – и када до тога дође, морамо бити спремни. Mythos припада технички специјализованој групи модела, али показује исту суштинску промену: AI више не мора само да понуди предлог, већ може да прати циљ и самостално тражи пут до његовог остварења. Питање зато није да ли ће машина постати свесна, тог питања још увек нема, нити ће скоро бити. Питање је шта се дешава када систем без свести добије способност врхунских стручњака.
Европљани хоће регулативу
Развој AI одвија се и у условима политичке и економске трке. Европска унија је усвојила обавезујући Закон о вештачкој интелигенцији, заснован на процени ризика.
Администрација Доналда Трампа развој AI посматра пре свега као питање америчке технолошке и геополитичке надмоћи и противи се европским правилима када их види као ограничење за америчке компаније. САД се више ослањају на добровољне договоре државе и индустрије, док ЕУ покушава да уведе правила за цело тржиште.
Једна од најважнијих способности Mythosa јесте проналажење рањивости нултог дана, грешака за које произвођач још не зна и за које нема закрпе. Према подацима Anthropicа, модел и партнери у Project Glasswingu открили су више од 10.000 рањивости високог или критичног степена. Потпуна независна провера није могућа јер се детаљи о незакрпљеним пропустима не објављују.
Модел се не зауставља на опису грешке. Може да направи експлоит, односно код којим се слабост користи за покретање нежељеног програма, добијање већих овлашћења или преузимање контроле над системом. Може и да повеже више слабости у ланац напада и тестира решења док једно не проради, чиме снижава праг стручности потребан за озбиљан сајбер-напад. И управо у томе лежи проблем: он није опасан зато што има зле намере, већ зато што може да постане брз и веома способан сајбер-стручњак који једнако добро поправља дигиталне браве и показује како се оне обијају – а све то може да се злоупотреби.
Питање је шта се дешава када систем без свести добије способност врхунских стручњака
Project Glasswing треба да омогући да браниоци први добију предност: стручњаци проверавају налазе, произвођачи припремају закрпе, а детаљи се објављују тек када је опасност отклоњена. Ограничени приступ успорава злоупотребу, али концентрише технолошку предност у рукама малог броја актера.
Ризик се може ублажити провером идентитета корисника, евидентирањем активности, контролисаним окружењем, независним безбедносним проценама и обавезним пријављивањем критичних налаза. Ипак, корисник може да сакрије намеру, подели задатак на више безазлених корака или повеже модел са спољним алатима. Заштитни механизми зато купују време и поскупљују злоупотребу, али је не онемогућавају.
Mythos зато није прича о машини која се отела контроли, већ о технологији која је постала способнија брже него што су друштва успела да одлуче ко сме да је користи и ко ће одговарати за злоупотребу.
