AI će biti još inteligentnija, ko će je kontrolisati: Da li je ovo prelomni trenutak u razvoju veštačke inteligencije
Veštačka inteligencija više nije samo sistem koji odgovara na pitanja ili pomaže programerima.
Najnapredniji modeli umeju da razlože složen problem, koriste alate, proveravaju rezultate i menjaju pristup dok ne dođu do rešenja. U tom prelasku sa AI koji „govori“ na AI koji analizira, planira i deluje nalazi se suština rasprave o kognitivnoj veštačkoj inteligenciji.
Ona ne podrazumeva mašinu sa svešću i sopstvenim namerama, već sisteme koji oponašaju razumevanje konteksta, planiranje, donošenje odluka i prilagođavanje ponašanja. Jedan od primera je Claude Mythos Preview, Anthropic-ov model za programiranje i sajber-bezbednost.
Mythos još uvek nije javno dostupan četbot. U okviru programa Project Glasswing pristup mu ima ograničen broj kompanija i bezbednosnih timova, kako bi u velikim softverskim sistemima pronalazio slabosti pre napadača. Za razliku od ranijih modela, on ne uočava samo sumnjivo mesto u programu već postavlja pretpostavku o uzroku greške, testira je, prati rezultate i nastavlja dok ne pronađe način da slabost iskoristi. Time AI prestaje da bude samo savetnik i postaje izvršilac složenog zadatka.
Na brzinu tog razvoja nedavno je upozorila Nušin Šabab, vodeći istraživač bezbednosti u okviru Globalnog tima za istraživanje i analizu kompanije Kasperski.
Iako je kognitivna veštačka inteligencija još u ranoj fazi razvoja i daleko od masovne primene, njen razvoj je veoma brz - izjavila je Šabab. - I dalje se očekuje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija. Kako bude rasla njihova primena, tako će rasti i povezani rizici – i kada do toga dođe, moramo biti spremni. Mythos pripada tehnički specijalizovanoj grupi modela, ali pokazuje istu suštinsku promenu: AI više ne mora samo da ponudi predlog, već može da prati cilj i samostalno traži put do njegovog ostvarenja. Pitanje zato nije da li će mašina postati svesna, tog pitanja još uvek nema, niti će skoro biti. Pitanje je šta se dešava kada sistem bez svesti dobije sposobnost vrhunskih stručnjaka.
Evropljani hoće regulativu
Razvoj AI odvija se i u uslovima političke i ekonomske trke. Evropska unija je usvojila obavezujući Zakon o veštačkoj inteligenciji, zasnovan na proceni rizika.
Administracija Donalda Trampa razvoj AI posmatra pre svega kao pitanje američke tehnološke i geopolitičke nadmoći i protivi se evropskim pravilima kada ih vidi kao ograničenje za američke kompanije. SAD se više oslanjaju na dobrovoljne dogovore države i industrije, dok EU pokušava da uvede pravila za celo tržište.
Jedna od najvažnijih sposobnosti Mythosa jeste pronalaženje ranjivosti nultog dana, grešaka za koje proizvođač još ne zna i za koje nema zakrpe. Prema podacima Anthropica, model i partneri u Project Glasswingu otkrili su više od 10.000 ranjivosti visokog ili kritičnog stepena. Potpuna nezavisna provera nije moguća jer se detalji o nezakrpljenim propustima ne objavljuju.
Model se ne zaustavlja na opisu greške. Može da napravi eksploit, odnosno kod kojim se slabost koristi za pokretanje neželjenog programa, dobijanje većih ovlašćenja ili preuzimanje kontrole nad sistemom. Može i da poveže više slabosti u lanac napada i testira rešenja dok jedno ne proradi, čime snižava prag stručnosti potreban za ozbiljan sajber-napad. I upravo u tome leži problem: on nije opasan zato što ima zle namere, već zato što može da postane brz i veoma sposoban sajber-stručnjak koji jednako dobro popravlja digitalne brave i pokazuje kako se one obijaju – a sve to može da se zloupotrebi.
Pitanje je šta se dešava kada sistem bez svesti dobije sposobnost vrhunskih stručnjaka
Project Glasswing treba da omogući da branioci prvi dobiju prednost: stručnjaci proveravaju nalaze, proizvođači pripremaju zakrpe, a detalji se objavljuju tek kada je opasnost otklonjena. Ograničeni pristup usporava zloupotrebu, ali koncentriše tehnološku prednost u rukama malog broja aktera.
Rizik se može ublažiti proverom identiteta korisnika, evidentiranjem aktivnosti, kontrolisanim okruženjem, nezavisnim bezbednosnim procenama i obaveznim prijavljivanjem kritičnih nalaza. Ipak, korisnik može da sakrije nameru, podeli zadatak na više bezazlenih koraka ili poveže model sa spoljnim alatima. Zaštitni mehanizmi zato kupuju vreme i poskupljuju zloupotrebu, ali je ne onemogućavaju.
Mythos zato nije priča o mašini koja se otela kontroli, već o tehnologiji koja je postala sposobnija brže nego što su društva uspela da odluče ko sme da je koristi i ko će odgovarati za zloupotrebu.
