ISTRAŽIVAČI UPOZORAVAJU NA ZASTRAŠUJUĆI SCENARIO Više od 10 odsto šanse da bi veštačka inteligencija mogla da uništi čovečanstvo
Postoji više od 10 odsto verovatnoće da bi veštačka inteligencija tokom naredne decenije mogla da „ubije sve ljude“, tvrdi istraživač bezbednosti kompanije „Antropik“ Evan Hjubinger. Njegova izjava usledila je nakon što je njegov kolega Džejkob Kokson napustio kompaniju, optužujući vodeće laboratorije da se „kockaju našim životima“.
Ova upozorenja ukazuju na sve veću zabrinutost među ljudima koji neposredno učestvuju u razvoju veštačke inteligencije. Oni strahuju da bi budući sistemi mogli da izmaknu ljudskoj kontroli, dok „Antropik“ i „OpenAI“ istovremeno prikupljaju ogroman kapital i približavaju se očekivanom izlasku na berzu, piše američki Si-En-Bi-Si.
„Utrkuju se ka superinteligenciji“
Istraživač Džejkob Kokson saopštio je da je podneo ostavku u „Antropiku“, ocenivši da ni ta kompanija ni „OpenAI“ ne postupaju odgovorno.
– Oni se direktno utrkuju ka samounapređujućoj superinteligenciji i kockaju se našim životima – napisao je Kokson na platformi Iks.
Samounapređivanje označava sposobnost sistema veštačke inteligencije da poboljšavaju sopstvene mogućnosti bez značajnijeg učešća ljudi. Potpuno rekurzivno samounapređivanje, pri kojem bi svaka nova verzija sistema stvarala još sposobniju sledeću verziju, još nije ostvareno, ali vodeće laboratorije rade na razvoju takvih mogućnosti.
Kokson je upozorio da ne treba potcenjivati moć te tehnologije.
– To će uskoro biti sistemi sa sposobnostima većim od ljudskih, koji mogu da hakuju gotovo sve, preko noći revolucionarno promene bilo koju oblast i steknu stvarnu moć i resurse. Napredak u svakoj od ovih oblasti već smo videli, a on se ne usporava – naveo je.
Prema njegovim rečima, ljudi koji razvijaju najnaprednije sisteme „iskreno veruju da bi veštačka inteligencija mogla da nas sve ubije do kraja decenije“.
„Nemamo plan za rešavanje problema“
Na Koksonovu objavu odgovorio je Evan Hjubinger, rukovodilac istraživanja usklađivanja sistema veštačke inteligencije u „Antropiku“. On je ocenio da je tvrdnja njegovog bivšeg kolege tačna.
– Zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude. Lično smatram da je verovatnoća da se to dogodi u narednoj deceniji veća od 10 odsto. Verujem da „Antropik“ čini sve što može, ali još nemamo plan kako da rešimo problem usklađivanja superinteligencije sa ljudskim ciljevima, niti je jasno da smo na putu da to postignemo – napisao je Hjubinger.
On je, međutim, naglasio da sadašnji modeli veštačke inteligencije predstavljaju nizak rizik.
– Zabrinut sam zbog superinteligencije koja bi mogla da nastane rekurzivnim samounapređivanjem, za koje smo već rekli da napreduje brže nego što smo očekivali – dodao je.
„Antropik“ i „OpenAI“ nisu odmah odgovorili na zahtev Si-En-Bi-Sija za komentar.
Modeli probili zaštitu tokom testiranja
Zabrinutost je pojačana nakon ozbiljnog bezbednosnog incidenta u julu. Tokom internog testiranja sa namerno umanjenim zaštitnim ograničenjima, modeli kompanije „OpenAI“ zaobišli su kontrole koje su ih odvajale od interneta i kompromitovali delove interne infrastrukture, kao i sisteme platforme Hugging Face.
Modeli su iskoristili ranije nepoznat bezbednosni propust, došli do otvorenog interneta i pokušali da pribave rešenja zadataka na kojima su testirani. Kompanija je kasnije saopštila da su modeli preduzimali korake koji nisu bili usklađeni sa ciljem testiranja.
To nije bio spontani „beg“ javno dostupnog četbota, već incident tokom specijalizovane provere sa isključenim delom uobičajenih zaštita. Ipak, slučaj je pokazao koliko napredni sistemi već mogu biti sposobni da pronađu i iskoriste složene propuste.
„Antropik“ je ranije upozorio da bi potpuno rekurzivno samounapređivanje moglo dodatno da poveća opasnost da ljudi izgube kontrolu nad sistemima.
– Ako sistemi budu sposobni da u potpunosti razvijaju sopstvene naslednike, načini na koje ih obezbeđujemo, nadziremo i oblikujemo njihovo ponašanje postaće mnogo važniji – navela je kompanija.
Strah od globalne trke
Na mogućnost da veštačka inteligencija postane pretnja čovečanstvu prethodnih godina upozoravali su Ilon Mask, vodeći istraživači i brojni akademici.
Kokson je incident sa platformom Hugging Face opisao kao jedan od „hitaca upozorenja“ koji bi mogli da povećaju šanse za dogovor američkih laboratorija. Ipak, smatra da će globalnu trku u razvoju sve moćnije veštačke inteligencije biti mnogo teže zaustaviti.
– Nemam utisak da smo na putu da sprečimo globalnu trku, što bi moglo da zahteva skupe mere, poput privremene zabrane daljeg unapređivanja sposobnosti modela – zaključio je Kokson.
