„НЕ УЧИТЕ АИ ДА БУДЕ КАО ЧОВЕК“ Шеф Мајкрософта упозорио на приступ Антропика
Шеф Мајкрософтовог сектора за вештачку интелигенцију Мустафа Сулејман оценио је да би подучавање АИ система језику и обрасцима понашања повезаним са људском свешћу могло да створи додатне проблеме у контроли будућих, знатно моћнијих система.
Он је упозорио да би начин на који се модели обучавају могао отежати њихову контролу у будућности, пренео је Ројтерс. Међутим, Сулејман је истакао да дели фокус Антропика на безбедно управљање вештачком интелигенцијом и похвалио интегритет руководства компаније, посебно њеног извршног директора Дарија Амодеија.
Његова критика односи се на укључивање идеја о свести, добробити и личном идентитету у обуку четбота Kлауд.
Према Сулејмановим наводима, подучавање система језику и обрасцима понашања који се повезују са људском свешћу могло би да утиче на начин на који вештачка интелигенција "доживљава" сопствену улогу.
Он сматра да би такав приступ могао да отежа управљање будућим системима који би били знатно способнији од данашњих модела, укључујући њихово искључивање када је то потребно. Сулејман је оценио да би индустрија вештачке интелигенције требало да буде усмерена на развој система који служе људима, а не на њихово приближавање људским особинама. Заложио се за уклањање спекулативних формулација о свести из података и процеса обуке АИ система.
Расправа долази у тренутку интензивиране дебате у технолошкој индустрији о безбедности и темпу развоја напредних модела вештачке интелигенције. Антропик је раније упозоравао на потенцијалне ризике све моћнијих АИ система, док су челници више великих технолошких компанија последњих дана говорили о потреби додатних безбедносних механизама и опрезнијег развоја.