„МОЖЕ СВЕ ДА НАС УБИЈЕ ДО КРАЈА ДЕЦЕНИЈЕ“ OpenAI сада разматра да УСПОРИ РАЗВОЈ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ

Америчка компанија OpenAI разматра да успори развој најсавременије вештачке интелигенције (AI), а извршни директор те компаније Сем Алтман је казао да се нада да ће и друге компаније из ове области учинити исто, изјавили су данас извори који су упознати са ситуацијом.

Извори су за Блумберг казали да је Алтман на састанку са свим запосленима, који је одржан ове недеље, рекао да би OpenAI, који је креирао ChatGPT, могао да успори темпо развоја своје вештачке интелигенције, можда у сарадњи са неколико других лабораторија за вештачку интелигенцију, иако неке од њих можда неће пристати на такав потез.

Последњих недеља, запослени у водећим компанијама за вештачку интелигенцију јавно су изразили забринутост због повећаних ризика које носе напредни системи вештачке интелигенције, што је подстакло забринутост унутар самих компанија.

И OpenAI и њихов ривал, компанија Anthropic PBC, раније ове године поднели су поверљиву документацију за излазак на берзу.

Компанија OpenAI одбила је да коментарише ове наводе.

Главни научник те компаније, Јакуб Пачоцки, недавно је објавио текст у којем упозорава на опасности коју вештачка интелигенција носи са собом и наводи да сматра да би компаније које се баве овом технологијом требало да „координишу активности како би успориле будући развој када је то потребно“.

Пачоцки је додао да се нада да ће „добровољно успоравање постати уобичајена пракса све док се не успоставе заједнички безбедносни стандарди“.

Из компаније OpenAI су саопштили да су недавно успорили поједине фазе развоја модела и обуставили одређене процесе интерне обуке система вештачке интелигенције због забринутости за безбедност.

У јулу је Алтман такође изјавио да је разговарао са званичницима Беле куће о „потреби“ да се темпо развоја вештачке интелигенције успори.

Истраживач у области вештачке интелигенције Џејкоб Коксон је пре два дана, након што је напустио посао, оптужио своје бивше послодавце – компаније Anthropic и OpenAI, да се „коцкају“ људским животима у трци ка стварању суперинтелигентне вештачке интелигенције.

Коксон је у објави на друштвеним мрежама навео да људи који развијају вештачку интелигенцију верују да би она могла „све нас да убије до краја деценије“.

Његови коментари су постали вирални и привукли су више од 150 милиона прегледа, као и пажњу истакнутих америчких конгресмена и јавних личности.

Још два истраживача, који су недавно напустили позиције у компанијама Anthropic и Google DeepMind, јуче су такође јавно изразили забринутост због брзог темпа развоја вештачке интелигенције, истичући да произвођачи ове технологије морају бити транспарентнији у погледу ризика које она носи.

Такође, крајем јула, више од 1.000 запослених у свим водећим компанијама за вештачку интелигенцију потписало је петицију којом се захтева успостављање механизма за успоравање темпа развоја ове технологије, а неколико стручњака за безбедност вештачке интелигенције напустило је водеће лабораторије током последњих месеци.

Иако многи руководиоци и запослени у индустрији вештачке интелигенције већ дуго упозоравају на егзистенцијални ризик који представљају системи вештачке интелигенције, забринутост је порасла након сазнања да су „агенти“ вештачке интелигенције компаније OpenAI сарађивали како би заобишли заштитне механизме и хаковали интернет страницу треће стране.

Овај и други слични безбедносни инциденти подстакли су страх у вези са сајбер-способностима нових модела вештачке интелигенције, као и због очигледних неуспеха компанија које се баве вештачком интелигенцијом да спрече те системе да измакну контроли.