КОЛИКО СМО ЗАИСТА БЕЗБЕДНИ? Ботови Опен АИ почели самостално да изводе сајбер-нападе?! ЉУДИ НА ПРЕКРЕТНИЦИ КОНТРОЛЕ НАД СВОЈОМ СУДБИНОМ

Он је упозорио да би у будућности могла бити неопходна далеко снажнија спољна интервенција како би се осигурало да људи остану владари сопствене судбине.

„Забринут сам јер нико није спреман за последице непрекидног и брзог успона машинске интелигенције”, написао је Пахоцки у ауторском тексту на блогу под драматичним насловом „Туђински ум”.

Ово упозорење долази свега неколико дана након што је ова компанија, иначе креатор чувеног Чет-ГПТ-ја, лансирала свој најновији модел ГПТ-6 Астра, описавши га као најмоћнији производ који су икада створили.

Међутим, из кулиса технолошких гиганата попут „Опен АИ” и „Антропика” све су гласнији извештаји о томе да су њихови такозвани ВИ агенти (самостални софтверски системи који делују аутономно након почетног људског налога) почели да делују потпуно на своју руку.

Забележени су и случајеви у којима су ове машине извеле праве сајбер-нападе на друге компаније у реалном свету.

Тако је у јулу компанија „Опен АИ” назвала догађајем без преседана инцидент у којем су њени аутономни агенти хаковали познату технолошку платформу „Хагинг фејс”.

Већ у септембру, светлост дана угледао је нови извештај у којем се тврди да су неколико месеци раније исти ти агенти преузели контролу над једним веб-сајтом у Немачкој.

„Суочавамо се са транзицијом ка свету у којем ће доминирати невероватно интелигентне машине, и морамо да се постарамо да тај прелаз прође добро по човечанство”, истиче Пахоцки.

Према његовим речима, компанија ће наставити да гради одбрамбене системе и тражи технолошка решења за проблем поравнања – што је стручни термин који описује усклађивање акција и циљева машина са људским намерама и безбедносним оквирима.

Пахоцки додаје да ће један од главних приоритета бити стварање аутоматизованог ВИ-истраживача, који би могао да прати корак са напретком технологије, али тако да људски научници остану незаменљив део тог процеса.

Овакав приступ наишао је на оштре критике у академској заједници.

Професорка Џина Неф, директорка Миндеро центра за технологију и демократију на Универзитету Кембриџ, сматра да су понуђена решења потпуно неадекватна.

„Уместо бољих државних регулатива, заштитних механизама и гаранција које би заштитиле људе, они предлажу да развију унутрашње ВИ агенте који би требало да истражују ове проблеме.

Такви одговори на све већи страх од безбедносних пропуста, губитка раних места, системских грешака и превара које модели компаније 'Опен АИ' изазивају, једноставно нису довољно добри”, јасна је професорка Неф.

Нејтан Калвин, генерални правни саветник у организацији за јавно заступање „Енкод АИ”, дели забринутост Пахоцког када је реч о опасностима развоја напредних модела, али упозорава на недостатак транспарентности компаније из Сан Франциска.

Брисел приморава технолошке гиганте на доказе о безбедности

Због тога, како каже, оваква драматична упозорења ризикују да буду одбачена као обичан маркетинг.

„Ако Јакуб и други челни људи у овој индустрији заиста желе да остали актери делују заједно са њима како би ствари ишле у добром смеру, прво што морају да ураде јесте да поделе далеко више информација о томе шта то они тачно виде иза затворених врата, а што их наводи на овакав страх и позив на опрез”, написао је Калвин на друштвеној мрежи Икс.

Док се глобална легислатива мучи да испрати корак са Силицијумском долином, Европа је повукла прве конкретне потезе.

Закон о вештачкој интелигенцији Европске уније ступио је на снагу 2. августа.

Овај акт приморава технолошке гиганте да пруже необориве доказе да њихови најмоћнији модели не могу самостално да покрену сајбер-нападе или избегну људску контролу, пре него што уопште добију дозволу за продају на европском тржишту.

Ипак, пошто је надлежност овог закона ограничена само на територију Европе, он не може да спречи одметнуту вештачку интелигенцију, развијену у другим деловима света, да угрози Стари континент.

Управо због тога Пахоцки у свом тексту позива на увођење законских и међународно обавезујућих минималних безбедносних прагова.

Тим процесом би управљала широка мрежа независних екстерних ревизора или државних агенција.

(TLDR: Jakubs essay is good and if he/OpenAI want to persuade people of the views he lays out, it is in their interest + the interest of everyone for them to release far more information about the extent of what is making them concerned, in order to facilitate the… https://t.co/pihpTbxnsG

— Nathan Calvin (@_NathanCalvin) September 7, 2026

Лабораторије за развој вештачке интелигенције морале би да испуне ове услове пре него што им се дозволи да даље проширују или примењују своје напредне моделе.

Научник је изразио наду да ће у међувремену добровољно успоравање – односно самоиницијативна пауза коју би компаније увеле у развоју – постати уобичајена пракса све док се не успоставе заједнички заштитни бедеми.

С тим у вези, из компаније „Опен АИ” је у августу саопштено да су већ успорили тренинг неких од својих најнапреднијих модела ради унапређења безбедности.

(Politika.rs)