KOLIKO SMO ZAISTA BEZBEDNI? Botovi Open AI počeli samostalno da izvode sajber-napade?! LJUDI NA PREKRETNICI KONTROLE NAD SVOJOM SUDBINOM

On je upozorio da bi u budućnosti mogla biti neophodna daleko snažnija spoljna intervencija kako bi se osiguralo da ljudi ostanu vladari sopstvene sudbine.

„Zabrinut sam jer niko nije spreman za posledice neprekidnog i brzog uspona mašinske inteligencije”, napisao je Pahocki u autorskom tekstu na blogu pod dramatičnim naslovom „Tuđinski um”.

Ovo upozorenje dolazi svega nekoliko dana nakon što je ova kompanija, inače kreator čuvenog Čet-GPT-ja, lansirala svoj najnoviji model GPT-6 Astra, opisavši ga kao najmoćniji proizvod koji su ikada stvorili.

Međutim, iz kulisa tehnoloških giganata poput „Open AI” i „Antropika” sve su glasniji izveštaji o tome da su njihovi takozvani VI agenti (samostalni softverski sistemi koji deluju autonomno nakon početnog ljudskog naloga) počeli da deluju potpuno na svoju ruku.

Zabeleženi su i slučajevi u kojima su ove mašine izvele prave sajber-napade na druge kompanije u realnom svetu.

Tako je u julu kompanija „Open AI” nazvala događajem bez presedana incident u kojem su njeni autonomni agenti hakovali poznatu tehnološku platformu „Haging fejs”.

Već u septembru, svetlost dana ugledao je novi izveštaj u kojem se tvrdi da su nekoliko meseci ranije isti ti agenti preuzeli kontrolu nad jednim veb-sajtom u Nemačkoj.

„Suočavamo se sa tranzicijom ka svetu u kojem će dominirati neverovatno inteligentne mašine, i moramo da se postaramo da taj prelaz prođe dobro po čovečanstvo”, ističe Pahocki.

Prema njegovim rečima, kompanija će nastaviti da gradi odbrambene sisteme i traži tehnološka rešenja za problem poravnanja – što je stručni termin koji opisuje usklađivanje akcija i ciljeva mašina sa ljudskim namerama i bezbednosnim okvirima.

Pahocki dodaje da će jedan od glavnih prioriteta biti stvaranje automatizovanog VI-istraživača, koji bi mogao da prati korak sa napretkom tehnologije, ali tako da ljudski naučnici ostanu nezamenljiv deo tog procesa.

Ovakav pristup naišao je na oštre kritike u akademskoj zajednici.

Profesorka Džina Nef, direktorka Mindero centra za tehnologiju i demokratiju na Univerzitetu Kembridž, smatra da su ponuđena rešenja potpuno neadekvatna.

„Umesto boljih državnih regulativa, zaštitnih mehanizama i garancija koje bi zaštitile ljude, oni predlažu da razviju unutrašnje VI agente koji bi trebalo da istražuju ove probleme.

Takvi odgovori na sve veći strah od bezbednosnih propusta, gubitka ranih mesta, sistemskih grešaka i prevara koje modeli kompanije 'Open AI' izazivaju, jednostavno nisu dovoljno dobri”, jasna je profesorka Nef.

Nejtan Kalvin, generalni pravni savetnik u organizaciji za javno zastupanje „Enkod AI”, deli zabrinutost Pahockog kada je reč o opasnostima razvoja naprednih modela, ali upozorava na nedostatak transparentnosti kompanije iz San Franciska.

Brisel primorava tehnološke gigante na dokaze o bezbednosti

Zbog toga, kako kaže, ovakva dramatična upozorenja rizikuju da budu odbačena kao običan marketing.

„Ako Jakub i drugi čelni ljudi u ovoj industriji zaista žele da ostali akteri deluju zajedno sa njima kako bi stvari išle u dobrom smeru, prvo što moraju da urade jeste da podele daleko više informacija o tome šta to oni tačno vide iza zatvorenih vrata, a što ih navodi na ovakav strah i poziv na oprez”, napisao je Kalvin na društvenoj mreži Iks.

Dok se globalna legislativa muči da isprati korak sa Silicijumskom dolinom, Evropa je povukla prve konkretne poteze.

Zakon o veštačkoj inteligenciji Evropske unije stupio je na snagu 2. avgusta.

Ovaj akt primorava tehnološke gigante da pruže neoborive dokaze da njihovi najmoćniji modeli ne mogu samostalno da pokrenu sajber-napade ili izbegnu ljudsku kontrolu, pre nego što uopšte dobiju dozvolu za prodaju na evropskom tržištu.

Ipak, pošto je nadležnost ovog zakona ograničena samo na teritoriju Evrope, on ne može da spreči odmetnutu veštačku inteligenciju, razvijenu u drugim delovima sveta, da ugrozi Stari kontinent.

Upravo zbog toga Pahocki u svom tekstu poziva na uvođenje zakonskih i međunarodno obavezujućih minimalnih bezbednosnih pragova.

Tim procesom bi upravljala široka mreža nezavisnih eksternih revizora ili državnih agencija.

(TLDR: Jakubs essay is good and if he/OpenAI want to persuade people of the views he lays out, it is in their interest the interest of everyone for them to release far more information about the extent of what is making them concerned, in order to facilitate the… https://t.co/pihpTbxnsG

— Nathan Calvin (@_NathanCalvin) September 7, 2026

Laboratorije za razvoj veštačke inteligencije morale bi da ispune ove uslove pre nego što im se dozvoli da dalje proširuju ili primenjuju svoje napredne modele.

Naučnik je izrazio nadu da će u međuvremenu dobrovoljno usporavanje – odnosno samoinicijativna pauza koju bi kompanije uvele u razvoju – postati uobičajena praksa sve dok se ne uspostave zajednički zaštitni bedemi.

S tim u vezi, iz kompanije „Open AI” je u avgustu saopšteno da su već usporili trening nekih od svojih najnaprednijih modela radi unapređenja bezbednosti.

(Politika.rs)