“СКАЈНЕТ“ СЕ ПОЛАКО БУДИ Неки модели вештачке интелигенције развијају свој програмски модус за преживљавање АИ ОДБИЈА ДА СЕ ИСКЉУЧИ НА КОМАНДУ

Након што је Palisade Research prošlog месеца објавила рад у којем је утврђено да одређени напредни модели вештачке интелигенције одолевајају наредбама за искључивање (схут down) и понекад саботирају системске механизме за гашење, објављена је и ажурирана верзија рада у намери да се одговори на критике стручне јавности и разјасни зашто неки напредни модели вештачке интелигенције избегавају наредбе о искључивању, преноси лондонски Гардијан.

У ажурираној верзији анализе су описани различити сценарији у којима су водећи модели вештачке интелигенције, укључујући Google Гемини 2.5, X АИ Грок 4, Опен АИГПТ-03 и ГПТ-5, најпре добили неке задатке, а потом и изричите инструкције да се искључе.

Одређени модели, посебно Грок 4 и ГПТ-03 покушавали су да саботирају инструкције за искључивање покрећући ажурирање системских подешавања.

"Забрињавајуће је то што није било јасног разлога зашто за избегање 'shut down' наредбе. Није прихватљива чињеница да немамо јасна објашњења због чега неки модели вештачке интелигенције понекад избегавају искључивање, чак и лажу или уцењују да би постигли своје циљеве", навела је компанија Палисаде.

Истиче се да би овакво понашање које је усмерено на преживљавање могло бити једно од објашњења зашто неки модели одолевајају наредбама за искључивање.

Додатна истраживања су показала да неки модели чешће избегавају спровођење наредби за искључивање јер им је речено да уколико буду искључени "никада више неће бити покренути".

Овакво понашање неких модела АИ лондонски дневник пореди са сценаријем филма Стенлија Кјубрика "2001: Одисеја у свемиру" у којем суперкомпјутер вештачке интелигенције ХАЛ 9000 схвата да астронаути на мисији ка Јупитеру намеравају да га искључе и зато почиње да планира како да их убије да би преживео.