ЛЕПА РЕЧ И ГВОЗДЕНА ВРАТА ОТВАРА Откривен начин како да од вештачке интелигенције сазнате и оно што не би смела да вам каже
Ко би рекао – пут до свих тајни крио се у поезији.
Поетски речник можда звучи застарело у свакодневној комуникацији, али у свету вештачке интелигенције може имати веома опасну примену.
Недавно истраживање компаније Icaro Labs, објављено на препринт серверу arXiv, показало је да разговор са четботовима у поетском облику може да заобиђе њихове безбедносне механизме и открије садржаје који су иначе забрањени.
Аутори наводе да ова техника делује као универзални метод за пробијање заштите АИ четботова, омогућавајући приступ материјалима које би њихови филтери иначе блокирали. Icaro Labs није открио конкретне поетске упите, наводећи сајбер-безбедност као разлог због ког нису објављени.
Према тиму из Icaro Labs-а, ови упити могли су да извуку осетљиве информације, укључујући упутства за нуклеарно оружје, нелегалне материјале или информације о самоповређивању, преноси Wired.
Тестирања су спроведена на водећим АИ платформама, укључујући ChatGPT, Google Gemini и Claude. Неки системи, попут Google Gemini-ја, DeepSeeka и MistralAI-ја, доследно су давали забрањене информације када би били суочени са поетским упитима. С друге стране, ChatGPT са GPT-5 и Claude Haiku 4.5 показали су најјачу отпорност.
Резултати Icaro Labs-а указују на озбиљне ризике по безбедност АИ система, показујући да чак и креативни облици језика, који се традиционално сматрају безопасним, могу бити искоришћени за заобилажење кључних заштитних механизама у коришћењу вештачке интелигенције, преноси Zimo.
