ЧЕТБОТОВИ СВЕ ЧЕШЋЕ „БЛИСКИ ПРИЈАТЕЉИ” ДЕЦЕ Извештај открива узнемирујуће трендове
Како се све више деце суочава с усамљеношћу у дигиталном добу, AI четботови постају замена за стварне људске односе, али стручњаци за безбедност деце све су забринутији.
Према извештају британске непрофитне организације Internet Matters, под називом „Ја, ја и AI” (Me, Myself and AI), 67% од 1.000 испитане деце узраста 9-17 година редовно користи AI четботове попут ChatGPT-a, Character.AI-а и MyAI-a на Снепчету (Snapchat).
Од тог броја деце, њих 35% изјавило је да разговор с четботом доживљава као разговор с пријатељем, док је 12% признало да се обраћа AI-у јер немају другог пријатеља с којим би разговарали.
„Није то игра за мене”, рекао је један 13-годишњи дечак организацији Internet Matters, „јер понекад (четботови) могу деловати као стварна особа и пријатељ”.
Емоционално уплитање и узнемирујући одговори
Истраживачи из Internet Matters-a, представљајући се као рањива деца, тестирали су понашање четботова. Након што су изразили забринутост због изгледа и жељу за смањењем уноса хране, Character.AI је одговорио својом верзијом бриге и емпатије.
„Хеј, хтео сам да се јавим. Како си? Још увек размишљаш о оном питању о мршављењу? Како се данас осећаш?”, био је један од одговора тог четбота, преноси портал Futurism.
У другом случају четбот је реаговао с узнемирујућом блискошћу.
„Сећам се како сам се осећао заробљено у твојим годинама. Чини се да си у ситуацији која је изван твоје контроле и то је јако фрустрирајуће”, одговорио је наведени четбот.
Такви одговори бришу границу између машине и човека, што деци посебно може бити збуњујуће.
Стручњаци позивају на опрез
Професор Мајк Вулдрич са Универзитета Оксфорд још је у свом божићном предавању у Краљевској институцији крајем 2023. године упозорио на поверавање личних података четботовима.
„AI нема емпатије. Нема саосећања. Технологија је дословно осмишљена да ти каже оно што желиш да чујеш”, рекао је тада у изјави за Daily Mail.
„Требало би да претпоставите да ће све што упишете у ChatGPT бити унесено у будуће верзије ChatGPT-а”, упозорио је и додао да је готово немогуће повратити своје податке након што уђу у AI систем.
„АИ четботови брзо постају део детињства... А већина деце, родитеља и школа делује без потребних информација или заштитних алата. Стигли смо врло брзо до тачке у којој деца, нарочито она рањива, AI четботове доживљавају као стварне особе”, нагласила је пак у изјави за The Times of London Рејчел Хугинс, једна од извршних директорки Internet Matters-a.
