РАЗВИЈА СЕ СИСТЕМ ЗА РАЗУМЕВАЊЕ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ КАКО БИ ЈЕ ОБУЗДАЛИ Ни стручњаци који развијају АИ не знају како функционише

Генерални директор компаније Anthropic, Дарио Амодеи, признао је да ни стручњаци који развијају вештачку интелигенцију не разумеју у потпуности како она функционише. У есеју објављеном на свом сајту, Амодеи је изнео план за развој система који би у наредној деценији омогућио дубље разумевање АИ модела, нешто што описује као „МРИ за АИ“.

Он је истакао да чак ни код једноставних задатака, попут сажимања финансијског документа, истраживачи не знају тачно зашто АИ бира одређене речи или зашто прави грешке иако је у већини случајева резултат потпуно тачан. Назвао је ово незнање „без преседана у историји технологије“ и упозорио да су забринутости због тога оправдане.

Амодеи је подсетио да је управо због безбедносних питања напустио ОпенАИ крајем 2020. године, заједно са сестром и још пет бивших колега, како би основао Anthropic, компанију посвећену развоју сигурнијих АИ система.

У последње време, како наводи, компанија све више улаже у разумевање унутрашњег рада АИ модела и развоја алата за могућност разумевања МЛ модела и представљања основе за доношење одлука МЛ модела на начин који је разумљив људима. Помиње експеримент у којем је „црвени тим“ намерно убацио проблем у модел, а више „плавих тимова“ је успешно открило грешку, користећи и алатке за интерпретацију.

Циљ Anthropic-а, према Амодеију, није само да развија моћније АИ моделе, већ и да открије како и зашто они функционишу онако како функционишу, пре него што достигну ниво моћи који би могао да их учини непредвидивим и потенцијално опасним. Закључује да човечанство има право да разуме технологију која ће обликовати његову будућност, пише Futurism.