RAZVIJA SE SISTEM ZA RAZUMEVANJE VEŠTAČKE INTELIGENCIJE KAKO BI JE OBUZDALI Ni stručnjaci koji razvijaju AI ne znaju kako funkcioniše
Dario Amodei, direktor kompanije Anthropic najavio razvoj sistema za razumevanje veštačke inteligencije i upozorio na rizike zbog nepoznavanja njenih unutrašnjih mehanizama
Generalni direktor kompanije Anthropic, Dario Amodei, priznao je da ni stručnjaci koji razvijaju veštačku inteligenciju ne razumeju u potpunosti kako ona funkcioniše. U eseju objavljenom na svom sajtu, Amodei je izneo plan za razvoj sistema koji bi u narednoj deceniji omogućio dublje razumevanje AI modela, nešto što opisuje kao „MRI za AI“.
On je istakao da čak ni kod jednostavnih zadataka, poput sažimanja finansijskog dokumenta, istraživači ne znaju tačno zašto AI bira određene reči ili zašto pravi greške iako je u većini slučajeva rezultat potpuno tačan. Nazvao je ovo neznanje „bez presedana u istoriji tehnologije“ i upozorio da su zabrinutosti zbog toga opravdane.
Amodei je podsetio da je upravo zbog bezbednosnih pitanja napustio OpenAI krajem 2020. godine, zajedno sa sestrom i još pet bivših kolega, kako bi osnovao Anthropic, kompaniju posvećenu razvoju sigurnijih AI sistema.
U poslednje vreme, kako navodi, kompanija sve više ulaže u razumevanje unutrašnjeg rada AI modela i razvoja alata za mogućnost razumevanja ML modela i predstavljanja osnove za donošenje odluka ML modela na način koji je razumljiv ljudima. Pominje eksperiment u kojem je „crveni tim“ namerno ubacio problem u model, a više „plavih timova“ je uspešno otkrilo grešku, koristeći i alatke za interpretaciju.
Cilj Anthropic-a, prema Amodeiju, nije samo da razvija moćnije AI modele, već i da otkrije kako i zašto oni funkcionišu onako kako funkcionišu, pre nego što dostignu nivo moći koji bi mogao da ih učini nepredvidivim i potencijalno opasnim. Zaključuje da čovečanstvo ima pravo da razume tehnologiju koja će oblikovati njegovu budućnost, piše Futurism.
