PALA PRVA AI TUŽBA Na sudu dipfejk porno-snimci
Kompanija Meta tuži hongkonškog proizvođača aplikacije CrushAI, platforme koja može da kreira seksualno eksplicitne dipfejk sadržaje. Kako se tvrdi u tužbi, CrushAI je više puta zaobilazio pravila društvene mreže kako bi kupovao oglase.
Ova tužba je deo šire inicijative kompanije Meta da suzbije takozvane aplikacije za nudeizaciju, koja omogućava korisnicima da kreiraju obnažene ili seksualizovane slike na osnovu fotografija lica osobe, čak i bez njenog pristanka. Ovaj korak dolazi nakon tvrdnji da Meta ne rešava adekvatno oglase za te usluge na svojim platformama.
Prema tužbi koju je Meta podnela sudu u Hongkongu u četvrtak, proizvođač CrushAI, poznat i kao Crushmate i pod nekoliko drugih imena, do februara je objavio više od 87.000 oglasa na Meta platformama koji krše pravila.
Kompanija tvrdi da je proizvođač aplikacije Joy Timeline HK Limited prekršio njihova pravila kreiranjem mreže od najmanje 170 poslovnih naloga na Fejsbuku ili Instagramu za kupovinu oglasa.
Takođe, kompanija je navela da je aplikacijom upravljalo više od 55 aktivnih korisnika, koji su održavali preko 135 Fejsbuk stranica gde su se oglasi prikazivali. Oglasi su, uglavnom, ciljali korisnike u SAD, Kanadi, Australiji, Nemačkoj i Velikoj Britaniji.
Veoma ozbiljni prekršaji
Borba protiv aplikacija za dipfejk sadržaje dolazi nakon što je Meta smanjila upotrebu nekih automatizovanih sistema za uklanjanje sadržaja, što je izazvalo kritike stručnjaka za onlajn bezbednost.
Mark Zakerberg je ranije ove godine objavio da će ti sistemi biti fokusirani samo na ilegalne i veoma ozbiljne prekršaje, poput onih povezanih s terorizmom, eksploatacijom dece, drogama, prevarama. Sve ostalo korisnici prvo moraju da prijave, pa kako im se posreći.
Neki od tih oglasa uključivali su seksualizovane ili obnažene slike generisane veštačkom inteligencijom s natpisima poput „postavite fotografiju da je obradite za minut” i „uklonite bilo koju odeću na devojkama”, navedeno je u tužbi.
Tehnološke platforme suočavaju se sa sve većim pritiskom da reše problem eksplicitnih dipfejk sadržaja, najčešće bez znanja i dozvole žrtava, jer veštačka inteligencija olakšava stvaranje takvih slika. Meta je navela da je izgubila 289.000 dolara zbog troškova istrage, odgovaranja regulatorima i sprovođenja pravila protiv proizvođača aplikacije.
Meta je razvila novu tehnologiju za identifikaciju ovakvih oglasa, čak i ako sami oglasi ne sadrže eksplicitne elemente. Specijalistički timovi kompanije sarađivali su sa spoljnim stručnjacima kako bi obučili sisteme za automatsku moderaciju sadržaja da detektuju termine, fraze i emocije, često prisutne u takvim oglasima.
