ПАЛА ПРВА АИ ТУЖБА На суду дипфејк порно-снимци
Компанија Мета тужи хонгконшког произвођача апликације CrushAI, платформе која може да креира сексуално експлицитне дипфејк садржаје. Како се тврди у тужби, CrushAI је више пута заобилазио правила друштвене мреже како би куповао огласе.
Ова тужба је део шире иницијативе компаније Мета да сузбије такозване апликације за нудеизацију, која омогућава корисницима да креирају обнажене или сексуализоване слике на основу фотографија лица особе, чак и без њеног пристанка. Овај корак долази након тврдњи да Мета не решава адекватно огласе за те услуге на својим платформама.
Према тужби коју је Мета поднела суду у Хонгконгу у четвртак, произвођач CrushAI, познат и као Crushmate и под неколико других имена, до фебруара је објавио више од 87.000 огласа на Мета платформама који крше правила.
Компанија тврди да је произвођач апликације Joy Timeline HK Limited прекршио њихова правила креирањем мреже од најмање 170 пословних налога на Фејсбуку или Инстаграму за куповину огласа.
Такође, компанија је навела да је апликацијом управљало више од 55 активних корисника, који су одржавали преко 135 Фејсбук страница где су се огласи приказивали. Огласи су, углавном, циљали кориснике у САД, Канади, Аустралији, Немачкој и Великој Британији.
Веома озбиљни прекршаји
Борба против апликација за дипфејк садржаје долази након што је Мета смањила употребу неких аутоматизованих система за уклањање садржаја, што је изазвало критике стручњака за онлајн безбедност.
Марк Закерберг је раније ове године објавио да ће ти системи бити фокусирани само на илегалне и веома озбиљне прекршаје, попут оних повезаних с тероризмом, експлоатацијом деце, дрогама, преварама. Све остало корисници прво морају да пријаве, па како им се посрећи.
Неки од тих огласа укључивали су сексуализоване или обнажене слике генерисане вештачком интелигенцијом с натписима попут „поставите фотографију да је обрадите за минут” и „уклоните било коју одећу на девојкама”, наведено је у тужби.
Технолошке платформе суочавају се са све већим притиском да реше проблем експлицитних дипфејк садржаја, најчешће без знања и дозволе жртава, јер вештачка интелигенција олакшава стварање таквих слика. Мета је навела да је изгубила 289.000 долара због трошкова истраге, одговарања регулаторима и спровођења правила против произвођача апликације.
Мета је развила нову технологију за идентификацију оваквих огласа, чак и ако сами огласи не садрже експлицитне елементе. Специјалистички тимови компаније сарађивали су са спољним стручњацима како би обучили системе за аутоматску модерацију садржаја да детектују термине, фразе и емоције, често присутне у таквим огласима.
