A Meta apresentou uma ação contra a Joy Timeline HK Ltd., uma empresa com sede em Hong Kong responsável pelo desenvolvimento da polémica aplicação CrushAI, que utiliza inteligência artificial para gerar imagens sexualizadas sem consentimento.

A ação, interposta em Hong Kong, acusa a empresa de infringir as políticas publicitárias da Meta ao promover a aplicação através de anúncios no Facebook e Instagram, apesar das reiteradas eliminações e medidas de conformidade.

De acordo com a Meta, a Joy Timeline fez várias tentativas de contornar seus sistemas de revisão de anúncios, o que motivou a ação legal para impedir permanentemente que a empresa anuncie em suas plataformas. "Esta ação reflete a seriedade com que consideramos esse abuso e nosso compromisso com a proteção da nossa comunidade", declarou a Meta em um comunicado, prometendo continuar buscando soluções legais contra o uso indevido da plataforma.

CrushAI e aplicações similares de "desnudação", que despem digitalmente as pessoas ( frequentemente direcionando-se a mulheres e celebridades ), têm sido alvo de críticas generalizadas por promover o assédio online, a extorsão e a exploração infantil. Uma investigação recente da CBS News descobriu centenas desses anúncios nas plataformas da Meta, alguns dos quais permaneciam visíveis mesmo após os esforços de remoção.

Em resposta, a Meta fortaleceu as suas ferramentas de controlo, implementando nova tecnologia para detectar e bloquear anúncios prejudiciais, incluindo aqueles que não mostram nudez explícita, e partilhando informações sobre ameaças com outras empresas tecnológicas.

A empresa também informou ter desmantelado quatro redes coordenadas que operavam estes anúncios e continua a trabalhar com especialistas internos e colaboradores externos para contrariar as táticas de evasão emergentes.

Diante da crescente pressão de legisladores e investigadores, a Meta afirma que permanecerá vigilante e tomará todas as medidas necessárias para conter a proliferação de aplicações de IA exploradoras e proteger a segurança dos usuários.