Meta ha presentado una demanda contra Joy Timeline HK Ltd., una empresa con sede en Hong Kong responsable del desarrollo de la polémica aplicación CrushAI, que utiliza inteligencia artificial para generar imágenes sexualizadas sin consentimiento.

La demanda, interpuesta en Hong Kong, acusa a la compañía de infringir las políticas publicitarias de Meta al promocionar la aplicación mediante anuncios en Facebook e Instagram, a pesar de las reiteradas eliminaciones y medidas de cumplimiento.

Según Meta, Joy Timeline realizó múltiples intentos para eludir sus sistemas de revisión de anuncios, lo que motivó la acción legal para impedir permanentemente que la empresa publicite en sus plataformas. "Esta demanda refleja la seriedad con la que consideramos este abuso y nuestro compromiso con la protección de nuestra comunidad", declaró Meta en un comunicado, prometiendo continuar buscando soluciones legales contra el uso indebido de la plataforma.

CrushAI y aplicaciones similares de "desnudez", que despojan digitalmente a las personas (a menudo dirigiéndose a mujeres y celebridades), han sido objeto de críticas generalizadas por fomentar el acoso en línea, la extorsión y la explotación infantil. Una investigación reciente de CBS News descubrió cientos de estos anuncios en las plataformas de Meta, algunos de los cuales permanecían visibles incluso después de los esfuerzos de eliminación.

En respuesta, Meta ha fortalecido sus herramientas de control, implementando nueva tecnología para detectar y bloquear anuncios perjudiciales, incluso aquellos que no muestran desnudez explícita, y compartiendo información sobre amenazas con otras empresas tecnológicas.

La empresa también informó haber desmantelado cuatro redes coordinadas que operaban estos anuncios y continúa trabajando con expertos internos y colaboradores externos para contrarrestar las tácticas de evasión emergentes.

Ante la creciente presión de legisladores e investigadores, Meta afirma que permanecerá vigilante y tomará todas las medidas necesarias para frenar la proliferación de aplicaciones de IA explotadoras y proteger la seguridad de los usuarios.