Meta a déposé une plainte contre Joy Timeline HK Ltd., une entreprise basée à Hong Kong responsable du développement de l'application controversée CrushAI, qui utilise l'intelligence artificielle pour générer des images sexualisées sans consentement.

La demande, déposée à Hong Kong, accuse la société d'avoir enfreint les politiques publicitaires de Meta en promouvant l'application par le biais d'annonces sur Facebook et Instagram, malgré les suppressions répétées et les mesures de conformité.

Selon Meta, Joy Timeline a tenté à plusieurs reprises de contourner ses systèmes de révision des annonces, ce qui a motivé une action en justice pour empêcher définitivement l'entreprise de faire de la publicité sur ses plateformes. "Cette plainte reflète le sérieux avec lequel nous considérons cet abus et notre engagement à protéger notre communauté," a déclaré Meta dans un communiqué, promettant de continuer à rechercher des solutions juridiques contre l'utilisation abusive de la plateforme.

CrushAI et des applications similaires de "nudité", qui dépouillent numériquement les personnes ( en s'attaquant souvent aux femmes et aux célébrités ), ont été largement critiquées pour favoriser le harcèlement en ligne, l'extorsion et l'exploitation des enfants. Une enquête récente de CBS News a découvert des centaines de ces annonces sur les plateformes de Meta, dont certaines restaient visibles même après les efforts de suppression.

En réponse, Meta a renforcé ses outils de contrôle, mettant en œuvre une nouvelle technologie pour détecter et bloquer les publicités nuisibles, y compris celles qui ne montrent pas de nudité explicite, et partageant des informations sur les menaces avec d'autres entreprises technologiques.

L'entreprise a également signalé avoir démantelé quatre réseaux coordonnés qui opéraient ces annonces et continue de travailler avec des experts internes et des collaborateurs externes pour contrer les tactiques d'évasion émergentes.

Face à la pression croissante des législateurs et des chercheurs, Meta affirme qu'elle restera vigilante et prendra toutes les mesures nécessaires pour freiner la prolifération des applications d'IA exploitantes et protéger la sécurité des utilisateurs.