Dans un mouvement bipartite rare, la Chambre des représentants des États-Unis a adopté la loi sur la baisse par un vote de 409-2 le 28 avril 2025. Le projet de loi est un effort pour affronter l’une des abus les plus épouvantables d’Internet: la propagation virale de l’imagerie sexuelle non consensuelle, y compris la pornographie enfake-demante générée et de la pornographie de la vengeance.
En attendant maintenant la signature attendue du président Trump, le projet de loi offre aux victimes un mécanisme pour forcer les plates-formes à supprimer le contenu intime partagé sans leur permission – et à tenir les responsables de la distribution pour le distribuer.
En tant que chercheur axé sur l’IA et les dommages numériques, je considère ce projet de loi comme une étape essentielle. Pourtant, cela laisse des lacunes troublantes. Sans protections plus fortes et un cadre juridique plus robuste, la loi peut finir par offrir une promesse qu’elle ne peut tenir. Les problèmes d’application et les angles morts de la vie privée pourraient laisser les victimes tout aussi vulnérables.
L’acte de reprise de Take Down cible les «représentations visuelles intimes non consensuelles» – un terme juridique qui englobe ce que la plupart des gens appellent du porno de vengeance et du porno profondément. Ce sont des images ou des vidéos sexuelles, souvent manipulées numériquement ou entièrement fabriquées, diffusées en ligne sans le consentement de la personne représentée.
Le projet de loi oblige les plateformes en ligne pour créer un processus de retrait convivial. Lorsqu’une victime soumet une demande valide, la plate-forme doit agir dans les 48 heures. Ne pas le faire peut déclencher l’application par la Federal Trade Commission, qui peut traiter la violation comme un acte ou une pratique injuste ou trompeur. Les sanctions pénales s’appliquent également à ceux qui publient les images: les délinquants peuvent être condamnés à une amende et encourir jusqu’à trois ans de prison si quelqu’un de moins de 18 ans est impliqué et jusqu’à deux ans si le sujet est un adulte.
Un problème croissant
Deepfake Porn n’est pas seulement un problème de niche. C’est une crise métastasante. Avec des outils d’IA de plus en plus puissants et accessibles, n’importe qui peut fabriquer une image sexuelle hyper-réaliste en quelques minutes. Les personnalités publiques, les ex-partenaires et en particulier les mineurs sont devenus des cibles régulières. Les femmes, de manière disproportionnée, sont celles blessées.
Ces attaques démantèlent des vies. Les victimes de l’abus d’images intimes non consensuelles souffrent de harcèlement, de harcèlement en ligne, de perspectives d’emploi en ruine, de honte publique et de traumatisme émotionnel. Certains sont chassés d’Internet. D’autres sont hantés à plusieurs reprises en faisant refaire du contenu. Une fois en ligne, ces images se reproduisent de manière incontrôlable – elles ne disparaissent pas simplement.
Dans ce contexte, un processus de retrait rapide et standardisé peut offrir un soulagement critique. La fenêtre pour la réponse de 48 heures du projet de loi a le potentiel de récupérer un fragment de contrôle pour ceux dont la dignité et la confidentialité ont été envahis par un clic. Malgré sa promesse, les lacunes juridiques et procédurales non résolues peuvent entraver son efficacité.
Boucs-aveugles et déficits
Le projet de loi ne cible que des plateformes interactives orientées publiques qui hébergent principalement des contenus générés par les utilisateurs tels que les plateformes de médias sociaux. Il peut ne pas atteindre les innombrables forums privés cachés ou les réseaux peer-to-peer chiffrés où un tel contenu apparaît souvent pour la première fois. Cela crée un écart juridique critique: lorsque des images sexuelles non consensuelles sont partagées sur des plateformes fermées ou anonymes, les victimes peuvent même ne jamais savoir – ou savoir dans le temps – que le contenu existe, et encore moins la possibilité de demander son retrait.
Même sur les plateformes couvertes par le projet de loi, la mise en œuvre est probablement difficile. Déterminer si le contenu en ligne représente la personne en question, manque de consentement et affecte les intérêts de confidentialité difficiles à définir nécessite un jugement minutieux. Cela exige une compréhension légale, une expertise technique et un temps. Mais les plates-formes doivent prendre cette décision dans les 24 heures ou moins.
D’un autre côté, le temps est une victime de luxe. Mais même avec la fenêtre de retrait de 48 heures, le contenu peut toujours se propager largement avant d’être enlevé. Le projet de loi n’inclut pas les incitations significatives pour les plateformes pour détecter et supprimer ce contenu de manière proactive. Et il ne fournit pas de dissuasion suffisamment fort pour décourager la plupart des créateurs malveillants de générer ces images en premier lieu.
Ce mécanisme de retrait peut également être soumis à des abus. Les critiques avertissent que la langue générale du projet de loi et le manque de garanties pourraient conduire à une surcentage, affectant potentiellement le contenu journalistique et autre. Comme les plates-formes peuvent être inondées d’un mélange de demandes réelles et malveillantes de retrait – certains ont déposé de mauvaise foi pour supprimer la parole ou l’art – ils peuvent recourir à des filtres de surveillance automatisés mal conçus et invasifs qui ont tendance à émettre des refus de couverture ou à se tromper du contenu qui ne retient pas la portée de la loi.
Sans normes claires, les plates-formes peuvent agir mal. Comment – et même si – la FTC tiendra les plates-formes responsables en vertu de la loi est une autre question ouverte.
Fardeau pour les victimes
Le projet de loi place également le fardeau de l’action sur les victimes, qui doivent localiser le contenu, remplir les documents, expliquer qu’elle n’était pas consensuelle et soumettre des coordonnées personnelles – souvent tout en étant sous le choc du bilan émotionnel.
De plus, alors que le projet de loi cible à la fois les profondeurs générées par l’AI et le porno de vengeance impliquant de vraies images, elle ne tient pas compte des réalités complexes auxquelles les victimes sont confrontées. Beaucoup sont pris au piège dans des relations inégales et peuvent avoir «consenti» sous pression, manipulation ou peur d’avoir du contenu intime à leur sujet publié en ligne. Des situations comme celle-ci tombent en dehors du cadrage légal du projet de loi. Le consentement des barres du projet de loi obtenu par des menaces et une coercition manifestes, mais elle néglige des formes de manipulation plus insidieuses.
Même pour ceux qui engagent le processus de retrait, les risques restent. Les victimes doivent soumettre des coordonnées et une déclaration expliquant que l’image n’était pas consensuelle, sans garantie légale que ces données sensibles seront protégées. Cette exposition pourrait inviter de nouvelles vagues de harcèlement et d’exploitation.
Échappatoires pour les délinquants
Le projet de loi comprend des conditions d’évasion et des exceptions qui pourraient permettre aux distributeurs d’échapper à la responsabilité. Si le contenu était partagé avec le consentement du sujet, a servi une préoccupation publique, ou n’a pas été involontaire ou n’a causé aucun préjudice démontrable, ils peuvent éviter les conséquences en vertu de la loi sur la prise. Si les délinquants nient causé des dommages, les victimes font face à une bataille difficile. La détresse émotionnelle, les dégâts de réputation et les revers de carrière sont réels, mais ils sont rarement livrés avec une documentation claire ou une chaîne de cause à effet simple.
Tout aussi préoccupant, le projet de loi autorise les exceptions de publication de ce contenu à des fins médicales, éducatives ou scientifiques légitimes. Bien que bien intentionné, cette langue crée une échappatoire déroutante et potentiellement dangereuse. Il risque de devenir un bouclier pour l’exploitation se faisant passer pour la recherche ou l’éducation.
Devenir en passant le problème
Le mécanisme de l’avis et du retrait est fondamentalement réactif. Il intervient uniquement après le début des dommages. Mais la pornographie profonde est conçue pour une prolifération rapide. Au moment où une demande de retrait est déposée, le contenu a peut-être déjà été enregistré, republié ou intégré sur des dizaines de sites – certains hébergés à l’étranger ou enterrés dans des réseaux décentralisés. Le projet de loi actuel fournit un système qui traite les symptômes tout en laissant les dommages à la propagation.
Dans mes recherches sur les préjudices algorithmiques et IA, j’ai soutenu que les réponses légales devraient aller au-delà des actions réactives. J’ai proposé un cadre qui anticipe les préjudices avant qu’il ne se produise – pas celui qui répond simplement après coup. Cela signifie inciter les plates-formes à prendre des mesures proactives pour protéger la confidentialité, l’autonomie, l’égalité et la sécurité des utilisateurs exposés aux dommages causés par des images et des outils générés par l’IA. Cela signifie également élargir la responsabilité de couvrir davantage d’auteurs et de plateformes, soutenus par des garanties plus fortes et des systèmes d’application.
L’acte de reprise de Take It est une première étape significative. Mais pour vraiment protéger les vulnérables, je crois que les législateurs devraient construire des systèmes plus forts – ceux qui empêchent les préjudices avant qu’il ne se produise et traitent la vie privée et la dignité des victimes non pas comme des maisons après que les droits fondamentaux.
