Natasha Dolls : quand les algorithmes amplifient le racisme en ligne 📲

Click here to read in English

Sur Douyin et RedNote — les deux grandes plateformes chinoises de vidéo courte, qui comptent à elles seules plus de 760 millions d’utilisateurs —, une nouvelle polémique secoue les réseaux sociaux. En Chine, des vidéos montrant des actes de maltraitance à l’encontre de « Natasha Dolls », des poupées à la peau noire, suscitent une vive indignation au sein de nombreuses communautés africaines et afrodescendantes. Pour plusieurs internautes, ces contenus participent à la banalisation du racisme et à la diffusion de stéréotypes dégradants dans l’espace numérique. Mais au-delà de la polémique, c’est la vitesse à laquelle les algorithmes de recommandation ont propulsé ces vidéos qui interpelle le plus.

Un jouet anti-stress au cœur d’une tendance troublante ⚠️📸

La Natasha Doll est un jouet en caoutchouc malléable, commercialisé comme accessoire de décompression. Disponible en plusieurs teintes de peau — noire, marron et blanche —, c’est systématiquement la version à la peau noire qui se retrouve au cœur des vidéos les plus violentes. Dans ces séquences largement relayées, les poupées sont frappées, piétinées ou aspergées d’eau chaude devant les caméras. Ces vidéos, devenues virales grâce aux mécanismes de partage et de recommandation algorithmique, auraient généré des millions de vues et alimenté une tendance qui divise profondément les internautes.

Des psychologues et des créateurs de contenu ont par ailleurs mis en garde contre le risque de normalisation de l’agressivité, notamment auprès des jeunes spectateurs exposés à ces contenus.

Alors que certains utilisateurs considèrent ces séquences comme un simple divertissement, d’autres y voient une forme de violence symbolique visant indirectement les personnes noires. « C’est de la moquerie à l’endroit de la peau noire. Cela mérite des sanctions », dénonce une internaute.

Les limites de la modération numérique 📱⚖️⚠️

Cette controverse remet au centre des débats la responsabilité des plateformes numériques dans la circulation de contenus jugés offensants. Plusieurs observateurs s’interrogent sur l’efficacité des systèmes de modération et des algorithmes censés détecter et limiter la propagation des contenus discriminatoires. Les chiffres disponibles donnent une mesure du défi : TikTok a supprimé 204,5 millions de vidéos à l’échelle mondiale sur le seul troisième trimestre 2025 — soit environ 0,7 % de l’ensemble des contenus publiés — et reconnaît que 91 % de ces suppressions ont été opérées par des systèmes automatisés. Sur X (ex-Twitter), le rapport de transparence 2024 est encore plus révélateur : sur plus de 2 millions de contenus haineux supprimés, 99,75 % ont nécessité l’intervention de modérateurs humains, les outils automatisés se révélant incapables de traiter seuls la subtilité du discours discriminatoire.

« Les réseaux sociaux devraient avoir pour principal objectif l’information et l’éducation. Aujourd’hui, certains contenus semblent davantage favoriser la polémique et la confrontation », estime un internaute.

L’affaire intervient dans un contexte mondial où les appels à lutter contre les discriminations raciales en ligne se multiplient. Selon plusieurs observateurs, de nombreuses organisations de défense des droits humains ainsi que plusieurs institutions internationales réclament une meilleure régulation des contenus haineux sur les plateformes numériques.

Des interrogations sur la responsabilité des plateformes 🤖❓📱

Pour de nombreux internautes, la viralité de ces vidéos soulève également la question de la responsabilité des auteurs et des plateformes qui hébergent ces contenus. « Depuis que ces vidéos sur les Natasha Dolls circulent, quelqu’un a-t-il été sanctionné ? Nous parlons pourtant d’un pays réputé pour ses capacités de surveillance numérique. Les auteurs de contenus devenus viraux auraient pu être identifiés », s’interroge un internaute. La question est d’autant plus légitime que Douyin opère sous supervision directe de l’État chinois — ce qui rend l’absence apparente de mesures coercitives encore plus difficile à expliquer.

D’autres utilisateurs préfèrent relativiser l’incident, estimant que ces publications reflètent davantage l’ignorance de leurs auteurs qu’une réalité plus large. Dans plusieurs commentaires, certains rappellent que « l’Afrique existe et continuera d’exister indépendamment de ces provocations ».

Au-delà de la polémique, cette affaire met en lumière un défi majeur de l’ère numérique : la capacité des algorithmes et des systèmes de modération à détecter rapidement les contenus susceptibles de véhiculer des messages racistes ou discriminatoires. Elle relance également le débat sur l’équilibre entre liberté d’expression, responsabilité des plateformes et protection des communautés visées par des contenus potentiellement blessants.

Les plateformes numériques font-elles vraiment leur travail face aux contenus racistes ? Dites-le-nous en commentaire.