Les comptes de régime extrême ont été mis à niveau vers un compte Instagram créé par le personnel du sénateur Richard Blumenthal. La sénatrice du Connecticut a enregistré un compte en tant que fille de 13 ans et a commencé à suivre des comptes de troubles de l’alimentation et d’approbation (ce dernier étant censé être bloqué par Instagram). Bientôt, l’algorithme Instagram a commencé à recommander presque exclusivement que le compte d’un adolescent suive de plus en plus de comptes de régime extrême, a déclaré le sénateur à CNN.
Le bureau de Blumenthal a partagé avec CNN une liste de comptes recommandés par l’algorithme Instagram. Après que CNN a envoyé un échantillon de cette liste de cinq comptes à Instagram pour commentaires, la société les a supprimés, affirmant qu’ils avaient tous violé ses politiques contre l’encouragement des troubles de l’alimentation.
« Nous n’autorisons pas le contenu qui promeut ou encourage les troubles de l’alimentation et nous avons supprimé les comptes partagés avec nous pour avoir enfreint ces règles », a déclaré à CNN un porte-parole de Facebook, la société mère d’Instagram. « Nous utilisons la technologie et les rapports de notre communauté pour trouver et supprimer ce contenu aussi rapidement que possible, et nous travaillons toujours à nous améliorer. Nous continuerons de suivre les conseils d’experts d’universitaires et d’organisations de santé mentale, telles que la National Eating Disorder Association, pour trouver le difficile équilibre entre permettre aux gens de partager leurs expériences de santé mentale et les protéger des contenus potentiellement dangereux.
S’adressant à CNN lundi, Blumenthal a déclaré: « Cette expérience montre comment cela se fait de manière très graphique. [Facebook’s] Les allégations de protection d’enfants ou de suppression de comptes qui peuvent être dangereux pour eux sont totalement absurdes. »
L’expérience de Blumenthal n’est pas une anomalie, et cela pourrait surprendre un peu les utilisateurs réguliers d’Instagram qui savent comment l’algorithme de la plate-forme suggère des comptes qui, selon eux, pourraient intéresser un utilisateur.
L’expérience de Blumenthal va encore plus loin, montrant à quelle vitesse l’algorithme d’Instagram peut promouvoir du contenu malveillant auprès des jeunes utilisateurs.
CNN a créé un compte la semaine dernière en utilisant la même méthodologie que le bureau du sénateur, et en suivant également des comptes de régime extrême et de troubles de l’alimentation. Dimanche, Instagram a promu des comptes portant des noms tels que « Sweet Skinny », « Prettily Skinny » et « Wanna Be Skinny » sur un compte de démonstration CNN qui a également été enregistré comme appartenant à une fille de 13 ans. CNN a contacté Instagram pour demander si ces comptes enfreignent également ses politiques.
Les dangers du contenu sur les troubles de l’alimentation sur Instagram
Les experts disent que l’affichage du contenu de ces comptes de régime extrême – qui, par exemple, comprenait des photos de corps ultra-minces et des informations sur le « poids actuel » d’un utilisateur par rapport au « poids cible » – peut servir de validation pour les utilisateurs qui sont déjà sujets à des comportements malsains .
« Nous recherchons constamment la validation que nous avons raison, même si cette validation est vraiment nocive pour notre santé personnelle », a ajouté Kiel, augmentant les enjeux pour Instagram afin d’éviter de promouvoir un tel contenu.
Instagram a également poussé les affirmations sur son rôle dans la perpétuation de comportements nocifs en affirmant que la comparaison sociale est un problème répandu et que des images potentiellement problématiques sont également disponibles ailleurs. En fait, les communautés Internet « pro-anorexie » existent depuis des années, avant l’avènement d’Instagram. Cependant, la large portée d’Instagram parmi les jeunes femmes et les filles signifie qu’un tel contenu publié sur sa plate-forme peut être particulièrement dangereux, selon Keel.
« La prédominance d’Instagram parmi la tranche d’âge qui était déjà plus à risque de développer un trouble de l’alimentation en est une. [issue]dit Kiel. Vous avez un cercle vicieux : vous avez un groupe qui présente un risque élevé de ces problèmes pour prouver à cette IA que c’est ce qui attire son attention, puis cette IA dit : « Ici, laissez-moi vous en dire plus. . .. C’est juste une tempête parfaite » .
Chelsea Kroningold, responsable des communications pour la National Eating Disorders Association (NEDA), a ajouté que si Instagram et d’autres sites de médias sociaux ne peuvent pas causer de troubles de l’alimentation et d’autres problèmes d’image corporelle, « nous savons que c’est certainement un facteur de risque important dans ces situations ».
« Il n’y a aucun avantage à long terme à tuer les membres de votre plus grande base d’utilisateurs, car les troubles de l’alimentation sont si dangereux, et il n’y a aucun moyen de le faire. [Instagram] veut », a déclaré Keil. Ma seule demande est d’être plus transparent. Vous suivez cela, essayez de faire des choses pour réduire les risques de votre site et soyez plus transparent sur ce que vous essayez de faire. »