Technologie

Le problème avec le plan d’Instagram visant à réduire le contenu «sexuellement suggestif»

Le problème avec le plan d’Instagram visant à réduire le contenu «sexuellement suggestif»


1*eb4DGp8yqxvpD04 2g8VbA - Le problème avec le plan d’Instagram visant à réduire le contenu «sexuellement suggestif»EPlus tôt ce mois-ci, Instagram a lancé une nouvelle politique de modération de contenu axée sur «la réduction de la diffusion de messages inappropriés mais ne contrevenant pas aux règles de la communauté Instagram» - ou, pour parler plus franchement, rendant plus difficile la promotion et la recherche de contenu par les utilisateurs. considéré par la plate-forme comme étant violent, graphique ou sexuellement suggestif.

Bien que la nouvelle politique puisse aider à réduire la diffusion de contenu perturbant au sein de l'application, certains utilisateurs craignent toutefois de retrouver leurs messages, voire leurs comptes entiers, cachés à cause d'une application trop large de l'étiquette nébuleuse “ sexuellement suggestive. »Bien que la politique ne supprime pas complètement le contenu de la plate-forme, elle empêchera certaines images de faire surface dans le populaire onglet« Explore »de l'application, appelé autrefois« le lieu le plus réel sur le Web ».

Will Ruben, le produit d’Instagram responsable de Discovery, a déclaré TechCrunch cette ces nouvelles directives seront mises en œuvre par des algorithmes d'apprentissage automatique. Les modérateurs de contenu humain formeraient le système pour identifier les publications qui repoussent les limites du bon goût.

Différents modérateurs peuvent venir au projet avec des idées très différentes de ce que signifie exactement «sexuellement suggestif».

Experts atteints par OneZero Elle a exprimé un certain nombre de préoccupations au sujet de cette mise à jour, qui semble destinée à toucher de manière disproportionnée les femmes, en particulier les influenceuses positives pour le corps, les femmes de couleur et les activistes trans.

Suresh Venkatasubramanian, professeur à la School of Computing de l’Université d’Utah, explique que ce type de système peut se présenter de multiples façons. Établir des libellés cohérents qu'un algorithme peut apprendre et appliquer est déjà une tâche délicate, et beaucoup plus lorsque le libellé est aussi vague et sujet à débat que «sexuellement suggestif». Différents modérateurs peuvent venir au projet avec des idées très différentes de ce que exactement, «sexuellement suggestif» signifie en réalité, créant beaucoup plus de confusion que de clarté.

"Est [the question] simplement, est-ce suggestif ou non? Y at-il plus de nuance que cela? demande Venkatasubramanian.

Venkatasubramanian a fait remarquer que quelque chose comme le système de classement de film de la MPAA offre un contexte permettant d'expliquer pourquoi un film pourrait recevoir un PG-13 par rapport à un R. Mais sans ces explications et directives explicites, il est probable que l'algorithme sera informé par un ensemble de normes potentiellement contradictoires. défini par l’équipe de modération, menant à une modération qui jette un filet incroyablement large ou qui se termine avec une norme appliquée de manière incohérente. C’est quelque chose que nous avons déjà vu avec les algorithmes de modération de contenu qui signalaient les photos des célèbres images de Burt Reynolds. Cosmopolite le centre de la pornographie ou la non-reconnaissance de vidéos en direct de la mosquée de Nouvelle-Zélande comme contenu violent

Certains signes indiquent déjà que l’algorithme de modération d’Instagram va être façonné par une idée biaisée d’indécence - une idée qui place la barre beaucoup plus basse pour les femmes que pour les hommes. TechCrunch obtenu des échantillons de photos de l’effort de modération, y compris deux images pouvant être considérées comme sexuellement suggestives. L'un d'eux mettait en vedette un homme complètement vêtu et sans tête, agrippant son entrejambe; l'autre, une femme en lingerie assise sur un lit. Vous pourriez interpréter cela comme signifiant que les hommes sont réputés être sexuellement suggestifs en raison de leurs actes, alors que les femmes acquièrent ce statut simplement en ayant un corps que quelqu'un d'autre juge sexuellement attractif.

"Nous voulons être transparents avec la communauté à propos de ces directives et nous réfléchissons à la meilleure façon de le faire."

Instagram a refusé d'offrir OneZero plus d'informations sur la manière dont ses algorithmes seraient formés. Un porte-parole a déclaré: «Nous ne partageons pas ce niveau d’informations pour le moment, car nous ne voulons pas que les gens jouent au système. Nous voulons être transparents avec la communauté à propos de ces directives, et nous réfléchissons à la meilleure façon de le faire. "

Il n’ya pas que les comptes à thème érotique susceptibles d’être affectés par cette politique. Anna Lauren Hoffmann, professeure adjointe à la Information School de l'Université de Washington, explique qu'il existe «un héritage consistant à confondre les corps de femmes… avec déviance, impudicité, ou distraction, ou directement, inappropriée», selon les directives de contenu d'Instagram. être à partir de. Il s’agit en particulier d’un héritage qui n’affecte pas toutes les femmes de la même manière. Comme me le rappelle Hoffmann, nos idées culturelles sur l'apparence et le comportement appropriés tendent à «avoir des conséquences particulières sur certains types de femmes», telles que les femmes de couleur, les femmes handicapées, les femmes trans, les femmes grasses et les autres femmes dont le corps est souvent étiqueté inapproprié "simplement pour avoir l'audace d'exister.

Laura Delarato, militante de l'image corporelle et créatrice de la lettre d'information 1-800-HEYLAURA, offre aux lecteurs un espace leur permettant d'explorer leurs sentiments sur le sexe et leur corps. Elle utilise Instagram pour fournir une inspiration positive à ses milliers de fans. Elle a découvert qu’en tant que grosse femme, elle était soumise à un examen plus rigoureux que ses homologues maigres ou masculins.

«Les hommes peuvent simplement entrer dans ce monde Instagram sans préjugés, car leur corps est déjà considéré comme la norme», a déclaré Delarato, notant que quelqu'un comme le modèle masculin de taille plus, Zach Miko, pouvait poser à moitié nu sans être jugé sexuellement suggestif. Cela tient en partie à la position controversée de Instagram selon laquelle les mamelons masculins sont plus appropriés socialement que leurs homologues féminines. En revanche, les femmes - et en particulier les femmes marginalisées - sont présumées exister principalement pour la consommation masculine, leurs images étant sexualisées du seul fait de leur existence.

Les hommes sont réputés être sexuellement suggestifs en raison de leurs actes, tandis que les femmes acquièrent ce statut simplement en ayant un corps que quelqu'un d'autre juge sexuellement attractif.

«Nous avons cette compréhension interne que les femmes sont des ornements», dit Delarato. L'idée que des femmes exposent leur peau pour des raisons autres que titillation est inconcevable, même si elles publient régulièrement des photos légèrement vêtues comme moyen de diffuser un message de positivité corporelle, de redevenir une survivante du cancer, de documenter leurs performances physiques ou même de célébrer un lien avec un bébé. Et Instagram - une entreprise qui, me rappelle Hoffmann, est finalement supervisée par un homme qui a lancé sa carrière dans la technologie avec un site Web consacré au classement des apparences des femmes de Harvard - semble mal préparée pour intégrer une vision aussi nuancée des femmes et de leur corps. , dans sa nouvelle politique de modération.

Des sites de médias sociaux comme Instagram ont été lancés avec la promesse de donner une plate-forme à tout le monde, de tous les horizons, permettant aux individus de s’exprimer et aux voix marginalisées de se faire entendre. Et pourtant, avec sa nouvelle politique de contenu, Instagram semble prêt à supprimer toutes les nuances, intentions et contextes culturels des publications de ses utilisateurs, soumettant chacun à une définition unique et biaisée de «sexuellement suggestif». C'est une stratégie qui déshumanise les utilisateurs, leur capacité à attribuer leur propre signification et leur propre message au contenu qu’ils publient - et c’est une stratégie qui risque de causer le plus de tort à certains utilisateurs déjà marginalisés des plateformes.

Show More

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Related Articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close
Close