Instagram : un « contrôleur de nudité » pour protéger les mineurs

Cette nouvelle mesure vise à protéger les utilisateurs face aux contenus indésirables en détectant et floutant automatiquement les contenus comportant de la nudité dans leurs DM en y apposant un filtre de nudité – leur donnant le choix de le visualiser ou non.

L’outil de contrôle de nudité sera automatiquement activé pour les utilisateurs mineurs tandis que les majeurs seront notifiés de son existence afin de les encourager à l’activer par eux-mêmes. Des messages de sensibilisation sur le chantage aux photos à caractère sexuel, aussi appelé « sextorsion » (contraction de « sexe » et d’« extorsion »), seront dans le même temps envoyés à l’émetteur et au récepteur des images,

Les nouvelles mesures annoncées par Meta, la maison mère d’Instagram, seront déployées partout dans le monde au cours de l’année.

Plus précisément, voici les annonces sur le sujet :

La lutte contre les interactions indésirables

• Un nouvel outil de contrôle de la nudité sur Instagram : cette nouvelle fonctionnalité vise à protéger les utilisateurs face aux contenus indésirables en détectant et floutant automatiquement les contenus comportant de la nudité dans leurs DM en y apposant un filtre de nudité – leur donnant le choix de le visualiser ou non. L’outil de contrôle de nudité sera automatiquement activé pour les utilisateurs mineurs tandis que les majeurs seront notifiés de son existence afin de les encourager à l’activer par eux-mêmes.
• Des technologies renforcées pour prévenir les interactions entre adultes malveillants et mineurs : Meta annonce également le développement de ses efforts continus pour empêcher les personnes malveillantes d’entrer en contact avec les adolescents avec le déploiement de technologies supplémentaires pour détecter et prévenir les cas potentiels de sextorsion.

De nouvelles ressources et plateformes de soutien à la disposition des utilisateurs

• Avec ces nouvelles mesures, Meta entend également effectuer de la sensibilisation sur les risques encourus en cas de partage d’images intimes et donner davantage de contrôle à ses utilisateurs face à ce phénomène. Ainsi : tout utilisateur ayant été en contact avec de potentiels utilisateurs malveillants recevra un message en haut de son fil d’actualité les renvoyant vers des ressources dédiées telles qu’une plateforme intitulée Stop Sextorsion. Cette ressource sera également partagée aux personnes ayant signalé du contenu comportant de la nudité.
• Par ailleurs, suite au lancement du bouton 3018 en novembre 2023, une première mondiale en France qui permet d’être mis en relation avec un écoutant du 3018 directement depuis l’application, le groupe développe désormais son travail en collaboration avec des partenaires en redirigeant automatiquement les utilisateurs vers des lignes d’écoute dédiées telles que StopNCII.org, Take It Down au niveau international et En avant toutes en France.