En matière de nudité, Instagram et les autres réseaux sociaux peuvent être très tatillons. Fisheye en a d’ailleurs fait les frais récemment en publiant sur son compte Facebook la photo d’un couple nu que le réseau a supprimé. Pour pallier ce genre de problème, la compagnie californienne Algorithmia a eu la bonne idée de lancer un détecteur de nudité fin juin dernier.
Avant même de mettre une image en ligne, on peut désormais la soumettre à Is It Nude pour savoir si elle est susceptible d’être censurée. En quelques secondes, une inscription s’affiche à droite de la photo: “nude” (nu, en françaisà si le contenu est sensible, “not nude” s’il est jugé grand public. Étant donné la nature du contenu posté sur le site, Algorithmia assure qu’aucune des images n’est conservée par la compagnie.
Garantir un contenu kid-friendly
Simple comme bonjour, le concept nécessite cependant de nombreux calculs pour être efficace. Kenny Daniel, directeur technique de la marque a expliqué à Wired que tout est parti de la volonté d’un client de lancer un site “kid-friendly”. “L’un de nos ingénieurs a mêlé différents algorithmes allant de la détection de la couleur de peau à l’analyse de l’image pour permettre de signaler le contenu pour adulte.”
De nombreux sites de photographie comme Flickr pourraient bientôt utiliser l’application afin de détecter le contenu pour adultes. Pour Facebook et son armée de modérateurs qui traquent les contenus choquants, cet algorithme pourrait être une révolution. A condition qu’il devienne à 100% efficace, ce qui est loin d’être le cas même si Algorithmia assure faire de son mieux pour améliorer l’application en tenant compte des remarques des utilisateurs. Autre bémol, Is It Nude a été créé pour détecter les corps nus et non le caractère obscène d’une image ce qui devrait pourtant être la principale préoccupation des modérateurs.
Pour le moment, les images en noir et blanc ne peuvent pas encore être analysées. Quant aux photos couleurs… la grande majorité de celles que nous avons soumises au test n’ont pas été qualifiées de “nude”. La photo que Facebook a censuré sur notre page en mai dernier, elle, a encore une fois été jugée choquante sans vraiment que l’on ne comprenne pourquoi.
En (sa)voir plus
→ Pour tester le détecteur de nudité, c’est par ici
→ Un article du Monde sur la censure du tableau l’Origine du Monde par Facebook
(via PetaPixel)
