Pour répondre aux très nombreux propos racistes et haineux qui se propagent sur la toile, Google a mis au point un logiciel nommé « Perspective », chargé de modérer intelligemment les commentaires des internautes.
Ces commentaires anxiogènes nécessitent un traitement jusqu’à présent très couteux en temps, en argent et en énergie pour les différents médias et autres plateformes en ligne. Certains journaux ont même dû totalement supprimer les encarts dédiés aux commentaires des internautes pour éviter des dérives sur leur site. Une solution frustrante pour ces médias qui tirent grandement profit des échanges interactifs autour de leurs contenus.
L’outil informatique « Perspective » vise justement à répondre à ces problématiques. Développé auprès du New York Times, The Guardian ainsi que Wikipedia, il est disponible gratuitement depuis le 23 février pour tous les médias membres de la « Digital News Initiative » de Google et les réseaux sociaux tels que Facebook, Twitter ou Youtube.
Concrètement, les éditeurs de contenus définissent dans un premier temps un seuil d’acceptabilité (avant publication) des commentaires sur leur plateforme et définissent quels genres de propos seront automatiquement modérés, supprimés. L’algorithme, sous couvert d’intelligence artificielle et de machine learning, prend ensuite le relais pour appliquer, grâce à une base de données constituée de ces propos haineux, un tri beaucoup plus massif et rapide que celui réalisé actuellement par les modérateurs humains. Les commentaires se verront même attribuer une note de 0 à 100 selon leur importance de trolling et l’internaute sera prévenu en temps réel du risque de suppression de son commentaire.
PERSPECTIVEAPI.COM
Toutefois, « Perspective » reste à perfectionner. Certains propos tels que « Women shouldn’t drive » obtiennent des scores de trolling relativement peu élevés. Certains langages à l’inverse (surtout ceux d’origine non latine) sont plus sévèrement sanctionnés. D’autre part, l’outil n’est actuellement disponible qu’en anglais.
A l’initiative de l’incubateur Jigsaw (ex-Google Ideas), cet outil s’inscrit dans la logique des propos tenus début Février par Twitter et Google. Ces derniers exprimaient publiquement leur volonté de tracer les auteurs de propos haineux sur la toile, pour mieux les écarter du débat en ligne.