Payer des humains pour créer de toutes pièces de faux avis sur un restaurant, une boutique, c’est relativement simple – mais pas forcément très efficace. Entraîner des robots pour générer des avis convaincants pourrait être plus facile, et même moins cher. Des chercheurs de l’université de Chicago ont mené une étude inquiétante sur le phénomène.

du deep learning textuel

Ils ont créé un réseau neuronal profond (deep neuronal network) et l’ont entraîné à rédiger de faux avis particulièrement convaincants. Ces robots ont appris comment rédiger un commentaire en s’inspirant des milliers publiés sur la plate-forme d’avis en ligne Yelp. Grâce aux progrès du deep learning, les avis fabriqués par les machines paraîtraient même plus « utiles » et crédibles que de vrais avis, selon l’évaluation d’un panel de consommateurs réuni par les chercheurs. Les robots ont d’autant moins de mal que les avis clients sont souvent courts, écrits avec un vocabulaire simple ; leur rédaction est parfois dirigée par les sites à l’aide de questions.

Ces faux avis de synthèse seraient indétectables par les outils d’analyse sémantique déployés par les sites d’avis pour tenter de repérer des avis fabriqués, constatent les chercheurs américains. Ce qui ne veut pas dire qu’ils passeraient forcément entre les mailles du filet, car d’autres filtres existent. Les chercheurs invitent les professionnels du secteur à s’emparer du sujet et à imaginer de nouveaux modes de défense, face à ce nouveau type d’attaques, qui pourraient se propager à d’autres secteurs (partout ou du contenu textuel est généré).

Se doter de défenses plus solides

Ce phénomène naissant illustre une nouvelle fois la nécessité, pour les business se basant sur des avis clients (et ils sont de plus en plus nombreux) de se doter d’un processus de vérification rigoureux, combinant plusieurs techniques (croisement des données de géolocalisation, du fichier clients…). Et pas seulement pour contrer les faux avis, mais aussi pour éviter tout biais dans la collecte, le traitement, la publication des avis. C’est justement l’objet d’une norme internationale, ISO 20488, basée sur la norme française NF Z74-501, en cours d’élaboration.