L’apprentissage automatique est un outil incroyable qui permet de gagner du temps et de faire de nombreuses choses. Mais comme tout progrès technologique, il y a un revers de la médaille.
Un réseau neuronal profond a été créé pour pouvoir générer des faux avis sur les sites Internet. Jusque là, il était courant de payer des individus pour réaliser des avis sur des sites, rien de bien compliqué. Mais les sites d’e-commerces doivent maintenant faire face à un nouveau phénomène : les faux avis générés par des robots, à partir de vrais avis. Il leur faut donc affûter leur vigilance et mettre en place des procédures de vérification de plus en plus complexes et diverses. De nombreux sites élargissent leur clientèle grâce aux opinions exprimées sur Internet. Il est donc primordial qu’ils arrivent à endiguer ce fléau et à le contrôler.
Mais ce n’est pas une mince affaire. Les avis rédigés par les robots, s’ils sont basés sur les avis rédigés par des personnes réelles, sont plus efficaces. Quand l’élève dépasse le maître… Leurs créations de toutes pièces revêtent un aspect plus utile et, ironie du sort, plus crédible. Leur côté convaincant les rend d’autant plus dangereux. Et le pire dans tout ça est qu’il est impossible de détecter un avis généré par un robot. Les sites d’avis ont développé divers outils, notamment d’analyse sémantique. Mais même ces outils évolués se font berner. Voilà qui démontre quand même à quel point l’apprentissage automatique peut être nocif.
