De nouvelles recherches mettent en garde contre le fait que les personnalités créées par l'IA sont suffisamment réalistes pour infiltrer les groupes en ligne.
Contrairement aux anciens bots, ils s'adaptent, se coordonnent et affinent leurs messages au fil du temps.
Le danger réside dans l'influence invisible qui façonne l'opinion sans que personne ne s'en aperçoive.
Si vous gérez des communautés en ligne ou si vous consultez les commentaires pour prendre le pouls de l'opinion publique, ceci devrait vous interpeller. Les avatars IA ont franchi une limite, et les méthodes traditionnelles pour repérer un bot pourraient bien devenir obsolètes.
Des bots aux personnes crédibles
Une étude mise en lumière par ScienceDaily avertit que les avatars créés par l'IA deviennent si réalistes qu'ils peuvent infiltrer les communautés en ligne et influencer subtilement l'opinion publique.
Le mot clé est subtil. Les anciens bots étaient faciles à repérer. Ils publiaient sans cesse le même message, répondaient à des heures inopportunes et se désintégraient à la moindre question. Ces nouveaux profils sont différents.
Voici ce qui les distingue :
Ils s'adaptentils modifient leur message en fonction des réactions des gens.
Ils se coordonnenttravailler ensemble sur l'ensemble des comptes plutôt que d'agir seul
Ils peaufinent leur communication, devenant de plus en plus persuasif avec le temps
Ils se fondent dans le décor, se comportant comme de véritables membres de la communauté plutôt que comme des spammeurs
Cette combinaison les rend difficiles à détecter et encore plus difficiles à contrer. Un seul bot facilement identifiable est une nuisance. Un essaim coordonné de personnages crédibles qui apprennent au fur et à mesure représente une véritable menace pour les échanges en ligne authentiques.
Ce que cela signifie pour votre communauté
Pour quiconque gère un blog, un forum, une section commentaires ou un réseau social, cela change la donne. On ne peut plus supposer qu'un compte respectueux et bienveillant appartient à une personne réelle.
Quelques points pratiques à garder à l'esprit :
Changements soudains d'humeur peut être fabriqué, non biologique
Points de discussion coordonnés Le fait que des utilisateurs « différents » soient concernés est un signe d’alerte.
Méthodes d'engagement peut être manipulé par des personnages d'apparence humaine
Signaux de confiance Des historiques de publication cohérents sont désormais plus faciles à falsifier.
Il y a aussi une inquiétude plus générale. Si l'opinion publique, dans les sections de commentaires et les forums, peut être subtilement influencée, alors la « sagesse collective » sur laquelle beaucoup s'appuient devient illusoire. Les décisions prises en fonction de l'opinion générale se transforment en décisions prises en fonction d'une opinion manipulée.
Cette étude ne signifie pas que tous les commentateurs bienveillants sont des robots. La plupart des internautes sont exactement ce qu'ils paraissent être. Mais elle indique que la norme a évolué et qu'un sain scepticisme est désormais indispensable à la gestion de tout espace en ligne.
Attention à la coordination, pas seulement au spam évident, car ce dernier était le problème facile. Le problème actuel est complexe.
Liens rapides:
