Una nueva investigación advierte que las identidades creadas por IA son lo suficientemente realistas como para infiltrarse en grupos en línea.
A diferencia de los bots antiguos, estos se adaptan, se coordinan y perfeccionan sus mensajes con el tiempo.
El peligro reside en la influencia invisible, que moldea la opinión pública sin que nadie se dé cuenta.
Si administras comunidades en línea o lees comentarios para medir la opinión pública, esto debería hacerte reflexionar. Las identidades de IA han cruzado un límite, y los métodos antiguos para detectar bots podrían dejar de funcionar.
De bots a personas creíbles
Una investigación destacada por ScienceDaily advierte que los perfiles creados con inteligencia artificial se están volviendo tan realistas que pueden infiltrarse en las comunidades en línea y manipular sutilmente la opinión pública.
La clave está en la sutileza. Los bots antiguos eran fáciles de detectar. Publicaban lo mismo una y otra vez, respondían en momentos extraños y se desmoronaban ante una simple pregunta. Estas nuevas identidades son diferentes.
Esto es lo que los distingue:
Se adaptancambiando su mensaje en función de cómo responde la gente.
Se coordinantrabajar juntos en todas las cuentas en lugar de actuar solos
Perfeccionan su mensajeMejorando sus habilidades de persuasión con el tiempo
Se mimetizancomportándose como miembros reales de la comunidad en lugar de spammers
Esa combinación dificulta su detección y su neutralización. Un bot simple y evidente es una molestia. Un enjambre coordinado de perfiles creíbles que aprende sobre la marcha representa una verdadera amenaza para el debate honesto en línea.
Qué significa para tu comunidad
Para quienes administran un blog, foro, sección de comentarios o red social, esto cambia las reglas del juego. Ya no se puede dar por sentado que una cuenta reflexiva y con buen comportamiento pertenece a una persona real.
Algunos aspectos prácticos a tener en cuenta:
Cambios repentinos en el sentimiento Puede ser fabricado, no orgánico.
Puntos de conversación coordinados La presencia de usuarios "diferentes" es una señal de alerta.
Métricas de compromiso Puede ser manipulado por personajes que parecen humanos.
Señales de confianza Ahora es más fácil falsificar un historial de publicaciones consistente, como por ejemplo, uno que sea más fácil de crear.
Existe una preocupación mayor. Si la opinión pública en las secciones de comentarios y foros puede ser manipulada sutilmente, entonces la "sabiduría colectiva" en la que muchos confían deja de ser fiable. Las decisiones basadas en la interpretación del ambiente se convierten en decisiones basadas en la interpretación de un ambiente manipulado.
La investigación no implica que todos los comentaristas útiles sean bots. La mayoría de las personas en línea son quienes parecen ser. Pero sí significa que la situación ha cambiado y que un sano escepticismo ahora forma parte de la gestión de cualquier espacio en línea.
Fíjense en la coordinación, no solo en el spam evidente, porque el spam evidente era el problema fácil. Este es el difícil.
Quick Links:
