Uma nova pesquisa alerta que as personas criadas por IA são realistas o suficiente para se infiltrarem em grupos online.
Diferentemente dos bots antigos, eles se adaptam, coordenam e refinam suas mensagens ao longo do tempo.
O perigo reside na influência invisível, que molda a opinião pública sem que ninguém perceba.
Se você administra comunidades online ou lê comentários para avaliar o humor do público, isso deveria lhe fazer refletir. As personas de IA ultrapassaram um limite, e os métodos antigos de identificar um bot podem não funcionar mais.
De bots a pessoas convincentes
Uma pesquisa destacada pelo ScienceDaily alerta que as personas criadas por inteligência artificial estão se tornando tão realistas que conseguem se infiltrar em comunidades online e influenciar sutilmente a opinião pública.
A palavra-chave é sutileza. Os bots antigos eram fáceis de detectar. Eles postavam a mesma coisa repetidamente, respondiam em momentos estranhos e se desfaziam diante de uma pergunta simples. Essas novas personas são diferentes.
Aqui está o que os diferencia:
Eles se adaptam, alterando sua mensagem com base em como as pessoas respondem.
Eles coordenamTrabalhando em conjunto entre diferentes contas, em vez de agirem sozinhos.
Eles aprimoram suas mensagens., aprimorando as habilidades de persuasão com o tempo
Eles se misturam., comportando-se como membros reais da comunidade em vez de spammers
Essa combinação torna-os difíceis de detectar e ainda mais difíceis de combater. Um único bot óbvio é um incômodo. Um enxame coordenado de personas convincentes que aprendem conforme avançam representa uma ameaça real à discussão honesta online.
O que isso significa para a sua comunidade?
Para quem administra um blog, fórum, seção de comentários ou canal em redes sociais, isso muda tudo. Não se pode mais presumir que uma conta bem-comportada e atenciosa seja de uma pessoa real.
Algumas dicas práticas para ter em mente:
Mudanças repentinas de sentimento Pode ser fabricado, não orgânico.
Pontos de discussão coordenados A utilização de dados por diferentes utilizadores é um sinal de alerta.
Métricas de engajamento podem ser manipulados por meio de personas que parecem humanas.
Sinais de confiança Agora é mais fácil falsificar um histórico de postagens consistente, como por exemplo, algo que se tornou mais fácil.
Existe também uma preocupação mais ampla. Se a opinião pública em seções de comentários e fóruns puder ser sutilmente influenciada, a "sabedoria da multidão" na qual muitas pessoas confiam torna-se pouco confiável. Decisões tomadas com base na leitura do ambiente passam a ser decisões tomadas com base na leitura de um ambiente manipulado.
A pesquisa não significa que todo comentarista prestativo seja um robô. A maioria das pessoas online é exatamente quem parece ser. Mas significa que o ponto de partida mudou e que um saudável ceticismo agora faz parte da gestão de qualquer espaço online.
Preste atenção à coordenação, não apenas ao spam óbvio, porque o spam óbvio era o problema fácil. Este é o difícil.
Links Rápidos:
