Una nuova ricerca avverte che le identità generate dall'intelligenza artificiale sono sufficientemente realistiche da poter infiltrarsi nei gruppi online.
A differenza dei vecchi bot, questi si adattano, si coordinano e perfezionano i loro messaggi nel tempo.
Il pericolo risiede nell'influenza invisibile, che plasma l'opinione pubblica senza che nessuno se ne accorga.
Se gestite community online o leggete i commenti per valutare l'umore del pubblico, questo dovrebbe farvi riflettere. Le IA che creano personaggi virtuali hanno oltrepassato un limite e i vecchi metodi per individuare un bot potrebbero non funzionare più.
Dai bot alle persone credibili
Una ricerca evidenziata da ScienceDaily avverte che le identità virtuali create con l'intelligenza artificiale stanno diventando così realistiche da poter infiltrarsi nelle comunità online e influenzare subdolamente l'opinione pubblica.
La parola chiave è "sottile". I vecchi bot erano facili da smascherare. Pubblicavano sempre le stesse cose, rispondevano in orari insoliti e si bloccavano di fronte a una semplice domanda. Queste nuove identità sono diverse.
Ecco cosa li distingue:
Si adattanomodificando il loro messaggio in base alla risposta delle persone
Si coordinanolavorare insieme su diversi account piuttosto che agire individualmente
Affinano la loro comunicazione, migliorando nel tempo la capacità di persuadere
Si mimetizzanocomportandosi come veri membri della comunità piuttosto che come spammer
Questa combinazione li rende difficili da individuare e ancora più difficili da contrastare. Un singolo bot facilmente riconoscibile è un fastidio. Uno sciame coordinato di profili credibili che imparano sul campo rappresenta una vera minaccia per le discussioni online oneste.
Cosa significa per la tua comunità
Per chiunque gestisca un blog, un forum, una sezione commenti o un canale social, questo cambia tutto. Non si può più dare per scontato che un account attento e ben educato appartenga a una persona reale.
Alcuni aspetti pratici da tenere a mente:
Cambiamenti improvvisi di opinione potrebbe essere un prodotto industriale, non biologico
Punti di discussione coordinati tra utenti “diversi” è un segnale di allarme
Metriche di coinvolgimento può essere manipolato da personaggi che sembrano umani
Segnali di fiducia come una cronologia di pubblicazione coerente è ora più facile da falsificare
C'è anche una preoccupazione più ampia. Se l'opinione pubblica nelle sezioni commenti e nei forum può essere influenzata in modo subdolo, allora la "saggezza della folla" su cui molti fanno affidamento diventa inaffidabile. Le decisioni prese interpretando il clima generale diventano decisioni prese interpretando un clima manipolato.
La ricerca non significa che ogni commentatore disponibile sia un bot. La maggior parte delle persone online è esattamente chi sembra. Significa però che il punto di riferimento si è spostato e che un sano scetticismo è ormai parte integrante della gestione di qualsiasi spazio online.
Fate attenzione al coordinamento, non solo allo spam evidente, perché lo spam evidente era il problema più facile. Questo è quello difficile.
Link veloci:
