Нове дослідження попереджає, що персонажі зі штучним інтелектом достатньо реалістичні, щоб проникнути в онлайн-групи.
На відміну від старих ботів, вони з часом адаптують, координують та вдосконалюють свої повідомлення.
Небезпека полягає у впливі, який ви не бачите, формуючи думку непомітно для всіх.
Якщо ви ведете онлайн-спільноти або читаєте коментарі, щоб оцінити настрої громадськості, це має змусити вас задуматися. Персонажі зі штучним інтелектом перетнули межу, і старі способи виявлення бота можуть більше не працювати.
Від ботів до людей, яким можна довіряти
Дослідження, висвітлене ScienceDaily, попереджає, що персонажі на базі штучного інтелекту стають настільки реалістичними, що можуть проникати в онлайн-спільноти та непомітно впливати на громадську думку.
Ключове слово – непомітний. Старих ботів було легко викрити. Вони публікували одне й те саме знову і знову, відповідали у незвичний час і розпадалися під дією простого запитання. Ці нові персонажі інші.
Ось що їх відрізняє:
Вони адаптуються, змінюючи своє повідомлення залежно від реакції людей
Вони координують, працюючи разом з різними обліковими записами, а не діючи самостійно
Вони вдосконалюють свої повідомлення, з часом удосконалюючи свої навички переконання
Вони зливаються, поводячись як справжні члени спільноти, а не як спамери
Таке поєднання ускладнює їх виявлення та протидію. Один очевидний бот — це неприємність. Скоординований рій переконливих персонажів, які навчаються в процесі, є справжньою загрозою для чесного онлайн-дискусії.
Що це означає для вашої громади
Для будь-кого, хто веде блог, форум, розділ коментарів чи соціальний канал, це змінює роботу. Ви більше не можете вважати, що вдумливий, добре поводжений обліковий запис — це реальна людина.
Кілька практичних речей, які слід пам’ятати:
Раптові зміни настроїв може бути штучно виготовленим, не органічним
Узгоджені тези для обговорення серед «різних» користувачів є попереджувальним знаком
Показники залучення можуть грати персонажі, які виглядають як люди
Сигнали довіри як-от послідовну історію публікацій тепер легше підробити
Існує також ширше занепокоєння. Якщо громадську думку в розділах коментарів і на форумах можна непомітно підштовхнути, то «мудрість натовпу», на яку покладаються багато людей, стає ненадійною. Рішення, прийняті шляхом вивчення ситуації в кімнаті, стають рішеннями, прийнятими шляхом вивчення маніпульованої кімнати.
Дослідження не означає, що кожен корисний коментатор є ботом. Більшість людей в Інтернеті є саме тими, ким здаються. Але це означає, що базові стандарти змістилися, і здоровий скептицизм тепер є частиною ведення будь-якого онлайн-простору.
Звертайте увагу на координацію, а не лише на очевидний спам, бо очевидний спам був легкою проблемою. А це складна.
Швидкі посилання:
