Новое исследование предупреждает, что созданные искусственным интеллектом персонажи достаточно реалистичны, чтобы проникать в онлайн-группы.
В отличие от старых ботов, они адаптируются, координируют свои действия и совершенствуют свои сообщения с течением времени.
Опасность заключается во влиянии, которое вы не видите, — в формировании общественного мнения незаметно для окружающих.
Если вы управляете онлайн-сообществами или читаете комментарии, чтобы оценить общественное настроение, это должно заставить вас задуматься. Искусственный интеллект перешёл черту, и старые способы выявления ботов могут больше не работать.
От ботов к заслуживающим доверия людям
Исследование, опубликованное ScienceDaily, предупреждает, что созданные с помощью ИИ образы становятся настолько реалистичными, что могут проникать в онлайн-сообщества и незаметно влиять на общественное мнение.
Ключевое слово здесь — тонкость. Старых ботов было легко поймать. Они публиковали одно и то же снова и снова, отвечали в неурочное время и разваливались под воздействием простого вопроса. Новые же персонажи совсем другие.
Вот что их отличает:
Они приспосабливаютсяменяя свое сообщение в зависимости от реакции людей.
Они координируют свои действия.работая сообща над разными проектами, а не действуя в одиночку.
Они совершенствуют свои сообщения., с течением времени совершенствуя навыки убеждения.
Они сливаются с окружающей средойВедя себя как настоящие члены сообщества, а не как спамеры.
Такое сочетание факторов затрудняет их обнаружение и противодействие. Один очевидный бот — это просто помеха. Скоординированная группа правдоподобных личностей, обучающаяся в процессе, представляет собой реальную угрозу честному онлайн-обсуждению.
Что это значит для вашего сообщества?
Для любого, кто ведет блог, форум, раздел комментариев или социальную сеть, это меняет работу. Больше нельзя предполагать, что вдумчивый, воспитанный пользователь — это реальный человек.
Несколько практических моментов, которые следует учитывать:
Внезапные изменения настроения может быть произведено искусственно, а не является органическим.
Скоординированные тезисы для обсуждения Различия между разными пользователями — это тревожный сигнал.
Показатели вовлеченности может быть использован в своих целях с помощью персонажей, которые выглядят как люди.
Сигналы доверия Например, историю постоянных публикаций теперь легче подделать.
Есть и более серьезная проблема. Если общественное мнение в комментариях и на форумах можно незаметно подтолкнуть, то «мудрость толпы», на которую многие полагаются, становится ненадежной. Решения, принимаемые на основе оценки ситуации, превращаются в решения, принимаемые на основе оценки ситуации, в которой кем-то манипулируют.
Исследование не означает, что каждый полезный комментатор — бот. Большинство людей в интернете — именно те, за кого себя выдают. Но это означает, что базовые принципы изменились, и теперь здоровый скептицизм является частью управления любым онлайн-пространством.
Обращайте внимание на координацию действий, а не только на очевидный спам, потому что очевидный спам был простой проблемой. А вот это — сложная задача.
Быстрые ссылки:
