I

В обозримом будущем социальные сети будут подвергаться массовым атакам ботов с искусственным интеллектом, которые имитируют поведение людей и эксплуатируют склонность среднего человека следовать за толпой.

Они смогут распространять не соответствующие действительности сведения, преследовать пользователей и оказывать влияние на политические процессы.

Подобные массовые набеги грозят стать новым оружием в информационных войнах.

Боты с ИИ смогут имитировать поведение человека, избегая таким образом обнаружения и создавая иллюзию естественного онлайн-движения.

Человеческий инстинкт часто подсказывает повторять за большинством, но в данном случае этот механизм будет управляться волей владельца ИИ-ботов, действующего от имени неизвестного лица, группы, политической партии, компании или государственного деятеля.

Те, кто откажется присоединиться к виртуальной толпе, могут подвергнуться преследованиям со стороны тех же самых ботов с ИИ, стремящихся подавлять противоречащие их нарративу аргументы.

Обнаружить их будет непросто - нельзя даже утверждать, что они уже не развернуты.

Угроза массовых атак ботов с ИИ усугубляется тем, что наши цифровые экосистемы и без того ослаблены рационально-критического дискурса и отсутствием общего понимания реальности среди граждан.

Примитивные боты уже формируют более половины всего веб-трафика, но они пока способны выполнять лишь базовые задачи, например, публиковать одно и то же подстрекательское сообщение - обнаруживать их просто, а для управления такими ботами нужны операторы.

ИИ-боты на основе больших языковых моделей окажутся значительно сложнее - они будут достаточно сложными, чтобы адаптироваться к онлайн-сообществам, в которые проникают, и внедрять наборы разных личностей, сохраняющих память и идентичность.

Это будет своего рода самодостаточный организм, способный координировать свои действия, учиться, адаптироваться со временем и, таким образом, специализироваться на эксплуатации уязвимостей человека.

Угроза уже не гипотетическая. В прошлом году администрация сообщества Reddit пригрозила судебным иском исследователям, которые подключили чат-ботов с ИИ в эксперименте по манипулированию мнениями четырех миллионов пользователей в одном из разделов.

Ответы чат-ботов были в три-шесть раз убедительнее, чем публикации живых людей, - гласят предварительные результаты исследования.

Рой сможет создавать сотни, тысячи и даже миллионы ИИ-агентов: конкретный показатель будет зависеть от вычислительной мощности злоумышленника и от возможности администрации соцсети вести борьбу с этой угрозой.

Но одним количеством угроза не исчерпывается: в местных сообществах будет достаточно лишь нескольких таких агентов.

Учитывая, что ИИ-агенты могут круглосуточно и без устали проводить свои кампании, пользователи соцсетей не сумеют противостоять им собственными силами.

То есть люди должны будут доказывать, что они люди.

Но это не панацея - в некоторых странах анонимность является защитой для политически инакомыслящих.

Хотя, аутентификация значительно усложнит задачу Кремлю, путину и его секСотам.