Искусственный интеллект против Астротурфинга*

* Астротурфинг — маскировка искусственной общественной поддержки под общественную инициативу. Имеет преимущественное распространение в интернете и направлена на имитацию широкой общественной поддержки людей, организаций или их деятельности.

17 апреля 2018 года компания Starbucks объявила, что закроет 8000 американских магазинов на полдень, чтобы дать возможность своим 175 000 сотрудникам пройти обучение по вопросам расового неравенства. Тренинг стал попыткой успокоить общественность в связи с тем, что двое чернокожих мужчин были арестованы за «вторжение», когда неделю назад они ждали друга в кафе в Филадельфии. На следующий день после объявления в социальных сетях начали появляться поддельные купоны, обещающие бесплатный кофе в качестве извинения. Источник купонов, которые были доступны исключительно цветным людям, можно было отследить до интернет-троллей с анонимной доски объявлений 4chan.

Это был не первый раз, когда Starbucks стала мишенью скоординированной онлайн-кампании и понесла репутационный ущерб, но это была ситуация, с которой можно было бы справиться лучше.

«Относительно незначительные предпринятые действия говорят о том, что они не понимали истинных масштабов координируемой против них фальшивой кампании», — говорит Али Тегерани, соучредитель лондонского стартапа Astroscreen. Компания Тегерани использует машинное обучение и человеческую аналитику для прочёсывания Twitter и Facebook и выявления фальшивых аккаунтов и дезинформационных кампаний против правительств и брендов. Затем она предупреждает своих клиентов, когда они подвергаются атаке, что позволяет им разработать стратегию защиты своей репутации в Интернете.
В случае со Starbucks, компания только отнекивалась в ответ на запросы СМИ и не публиковала заявление на своем сайте или в социальных сетях. Недостаток коммуникации подорвал доверие и дал троллям возможность выложить ложное заявление компании, раздув цикл розыгрышей и еще больше запутав клиентов.

Социальные сети изменили то, как мы потребляем и делимся новостями, но ими также легко манипулировать для получения коммерческой и политической выгоды. Астротурфинг — это кампания манипулирования в Интернете, которая не автоматизирована, а использует фальшивые учетные записи и группы для создания впечатления о широко распространенном низовом движении в поддержку бренда или политического послания или в оппозиции к нему, с которой очень трудно справиться.

«Проблема заключается в том, что вы не можете просто построить один волшебный алгоритм для запрета всех поддельных аккаунтов. Многие из этих аккаунтов трудно отличить от реальных пользователей», — говорит Тегерани.
Компания разработала методику обнаружения манипуляций в социальных сетях на основе интересующей темы — например, во время избирательной кампании это могут быть имена политиков, политические вопросы или конкретные хэштэги и события.

Злобные пользователи могут создать тысячи аккаунтов в Twitter, чтобы вмешиваться в политическую тему, но, поскольку они не могут вручную придумать столько уникальных имен пользователей, они, скорее всего, будут использовать слова и цифры, которые следуют определенному шаблону, который может распознать Astroscreen. Время и частота сообщений также будет указывать, являются ли учетные записи аутентичными или нет. Когда автоматизированная система Astroscreen обнаруживает подозрительную онлайн-деятельность, специалисты компании по дезинформации вмешиваются и используют лингвистический анализ, чтобы определить, стоит ли один человек за несколькими учетными записями, основываясь на том, как они пишут.

Ранее Тегерани основал новостную аналитическую компанию, которую продал в 2016 году, незадолго до выборов Дональда Трампа, поставив проблему фальшивых новостей в центр внимания. «У меня было очень сильное ощущение, что проблема с дезинформацией — не поддельные новости. На самом деле, это просто манипулирование социальными сетями, чтобы усилить одно послание другим», — говорит Тегерани.

Его команда берет на себя ту же роль, что и модераторы Twitter и Facebook, которые просеивают сообщения, помеченные пользователями, или инструменты ИИ социальной сети. Сейчас Twitter и Facebook вместе со своими аналитиками решают, какие темы отслеживать, и у них их не так уж много», — говорит Тегерани.

В некотором смысле, Astroscreen делает для социальных сетей то же самое, что программное обеспечение по кибербезопасности сделало для Microsoft, когда оно было запущено более 40 лет назад. «В начале люди предполагали, что Microsoft должна строить безопасные операционные системы, но очень быстро поняли, что им нужен дополнительный уровень безопасности», — говорит Тегерани. Именно тогда зародилась индустрия кибербезопасности. Тегерани говорит, что его компания работает с бизнесом и правительствами для мониторинга скоординированных онлайн-кампаний во всех основных социальных сетях и дискуссионных сайтах, таких как Reddit.

Обнаружение направленных атак на как можно более раннем этапе дает организациям возможность отреагировать и привлечь к сотрудничеству своих юристов и специалистов по коммуникациям, а в случае необходимости — сообщить об этом мероприятии в соответствующие социальные сети. В некоторых случаях атакующая организация может решить не предпринимать никаких действий, поскольку любая проактивная деятельность может привлечь больше внимания к вредоносному контенту, в котором она нуждается. «Мы просто хотим своевременно дать им указания и отчет, содержащий достаточно контекста, чтобы помочь им принять наилучшее решение», — говорит Тегерани.

Источник: WIRED