IT ManagerБезопасностьУправление ИБ

«На самом деле нет», или Какую ложь выберете вы?

Максим Авдюнин | 24.10.2018

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

«На самом деле нет», или Какую ложь выберете вы?

Хвост виляет собакой

Слухи и сплетни были неотъемлемой частью человеческой жизни с начала времен. Рассказы о людях с песьими головами передавались из уст в уста еще древними греками, фальшивые протоколы сионских мудрецов стали оправданием чудовищных преступлений, а псевдодокументальная радиопостановка по роману Герберта Уэллса «Война миров», сделанная его однофамильцем Орсоном, вызвала массовую панику в ряде американских городов (на самом деле нет). И мемы, и fake-news, и вирусный маркетинг, пусть назывались по-другому, но были известны человечеству со времен палеолита, но с появлением СМИ и Интернета влияние информационного фона на рядового обывателя настолько возросло, что порождаемый им мир для многих заменил мир реальный.

Забавно читать про раз за разом устраняемого спецслужбами различных стран Абу Бакра аль-Багдади (каждый следующий раз — наверняка). Уже не столь забавно следить за тем, как на основе желтенькой статьи про так называемые «группы смерти» разворачивается охота на ведьм и массовая истерия. И откровенно жутко слышать, как всего несколько месяцев назад в деревеньке Рейнпада в индийском штате Махараштра после рассылки в WhatsApp панических сообщений о якобы орудующих в штате торговцах детскими органами толпа забила до смерти пятерых путешественников, прибывших в село на ярмарку.

«Нас это не касается, мы здравомыслящие люди, не смотрим телевизор и какой бы то ни было пропаганде до нас не дотянуться», – скажете вы. Пусть так (на самом деле нет), но мы живем в мире, где многие все еще верят в людей с песьими головами (во всемирный заговор, вред ГМО, радиацию от телефонов, иголки со СПИДом в кинотеатрах и т. д.), что делает шанс столкнуться с неадекватной реакцией соседа по лестничной клетке или разгневанной толпы на улице весьма реальным. Как распознать попытки манипуляции и как не стать их жертвой – этот вопрос становится одним из главных в цифровую эпоху.

От SMM до астротурфинга

«Прекрасный товар, сам пользуюсь, жене купил, она души не чает». Наверное, в 2018-м каждый имел опыт использования онлайн-магазинов. Система рейтингов, отзывов, практически стопроцентная гарантия от разочарования покупкой? На самом деле нет. На биржах лайков голос в зависимости от необходимости авторизации через социальную сеть, ограничений по стране, по времени и т. д. заказчику обойдется в сумму от 1,5 до 9 рублей. В случае использования бот-сетей, эксплоитов и механизмов обхода авторизации, когда требуется накрутка тысяч, а то и сотен тысяч голосов, цена за штуку падает до копеек. Но даже эти цифры меркнут в сравнении с тем, чего может достичь опытный маркетолог, работая с комьюнити и раскачав ресурсы вроде reddit, 4chan, 2ch. Потенциал вирусного продвижения таков, что миллионы просмотров целевого ролика, любой желаемый рейтинг или количество отзывов специалист может получить практически бесплатно. И это лишь самое топорное использование Интернета для продвижения товаров и услуг, раскрутки и рекламы.

Информация – нефть XXI века. Уникальные идентификаторы и cookies пользователей собирает каждый первый сайт. Microsoft отправляет якобы обезличенную статистику пользования операционной системой на свои серверы (в том числе фрагменты набираемых текстов и записи с микрофона). Google сканирует вашу почту. А система Target, используя алгоритмы машинного обучения и данные о покупках, определяет беременность еще до того, как о ней узнает сама будущая мать. Если 10 лет назад рекламе нужно было буквально кричать баннерами и лезть из экрана всплывающими окнами, то еще 10 лет спустя вы сами не поймете, с чего вдруг захотели новый пылесос и как это связано с чуть изменившейся поисковой выдачей, одеждой вашего любимого рэп-исполнителя и тем, что вашей бабушке пришло письмо с зеленым треугольником на синем фоне. Все будет знать только нейросеть, а вам останется лишь перечислять ее владельцам деньги.

И это лишь одно применение технологий управления общественным сознанием. Есть и гораздо более яркие примеры воздействия на мнение и поведение народных масс. Усилия ботнетов в «Твиттере» и результаты точечных вбросов компромата в ходе президентской компании в США, работа небезызвестной Cambridge Analytica, некоторое время хваставшейся, что принесла Дональду Трампу до полутора процентов голосов, приведя его к победе. Формирование новостной повестки шокирующими роликами информационного агентства Amaq и деятельность протеррористических чатов и сообществ в социальных сетях и мессенджерах в ходе войны с запрещенным в России Исламским государством. Десять ежедневных твитов того же Трампа последние восемь лет и координация через «Твиттер» уличных протестов арабской весны. Астротурфинг (технология искусственного создания общественного мнения путем размещения многочисленных заказных публикаций, оформленных как независимые мнения частных лиц) и ложь, которая как никогда становится правдой после тысячи повторений. Вот реалии современного мира.

Определить, что кто-то пытается манипулировать вашим мнением, очень легко. Пытаются. Все время. В частности, прямо сейчас в этой статье. Другой вопрос, насколько это хорошо или плохо. Интересы манипулятора могут совпадать с вашими, и сама манипуляция служить вашим целям. В конце концов, скажем, компания, отправляющая своего сотрудника на стажировку, тоже вкладывает ему в голову нужные ей знания, но это все-таки не значит, будто для сотрудника они бесполезны. Манипуляция может быть условно безвредной или вообще не направленной на вас. Реклама зубной пасты, возможно, и зомбирует зрителя на покупку определённого бренда, но паста нужна всем, так почему бы и нет. А, скажем, препараты для лечения простаты не нужны (будем надеяться), и тут усилия маркетологов обернутся пшиком.

Гораздо интереснее ситуация с манипуляцией более высокого уровня, касающейся не отдельных брендов, а самого стиля жизни. Реклама товаров и услуг (маркетинг), отдельных лиц и их групп (шоу-бизнес, политика), цели манипуляции общественным сознанием могут быть различны, но методы будут повторяться и их понимание – первый шаг к эффективной защите.

Арсенал информационных войн

Манипуляция общественным мнением направлена на людей, а значит, ее методы должны тем или иным способом воздействовать на человека. Не погружаясь в дебри социальной психологии, можно сказать, что лучший способ воздействия на человека – это воздействие через другого человека.

Подобное влияние может быть опосредованным (через понятные целевой аудитории образы) или прямым, когда воздействием занимается человек (на чем и построена работа агитаторов, коммивояжеров, проповедников, политиков). По ходу информатизации общества эти понятия все больше сливаются. И если 20 лет назад вряд ли кто-то считал Леню Голубкова, рассказывающего о прелестях МММ, реальным человеком, сейчас отзыв некоего Антона или Вовы на «Яндекс.Маркете» воспринимается практически как совет лучшего друга, а высокий пользовательский рейтинг – как достаточное основание для покупки. Хотя пост Вовы проплачен производителем товара (Вова получил целых 300 рублей за 500 знаков), Антон – бот, а рейтинг – результат работы клик-фермы в Пакистане.

Информационные войны за рынок или избирателей ведутся по законам войн обычных, и победители в них так же неподсудны. Воюют в них специалисты по управлению общественным сознанием, агенты влияния. От девочек, сидящих в опенспейсе и с 9 и до 18 строчащих отзывы под разными аккаунтами, до матерых ветеранов сетевых баталий, контролирующих десяток лидеров общественного мнения с аудиторией в миллионы человек и штатом копирайтеров, фотографов и операторов, генерирующих для них контент. При этом каждый такой виртуал (фейковая личность под управлением агента влияния) имеет достоверную биографию, множество аккаунтов в соцсетях, на форумах и т. п., а управляющий им агент не тупо работает по спускаемым сверху тезисам, а действует хитрее. Он честно пишет о сфере интересов своего виртуала. Допустим, о машинах. Он наполняет блог контентом, привлекает подписчиков, общается с аудиторией, проплачивает репосты, использует средства поисковой оптимизации (SEO) и маркетинга в соцсетях (SMM). До часа X, до момента, когда простой российский парень, способный пересобрать в своем гараже жигули, кумир рабочих и жителей глубинки, наконец-то не сможет молча смотреть на то, как мучают усыновленных американцами сирот (жителей Донбасса, православных в Литве или еще кого-то, о ком напишут в методичке) и не устроит пятиминутку ненависти, внедрив в сознание своей аудитории нужную повестку. А дальше опять трансмиссия, машинные масла, присадки и т. п.

Как и в любой войне, солдаты войны информационной используют оружие. И это не только мышь и клавиатура. Там, где нельзя взять умением, берут числом – огромные ботнеты, причем как в техническом (зараженные машины обычных пользователей сети, применяемые, например, для DDOS-атак), так в логическом (множества ботов в социальных сетях, на форумах и т. п., управляемых из единого центра) смысле ждут своего часа. Специализированные системы используются для их создания и управления, и оператору C&C (command and control) сервера зачастую достаточно лишь выбрать цель. Такая система может нагнать произвольное число ботов на указанную страницу обсуждения, заставив их действовать по одной из выбранных схем. Например, боты могут начать ругать выбранного человека. Или хвалить (для определенной аудитории достаточно самых простых приемов). Или хвалить так, что лучше бы ругали (reductio ad absurdum), создавая впечатление у любого случайно заглянувшего в обсуждение человека, что все сторонники атакуемой персоны – больные люди. Или уводить обсуждение в сторону, когда в теме нападают, допустим, на президента, первый бот поддерживает собравшихся, второй отмечает, что премьер еще хуже, третий ругает парламент, четвертый начинает с ним спорить, и через 5 минут все реальные люди, участвующие в дискуссии, уже не помнят, с чего она началась.

И это умеет даже отечественный софт, на что способны изделия вероятного противника – страшно даже представить.

Предупрежден – значит вооружен

Под определение «манипуляция» попадает почти вся направленная передача информации. Что с этим делать? Как римляне спрашивать: “Cui bono?”, ну или задумываться, как в песне Тимура Шаова:

Вот пишут, в Питере плюс два, снег растает,

А в Москве, наоборот, минус двадцать.

И сижу я целый день и гадаю:

А кому же это выгодно, братцы?

Но, всё-таки, не забывать о бритвах Оккама («Если все объяснения явления равны, то самое простое объяснение будет самым верным») и Хэнлона («Не следует приписывать злому умыслу то, что вполне можно объяснить глупостью»), дабы не утонуть в конспирологическом болоте.

Вообще, для обывателя главным средством борьбы с пропагандой является системное/рациональное/критическое мышление. От паранойи оно тоже спасает. Тысяча пятизвездочных отзывов на товар при ста крайне негативных и десяти, попадающих между двумя крайностями – это подозрительно, третью ночь подряд снящиеся светоскоростные шорты – нет (но это не точно).

Интереснее вопрос выявления фактов манипуляции в рамках манипуляции. То есть борьба одних маркетологов/политтехнологов/журналистов с другими. Тут, естественно, системным мышлением уже не обойтись, приходится использовать специальные методы и средства.

Первая задача манипулятора после оказания эффективного воздействия на общественное мнение – скрытие самого факта воздействия. Задача эта нетривиальная, требующая соответствующих компетенций, ее выполнение сложно проверяемо, а напрямую доход она не приносит, как результат – на ней частенько экономят. Такая экономия приводит к ошибкам, которые позволяют выводить манипуляторов на чистую воду. Самый наглядный пример здесь – выявление ботов социальными сетями. Дальше всех зашел «Фейсбук», анализирующий IP, c которых заходят отдельные пользователи (Вася, который логинился из Москвы, потом из Амстердама, потом из Сеула, потом из Вашингтона – это подозрительно) и их группы (Вася, Петя, Маша, Даша и еще 124 человека, которые все сидят с одного адреса – тоже подозрительно), запоминает и анализирует cookies и user agent, замеряет промежутки времени между действиями (переключение страниц, прокрутка) и т. д. Это, конечно, не считая необходимости регистрации по номеру телефона, периодических требований его подтвердить, ввести каптчу и т.п.

Все эти механизмы прекрасно обходятся, однако специалисты по информационной безопасности находят все новые и новые способы выявления ботов. К примеру, в 2017-м был вскрыт так называемый StarWars-botnet, содержащий более 350 000 твиттер-аккаунтов. Его создатели настроили ботов на размещение твитов с цитатами из «Звездных войн» и геотегами из Европы и США. Точнее, с геотегами из двух квадратов, накрывающих Европу и США, включая необитаемые пустыни, леса, моря и океаны. Ботнет был раскрыт, но, если бы эта масса «пользователей» успела координированно выступить с какой-то повесткой, она бы увлекла сотни тысяч, а то и миллионы уже живых людей.

Перечислять типичные ошибки манипуляторов можно долго, среди них применение странных сочетаний анкетных данных в профилях виртуалов (например, традиционно испанские имена + английские фамилии), недостаточное или непоследовательное наполнение профилей (город проживания, рождения, работы один, а все фотографии из другого города и даже страны), подозрительный социальный граф-одуванчик (отсутствие кластеров друзей), появление в сети только в рабочее время (один из фактов, позволивших обвинить во влиянии на американские выборы именно русских – атаки совершались с 9 до 18 по московскому времени) и так далее, но это не единственный способ выявления попыток управления массовым сознанием в Сети. Некоторые аспекты подобной деятельности скрыть невозможно, и выявить их позволяет картирование информационного пространства с помощью специализированного ПО. К ним относятся последствия SEO (резкое изменение поисковой выдачи, ссылочные взрывы, появление множества сайтов-дорвеев к тематическим ресурсам и т. д.), возникновение информационных волн и всплесков, etc.

Противодействие чьей-то деятельности в Сети проходит тем эффективнее, чем более полной информацией обладает атакуемая (или просто заинтересованная) сторона с самого начала. Желательно еще до начала активных действий. Для этого используется мониторинг поисковой выдачи, лидеров общественного мнения, ключевых групп и сообществ в социальных сетях. Таким образом, резкое увеличение количества сообщений, появление красных флагов по результатам сентимент- и контент-анализа (например, упоминание мостов, вокзалов и телеграфов в сочетании с появлением фраз вроде «вешать на столбах» в оппозиционных группах и т. п.) может в ходе информационного противоборства сыграть ту же роль, что и фиксация резкого роста интенсивности шифрованных радиопереговоров и дым сжигаемых документов из трубы японского посольства, которые позволили американцам вовремя понять замысел противника и предотвратить нападение на Перл-Харбор (на самом деле нет).

Как страшно жить!

Можно рассматривать проблему манипуляции общественным сознанием как новый вызов, который бросает нам то пелевинско-гибсоновское будущее, к которому медленно движется мир, а можно просто смириться с объективной реальностью, в которой объективная реальность определяется тем, кто вам о ней рассказывает. В конце концов, почти все вышесказанное, особенно неприятие и паника по поводу происходящих изменений, было вполне актуально и с появлением телевидения, и раньше – с изобретением радио, книгопечатания, письменности, речи. Лет 100 назад, придя на ярмарку в деревню Рейнпада в индийском штате Махараштра, читателям этой статьи грозило быть забитыми до смерти за не тот цвет кожи, веру и язык, а теперь за то, что про них кто-то что-то написал в WhatsApp. Важные вещи не меняются, а к мелочам можно привыкнуть.


Ключевые слова: безопасность

Горячие темы: Угрозы и риски ИБ

Журнал IT-Manager № 10/2018    [ PDF ]    [ Подписка на журнал ]

Об авторах

Максим Авдюнин

Максим Авдюнин

руководитель направления OSINT компании «Перспективный мониторинг»


Поделиться:

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

Загрузка...

Другие материалы рубрики

Компании сообщают

Мероприятия

20.04.2019
DevOpsForum 2019

Москва, Holiday Inn Moscow Sokolniki

23.04.2019
BIT-2019

Санкт-Петербург, Конференц-центр отеля "Holiday Inn Московские ворота"

24.04.2019
Meet Up "VR/AR в маркетинге"

Технопарк "Калибр"

25.04.2019
Эрудированные роботы в массовом дистанционном обслуживании

Москва, Swissotel Красные Холмы, панорамный зал «Давос»

25.04.2019 — 26.04.2019
Open Agile Day

Отель Шератон Палас

25.04.2019
Эффективные бизнес-процессы: будущее за цифрой

Санкт-Петербург, конференц-зал отеля «Гайот», ул.Профессора Попова 23 (м.Петроградская)