Вестник гражданского общества

Системный кризис Глобальной сети

 

Социальные сети впервые с момента своего появления столкнулись с системным кризисом, полноценный выход из которого пока только предстоит найти. Самое сложное в этой ситуации то, что противостояние в виртуальном мире оказывает серьезное негативное воздействие на мир реальный. Информационные войны, начатые в соцсетях, продолжаются на полях сражений, где не банят, а убивают.
 
Означает ли это крах идеи Глобальной Сети? Неужели соцсети, к которым мы так привыкли и без которых уже  не мыслим нашу жизнь, исчерпали свои позитивные возможности, переродились в источник зла, и мы станем свидетелями конца эпохи Интернета?
 
Или у нас еще есть шанс все исправить?
 
 
«Питательный бульон» для фейков
 
 
 

Пользователи Интернета привыкли и не хотят отказываться от бесплатного доступа к содержательному контенту в Сети, поэтому основным источником дохода для всех онлайн-изданий и социальных сетей является размещаемая на их страницах реклама. А так как проконтролировать, что потенциальный потребитель обратил внимание на рекламу, можно только по количеству переходов с рекламных ссылок на сайт рекламодателя - так называемых «кликов» - то довольно быстро это привело к появлению «ссылок-приманок» - броских, зачастую провокационных, заголовков для привлечения внимания и увеличения кликов. С появлением соцсетей борьба за количество кликов стала более жесткой, ведь соцсети показывают пользователям только то, что те хотят увидеть, чтобы закрепить их пристрастия и любой ценой заставить кликать по ссылкам. Дальше всех в выстраивании для пользователей комфортной «реальности», отсекающей все альтернативы, пошел Facebook, алгоритмическая лента которого оказалась питательной средой для распространения недостоверной информации.
 
Растущая популярность соцсетей привела к тому, что все большее число людей узнают новости из них, что, в свою очередь, стимулировало распространение в соцсетях фейковой информации. Цели у таких ложных сообщений могут быть разные - не только извлечение прибыли. Довольно быстро политтехнологи поняли, что это удобный и эффективный инструмент для манипуляции сознанием потенциального электората их политических заказчиков. Результат таких «игр разума» оказался плачевным: заполонившие соцсети, а из них кочующие в традиционные СМИ фейковые новости часто трудно отличить от достоверной информации, что приводит к дезориентации людей и серьезно влияет на их картину мира, а, в итоге, меняет мир реальный.
 
 
«Постправда» как универсальное оружие
 
 
 

Так как это первый большой системный кризис, с которым столкнулся Интернет, он сопровождается растерянностью и паникой среди пользователей. Появился даже несколько апокалипсический термин «постправда» (post-truth), удостоившийся звания «слово 2016 года» по версии Оксфордского словаря и описывающий обстоятельства, в которых истина становится не принципиально важной, а объективные факты менее влияют на формирование общественного мнения, чем обращение к эмоциям и личным убеждениям. Особенно часто это слово стало использоваться в англоязычных публикациях после британского референдума о «брекзите» и президентских выборов в США. Тогда впервые человечество столкнулось с тем, что недостоверная информация и ложные новости, адресно и в то же время массово распространяемые в соцсетях, привели к серьезным политическим изменениям в крупных державах, до этого момента считавшихся оплотом мировой стабильности.
 
Между тем, оказалось, что создание фейковых новостей с целью повлиять на политический расклад сил, универсально и используется в самых разных странах.  
 
Так, в Италии накануне референдума о конституционной реформе появилась сеть дезинформационных сайтов и пабликов с миллионной аудиторией, на которых  правительственный проект реформы преподносится как предложение «служанок Брюсселя» (привет «брекзиту»).
 
Во Франции в последние годы активно развивается так называемая «фашосфера» (от слова «фашизм») – масса праворадикальных сайтов, блогов и СМИ, порождающих огромное количество фейковых новостей и дезинформации. Особенно активизировалась их деятельность накануне президентских выборов, на которых все же победил либерал Макрон. Помимо этого во французском медиапространстве действует множество фейковых сайтов, маскирующихся под правительственные, которые выступают за запрет абортов. После того как их деятельность разоблачила министр по правам женщин Лоранс Россиньол, парламент Франции одобрил план правительства по борьбе с подобными сайтами.
 
В Германии в преддверии выборов в Бундестаг, которые пройдут в сентябре 2017 года, ожидают очередное нашествие хакеров и интернет-троллей, преимущественно из России. Об этом заявил глава немецкой разведки, напомнив,  как страна стала жертвой дезинформационной кампании по поводу «девочки Лизы», а также фейковых новостей, дискредитирующих канцлера Ангелу Меркель.
 
В Бразилии с начала 2016 года лженовости о коррупции президента Дилмы Руссеф по охвату аудитории намного превысили настоящие новости. Итогом этой массированной дезинформационной кампании стал импичмент президенту.
 
В Австралии активно распространяется через Facebook дезинформация о том, что индустрия сертификации халяля связана с исламскими радикалами, что крайне негативно сказывается на рынке халяльной продукции (в данном случае политика используется для устранения конкурентов на рынке сбыта).
 
В Индии главным распространителем фейков стал мессенджер WhatsApp. Именно там зародился слух о том, что новая банкнота номиналом в 2000 рупий будет снабжена микроскопическим чипом для слежки за гражданами, и даже опровержение Центробанка не остановило попадание этого фейка на первые полосы крупнейших изданий страны.
 
В Китае коммунистическое правительство, с одной стороны, использует журналистские скандалы вокруг заказных статей как повод для давления на свободу слова, а с другой стороны, поощряет перевод и публикацию в официальных СМИ фейковых новостей о предвыборной кампании в США, скопированных с американских сайтов.
 
В Мьянме, только начинающей освобождаться от 50-летней  самоизоляции, СМИ и блогеры стали использовать появившуюся свободу слова для возбуждения религиозной ненависти, что,  учитывая длительную напряженность между буддистским большинством и мусульманским меньшинством в Мьянме, создает взрывоопасную ситуацию в стране.
 
 
Правду говорить не только легко и приятно, но и выгодно

 
 

Как видим, ситуация вышла далеко за пределы локальных конфликтов и имеет глобальный характер. Напуганные этим страны Евросоюза забили тревогу и начали принимать экстренные меры для блокирования контента с ложными новостями.
 
В январе 2017 года Facebook и другие крупные соцсети получили предупреждение от Главы цифрового отдела Еврокомиссии о недопустимости публикации фейков и необходимости занять жесткую позицию в отношении поддельных новостей, влияющих на мнение избирателей.
 
В марте 2017 года власти Евросоюза пригрозили Facebook, Google и Twitter крупными штрафами, если те в течение месяца не изменят условия пользования соцсетями так, чтобы они соответствовали нормам защиты прав потребителей, принятых в странах ЕС, в части неприкосновенности частной жизни, а также удаления незаконного или угрожающего контента.
 
Еще в декабре 2015 года Facebook и Twitter подписали договор с немецкими властями о борьбе с распространением ксенофобии и фейковых новостей, пообещав удалять соответствующий контент в течение 24 часов с момента поступления жалобы на подобные посты пользователей. Однако, по данным Министерства юстиции ФРГ, ни Facebook, ни Twitter не выполнили условия договора. Twitter по-прежнему удаляет всего лишь 1% нелегального контента, при этом никогда не укладывается  в 24 часа, Facebook же снизил свою эффективность в борьбе с нелегальным контентом, удаляя 39% помеченных специальным флажком постов, вместо прежних 46%. В связи с этим  правительство Германии разработало законопроект, который предусматривает назначение штрафа социальным сетям вплоть до €50 млн за несвоевременное удаление запрещенного контента.
 
В конце марта этого года несколько крупных компаний прекратили размещение своей рекламы на видеохостинге YouTube, принадлежащему Google, из-за того, что их рекламные ролики  демонстрировались рядом с видео ксенофобского и экстремистского содержания. «Мы глубоко обеспокоены тем, что наши объявления, возможно, появлялись вместе с контентом YouTube, поощряющим терроризм и ненависть», — говорится в заявлении компании AT&T. «Контент, к которому нас привязывают, ужасен и не соответствует ценностям нашей компании», — заявили в компании Walmart.
 
Потеря этих рекламодателей может стоить Google нескольких сотен миллионов долларов. Поэтому глава европейского подразделения Google Мэттью Бриттин поспешил извиниться перед рекламодателями, «которые могли пострадать от размещения их рекламных объявлений на страницах со спорным содержанием», и заверил, что Google изменит свою политику по размещению рекламы и будет в большей степени контролировать условия ее появления.
 
И вот 25 апреля в официальном блоге Google появляется заявление вице-президента компании по технологическим вопросам Бена Гомеса, в котором сообщается, что Google изменил алгоритмы работы своей поисковой системы, чтобы препятствовать распространению фейковых новостей в интернете. В частности, Google ужесточил правила о том, какую информацию считать нежелательной, - в эту категорию вошли «вводящие в заблуждение данные, непредусмотренные оскорбительные результаты поиска, мистификации и безосновательные теории заговоров». Сотрудники компании будут отмечать страницы, на которых появляются публикации такого рода. В заявлении  Гомеса также говорится, что сотрудники Google упростили процедуру подачи жалобы пользователями на появление неверной или оскорбительной информации в строке автоматического заполнения в поисковой системе или в блоке с наиболее популярными ответами на запрос.
 
 
Как украинские волонтеры борются с фейками
 
 
 

В кириллическом сегменте интернета массовое столкновение правды и «постправды» началось раньше, чем во многих других странах. Толчком к этому послужили события в Украине. Майдан, присоединение Крыма к России, создание самопровозглашенных «республик» на востоке Украины, трагедия малайзийского Боинга – все эти события сопровождались яростной информационной войной между Россией и Украиной, которая продолжается до сих пор. По общепринятому мнению, Украина в этой информационной войне проигрывает, что закономерно, так как бюджеты двух стран на нее несопоставимы. В Украине борьба с фейковыми новостями ведется в основном силами волонтеров.
 
Одним из таких волонтерских проектов является созданный в 2014 году сайт StopFake. Соосновательница проекта, журналистка и рок-музыкант Марго Гонтар делится с коллегами накопленным опытом, рассказывая, как определить ложь и вброс в новостях. Работа по определению ложных новостей, по ее словам, мало чем отличается от обычной журналисткой работы по проверке фактов. Есть несколько маркеров, по которым можно отличить реальную новостную историю от фейковой.
 
Для фейков характерны:
- общая неадекватность, история идет вразрез со здравым смыслом;
- засилье малопонятных терминов и общих фраз вроде «общеизвестно», «западные СМИ утверждают», «доказано учеными», «эксперты говорят»;
- отсутствие фактов, наблюдений и мнений конкретных людей, документальных доказательств;
- излишняя эмоциональность - чем больше эмоциональных эпитетов и меньше фактов, тем больше вероятность, что это вброс;
- несоответствие заголовка и текста. В агрегаторах и микросоцсетях заголовки живут своей отдельной жизнью и сами по себе воспринимаются как новости, этим часто пользуются при вбросах;
- неприкрытая попытка подвести читателя к определенному выводу (кто виноват, что делать);
- категоричность утверждений, не подкрепленных четкими доказательствами.
 
 
Искусственный интеллект не справляется
 
 
 

В отличие от украинских волонтерских проектов, крупные соцсети и поисковики предпочитают использовать роботизированные системы, где человеческий фактор сведен к минимуму. Примером такого агрегатора, автоматически опровергающего ложные новости и вбросы, опубликованные в интернете, является сервис под названием Emergent, который в 2014 году представил Центр цифровой журналистики при Колумбийском университете. 
 
Emergent отслеживает материалы СМИ и компонует их по общей тематике, по количеству ссылок определяя источник новости, тексты, которые просто интерпретируют первоначальные данные, и опровержения. Алгоритм ежечасно проверяет адреса собранных текстов на предмет изменений в их заголовках и структуре, которые могут говорить о том, что оригинальное заявление опровергнуто. На основании этих данных Emergent присваивает новостям так называемый коэффициент правдивости.
 
Подобным образом работает и технология brand safety, созданная для защиты брендов от нежелательного и/или вредоносного контента. Это, по сути, поисковый робот, который посещает страницы сайтов и анализирует их по ряду показателей, указанных в настройках рекламной системы.
 
Как правило, brand safety настроен на фильтрацию страниц и сообщений со следующим содержимым:
- сцены насилия;
- сцены неоправданной агрессии;
- эротику и порнографию;
- нецензурную лексику;
- информацию, разжигающую расовую ненависть;
- пропаганду нездорового образа жизни, неправильного питания;
- азартные игры;
- мошенническую информацию;
- пропаганду употребления наркотических веществ и т.д.
 
Самая крупная российская поисковая система «Яндекс» в борьбе с фейковыми новостями полагается на искусственный интеллект. По крайней мере, именно так говорит руководитель направления рекомендательных продуктов компании «Яндекс» Виктор Ламбурт. В интервью онлайн-изданию «Газета.Ru»  он сообщил, что «Яндекс» автоматизировано борется с сайтами, распространяющими ложные новости, и «принимает разные меры, вплоть до исключения из поисковой выдачи». Кроме того, представитель «Яндекса», заявил, что поисковик планирует автоматизацию методик фактчекинга. «Сегодня авторы делают это вручную, но процесс можно автоматизировать, хотя бы частично. Искусственный интеллект, обученный на большом количестве примеров фейковых и реальных новостей и источников, сможет указывать на подозрительные документы», — считает Ламбурт.
 
Социальная сеть Марка Цукерберга объявила о начале борьбы с распространением ложных новостей еще в начале 2015 года. Для этого сервис предоставил пользователям возможность жаловаться на посты в ленте, если в них содержатся неправдивые сведения.
 
Первыми испытали на себе  несовершенство «фейсбучных» алгоритмов борьбы с нежелательным контентом российские пользователи, когда из-за жалоб от огромного числа ботов Facebook начал  блокировать не нарушающие нормы сообщества публикации и даже целые аккаунты известных русскоязычных блогеров, журналистов, и общественных деятелей.
 
После жесткой критики, направленной на Facebook по итогам выборов США, Цукерберг анонсировал несколько новых шагов для борьбы с фейками. Теперь Facebook планирует больше работать с журналистами, обращающими внимание на распространение фейков, а не слепо полагаться на роботизированные системы, одинаково реагирующие и на заявления реальных людей, и на анонимные жалобы ботов.
 
Для дополнительного контроля компания планирует обратиться к организациям, занимающимся проверкой публикаций и заявлений на правдивость. Например, такой, как  интеллектуальная платформа для крупных интернет-компаний Liked, способная модерировать большие объемы информации в короткие сроки.
 
 
Человеческий фактор никто не отменял
 
 
 

В целом, после анализа собственных ошибок, социальные сети постепенно приходят к пониманию, что саморегуляция и информирование пользователей из надежных источников лучше справляются с информационными вбросами и фейковыми новостями, чем роботы.
 
Такие же выводы делают отцы-основатели и корифеи Глобальной Сети. Так, основатель Всемирной паутины сэр Тим Бернерс-Ли выразил серьезную обеспокоенность из-за кризиса соцсетей. В открытом письме, приуроченном к 28-й годовщине создания Всемирной паутины, он заявил, что фейковые новости, нарушение прав на неприкосновенность приватной информации и злоупотребления в сфере политической рекламы способны привести к тому, что пользователи могут потерять контроль над своими собственными данными, а власти усилить наблюдение за гражданами через интернет. По мнению сэра Бернерса-Ли,  пользователи зачастую вынуждены соглашаться на условия, выдвигаемые разными сайтами, не имея права решать, какой частью личной информации они хотели бы делиться, а какой нет.
 
Британский ученый представил свою стратегию борьбы с системным кризисом соцсетей, рассчитанную на пять лет. Он считает, что, прежде всего, нужно покончить с неправомерным использованием личных данных, так как это подрывает идею свободы слова. Сэр Тим Бернерс-Ли заявил, что хотел бы сотрудничать с компаниями, чтобы «вернуть пользователям контроль над своими данными». Он также призвал более жестко регулировать «неэтичную» политическую рекламу. По мнению основателя Всемирной паутины, люди, которые помогли развить интернет с помощью блогов, твитов, фотографий, видео и различных веб-страниц, должны задуматься над тем, как сделать Всемирную паутину местом, которое предоставляет всем «одинаковые права и возможности».
 
Основатель всемирной онлайн-энциклопедии Википедия Джимми Уэйлс в свою очередь заявил, что запускает новый сайт Wikitribune, направленный на борьбу с распространением фейковых новостей, где над выпуском новостных статей будут совместно работать профессиональные журналисты и сообщество волонтеров. Wikitribune будет иметь свободный доступ и не будет содержать рекламу.
 
По словам Уэльса, платформа Wikitribune объединит профессиональную, основанную на традиционных стандартах журналистику с тем, что он назвал «радикальной идеей из мира вики, где сообщество добровольцев может и будет надежно защищать целостность информации». Точность статей будет легко верифицироваться, поскольку публиковать предполагается только исходный материал. «По мере обновления фактов новости становятся живым, развивающимся артефактом, для чего и создан Интернет», - заявил Уэльс.
 
*****
 
Как видим, проблемы, вставшие сегодня перед миром, заложены в самом алгоритме развития Интернета и являются неизбежной «болезнью роста» Глобальной Сети. И, скорее всего, этот первый большой кризис Интернета не станет последним. Видимо, такие кризисные точки на своем пути Сеть будет проходить еще не раз, ведь в этом и заключается суть саморегулирующейся системы – преодолевая кризис, она выходит на новый уровень своего развития.

Но один важный вывод мы можем сделать уже сейчас, и он заключается в том, что не стоит так уж уповать на автоматизацию и искусственный интеллект, роботы никогда не заменят человека с его пусть несовершенным, но гибким умом, интуицией, способностью к сотрудничеству и эмпатией.
 

РИММА ПОЛЯК


18.05.2017



Обсудить в блоге




На эту тему


На главную

!NOTA BENE!

13.10.2016
Баш на баш

0.020107984542847