Технологии

Цукерберг признал, что Facebook сам создал опасный социальный «баг»

Далее

Журналист The New York Times Фархад Манджу отправился к Марку Цукербергу - в штаб-квартиру Facebook. Цукерберг рассказал ему, что признает опасную сторону “социальной революции”, которую сам и запустил. Это показали прошедшие в США выборы - благодаря умному алгоритму выстраивания новостной ленты, соцсеть активно использовалась для распространения “облака дезинформации” - “вирусного” контента и фейковых новостей. Но сможет ли самый мощный инструмент для общения, придуманный людьми, решить проблему, которую сам же и создал?

По словам Цукерберга, 2016 год для компании выдался интересным. Facebook стал не просто приложением на смартфоне, он стал глобальным политическим и культурным явлением. В самом начале в социальной сети не было новостей, но постепенно Facebook вырос и стал способом познания мира для многих людей.

Почти 2 млрд людей используют Facebook каждый месяц, около 1,2 млрд из них заходят в социальную сеть ежедневно. Компания, которую Цукерберг создал в общежитии Гарварда 13 лет назад, стала самой крупной и влиятельной организацией в новостном бизнесе. Ее аудитория больше, чем у любой американской или европейской телевизионной сети, любой газеты, журнала или интернет-СМИ.

За 2016 год Facebook осознал всю ответственность, которую подобное влияние накладывает на компанию. Во время выборов в США социальную сеть активно использовали для агитации за кандидатов, создания «вирусного» контента и продвижения фейковых новостей. Получилось, что Facebook стал распространителем «облака дезинформации».

Илон Маск создаст нейронное кружево до 2027 года

Изучив, как пользователи социальных сетей делились 1,25 млн историй во время предвыборной кампании, исследователи из МИТ и Гарварда назвали Facebook и Twitter замешанными в самом крупном медиа-провале 2016 года. По их мнению, соцсети создали эффект эха для контента и позволили вырасти новостным «пузырям».

После выборов Цукерберг предложил несколько защитных функций для Facebook. Дезинформация на Facebook не была такой большой проблемой, как это представляется некоторым, но компания тем не менее хотела бы предпринять усилия для борьбы с ней, сказал он.

Алгоритм обновления ленты новостей Facebook, который позволил компании занять лидирующие позиции среди социальных медиа — News Feed — можно считать самым влиятельным источником информации в истории цивилизации.

Facebook создал News Feed в 2006 году, чтобы в эпоху социальных медиа люди могли следить за новостями своих друзей. Сейчас алгоритм Facebook решает, как будет сформирована ваша новостная лента, и какие новости появятся в ней.

Критики предупреждают, что это может иметь опасные социальные последствия. Получается, что, заходя в социальные сети, мы видим подтверждение собственным мыслям — лента не дает нам альтернативы. В 2011 году активист и предприниматель Эли Паризер назвал это явление «пузырем».

Facebook изучает его с 2010 года. В 2015 году компания опубликовала собственное исследование, согласно которому влияние фильтра новостей на разнообразие информации в ленте людей минимально. News Feed показывает и некоторые посты, отражающие взгляды, которые не совпадают с мнением пользователя, просто пользователь их не просматривает, утверждают в Facebook.

Однако, в прошлом году в СМИ появилась информация, что некоторые редакторы, работавшие в разделе «Актуальные темы» Facebook, специально снижали приоритет постов, отражающих консервативную точку зрения. После этого Цукерберг созвал совещание представителей консервативных медиа, и, в конечном итоге, значительно сократил роль редакторов-людей в работе ленты.

Глава Alibaba: «Интернет принесет нам десятилетия боли»

News Feed составляется согласно метрикам из 2 тысяч потенциальных новостей каждый раз, когда вы открываете приложение. Важно, чтобы пользователь после каждого дня мог сказать, что информация, полученная им, была значимой для него. Конечная цель команды News Feed состоит в том, чтобы выяснить, чего хотят пользователи — и дать им это. Это большая математическая задача, которая стоит перед Facebook.

Это не всегда просто, яркий пример — двухлетняя борьба Facebook с «clickbait». Это кричащие заголовки, которые мотивируют пользователей кликнуть на них. К осени 2013 года заголовки с clickbait заполнили News Feed. В ходе опросов пользователи говорили, что они ненавидят clickbait, но все же кликали на них. Facebook пришлось понять, как, несмотря на читаемость таких материалов, определить, что их не должно быть в новостной ленте. Компании помог искусственный интеллект — они научили его, что если пользователь провел на странице новости мало времени или не поделился ею с друзьями, вряд ли он хочет видеть такие новости в своей ленте.

Глава Facebook хочет создать глобальную сеть распространения новостей, которой управляют машины, а не люди.

Чем-то история с clickbait напоминает современную ситуацию с дезинформацией. Вопрос в том, как в компании будут решать новую проблему. Сейчас в Facebook полагают, что индивидуальные предпочтения людей в конечном счете совпадают с общественным благом. Однако, социо-научные исследования показывают, что большинство из нас просто предпочитает новости, которые совпадают с нашим мировоззрением, даже если они противоречат общепринятой точке зрения.

После выборов Маргарет Салливан, обозреватель Washington Post и бывший редактор The Times, призвала Facebook нанять исполнительного редактора, который будет следить за новостной лентой и проверять достоверность публикуемых в новостях фактов. Иона Перетти, основатель BuzzFeed, предлагает Facebook использовать свои данные, чтобы создать своего рода репутационный рейтинг для онлайн-новостей.

Пока же Facebook ограничился небольшими мерами по противодействию дезинформации: если один из партнеров по проверке достоверности фактов — Snopes или PolitiFact — отметит новость как сомнительную, в новостной ленте будут отображаться предупреждающие надписи, и вам будет предложено отметить публикацию как содержащую «спорную» информацию.

Сингапурские ученые нашли причину рецидива онкологических заболеваний

Но даже этот небольшой шаг уже был встречен недовольством со стороны некоторых пользователей. Если же Facebook предпримет более серьезные действия, например, наймет редакторов, компания мгновенно станет тем, чем быть не хочет: медиа-компанией, а не нейтральной технологической платформой.

Несмотря на это, Facebook продолжает предпринимать меры по борьбе с дезинформацией. У нее есть планы по запуску проекта Facebook Journalism, в рамках которого компания будет сотрудничать с новостными компаниями. В Facebook также создали проект по повышению «новостной грамотности» среди своих пользователей, а также наняли бывшего редактора новостей CNN Кэмпбелла Брауна для управления партнерскими отношениями между Facebook и новостными компаниями.

Сейчас основатель Facebook работает над манифестом «Создание глобального сообщества». Согласно этому манифесту, первая корпоративная цель компании — соединить людей. Следующий шаг — развитие социальной инфраструктуры.

По мнению Цукерберга, важно разобраться в сути проблемы с дезинформацией. При этом он считает, что важно построить социальную инфраструктуру, которая поможет вывести человечество на новый уровень общения. В качестве примера он называет Safety Check от Facebook — систему, позволяющую людям сообщать своим друзьям, что они пережили какое-то опасное событие, к примеру, оказались в зоне действия стихийного бедствия или террористического акта.

«Такие глобальные задачи, как предотвращение распространения пандемий или терроризма требуют нового уровня координации и связи — и его невозможно добиться с помощью существующих средств, — считает Цукерберг. — Для этого нужна глобальная социальная инфраструктура. Однако, создание новой инфраструктуры зачастую означает уничтожение старой. И если этот процесс будет выстроен неправильно, он может подорвать и будущее новой системы».

«В компаниях будущего не будет начальников, только блокчейн»

По прогнозам Стива Возняка, Facebook станет одной из тех компаний, которые будут доминировать на рынке минимум до 2075 года. И очередная амбициозная цель Facebook — попытаться свергнуть Google и Amazon, став и операционной системой, и поисковиком, и коммерческой площадкой. Выступая на конференции Facebook F8, Марк Цукерберг и глава Messenger Дэвид Маркус объявили, что хотят превратить Messenger в «социальную гостиную», где пользователи смогут общаться, заказывать еду и такси, делиться музыкой. Виртуальный помощник Facebook M станет в этой «гостиной» «цифровым дворецким».

Загрузка...