Алгоритм рекомендаций YouTube может привести вас к просмотру очень странных видео, предлагая ролики, которые кажутся в лучшем случае неуместными и нецелевыми, а в худшем являются токсичным и дезинформирующим контентом. Mozilla представляет новое расширение для браузера, RegretsReporter, которое нацелено на краудсорсинговое исследование «провокационных рекомендаций» для пользователей YouTube. Рассказываем, как принять участие в исследовании Mozilla, что не так с алгоритмами YouTube и как видеосервис пытается защитить свою пошатнувшуюся репутацию.
В чем состоит план Mozilla?
Компания анонсировала новое расширение, чтобы позволить пользователям лучше понять, как работает алгоритм рекомендаций YouTube, и предоставить подробную информацию о шаблонах, которые он обнаруживает.
Рекомендации YouTube могут быть восхитительными, но также и опасными. Платформа уже давно рекомендует своим пользователям вредоносный контент — от заговоров о пандемиях до политической дезинформации, даже если они ранее просматривали безвредный контент.
В октябре 2019 года Mozilla опубликовала собственное исследование по этой теме, в котором выяснилось, что YouTube рекомендовал вредоносные видео, включающие дезинформацию. В условиях глобальной пандемии и приближающихся выборов в США последствия этой проблемы реальны и растут с каждым днем, заявили в компании.
Несмотря на серьезные последствия, алгоритм рекомендаций YouTube совершенно загадочен для пользователей. Что YouTube порекомендует пользователям в США посмотреть в последние дни перед выборами? Или в ближайшие дни, когда результаты выборов могут быть неясными?
Задаваясь этими вопросами, Mozilla дает пользователям YouTube возможность действовать, когда им рекомендуют вредоносные видео, и запускает RegretsReporter. Это расширение для браузера создано в целях краудсорсингового исследования проблемы рекомендаций YouTube.
Зачем это Mozilla?
ИИ-рекомендации YouTube — один из самых влиятельных «кураторов информации» в интернете. YouTube является вторым самым посещаемым сайтом в мире, и просмотр видео на основе его алгоритма составляет 70% от общего времени просмотра на сайте. Не будет преувеличением сказать, что YouTube существенно влияет на осведомленность и понимание общественности ключевых проблем во всем мире.
В течение многих лет люди бьют тревогу по поводу того, что YouTube рекомендует видео, включающие в себя теории заговора, дезинформацию и другой вредоносный контент. Ранее YouTube заявляла, что компания добилась прогресса в этом вопросе и платформе удалось сократить количество вредных рекомендаций на 70%. Но невозможно проверить эти утверждения или понять, где YouTube еще есть над чем поработать.
С каждым днем, пока YouTube проверяет эти утверждения, такие видео как Civil War Is Coming или Plandemic могут быть предложены все большему количеству людей. Как заявили в Mozilla, они «набирают пользователей YouTube, чтобы те стали сторожевыми псами» платформы. Люди могут передавать данные предоставляемых им рекомендаций, чтобы помочь Mozilla понять, что рекомендует YouTube и как сделать системы рекомендаций в целом более надежными.
Какую конкретно информацию хочет раскрыть Mozilla?
- Какие рекомендуемые видео содержат материалы расистского, насильственного или конспиративного характера?
- Существуют ли закономерности рекомендаций видео с точки зрения частоты или серьезности вредоносного контента?
- Существуют ли определенные шаблоны использования YouTube, по которым рекомендуется вредный контент?
Обладая этой информацией, Mozilla вместе с коллегами-исследователями, журналистами, политиками и даже инженерами YouTube может работать над созданием более надежных систем для рекомендации контента.
Используя открытый исходный код, Mozilla будет публично делиться результатами исследования и надеяться, что YouTube и другие будут использовать эту информацию для улучшения своих продуктов. Следите за обновлениями на сайте.
Как будет работать компания по разоблачению YouTube?
Когда вы просматриваете YouTube, новое расширение Mozilla автоматически отправляет данные о том, сколько времени вы проводите на платформе, не собирая никакой информации о том, что вы смотрите или ищете. Это может дать нам некоторое представление о том, как часто пользователей возмущают рекомендации YouTube.
prt scr Mozilla
У пользователей также есть возможность можете отправить отчет напрямую Mozilla. В форме отчета вам будет предложено рассказать больше о претензиях к YouTube и собрать информацию о видео, о котором вы сообщаете, а также о том, как вы пришли к нему. Это важно для понимания того, как система рекомендаций YouTube заставляет людей смотреть определенные видео и какое влияние она может на них оказать.
Это безопасно?
На протяжении всего этого процесса конфиденциальность пользователей имеет первостепенное значение для компании, заверили в Mozilla.
Данные, которые собирает Mozilla, связаны со случайно сгенерированным идентификатором пользователя, а не с конкретной учетной записью YouTube. Только Mozilla будет иметь доступ к необработанным данным, чтобы минимизировать риск идентификации пользователей. Расширение не собирает данные во время просмотра видео в приватном режиме. Более подробная информация о конфиденциальности пользователей предоставлена в Уведомлении о конфиденциальности RegretsReporter.
Важный аспект исследования
«Мы просим пользователей не изменять свое поведение на YouTube при использовании этого расширения. Не ищите специально провокационные. Вместо этого используйте YouTube, как обычно», — объясняет Mozilla. Судя по заявлению компании, это единственный способ, который поможет «коллективно» понять, решается ли проблема YouTube с рекомендациями неподходящего контента и в каких областях видеосервису стоит улучшить работу.
Реакция YouTube
Mozilla не имеет формального соглашения с Google или YouTube для исследования алгоритма рекомендаций, но Бойд говорит, что они общались с компанией и намерены делиться информацией.
YouTube однако заявил, что методология, предложенная Mozilla, кажется «сомнительной».
Представитель YouTube сказал в заявлении The Verge, что компания всегда заинтересована в исследованиях своей системы рекомендаций. «Однако сложно сделать общие выводы из анекдотических примеров, и мы постоянно обновляем наши системы рекомендаций, чтобы улучшить опыт пользователей», — заявил представитель, добавив, что за последний год YouTube запустил «более 30 различных изменений, чтобы уменьшить рекомендации пограничного содержания».
Что не так с алгоритмами YouTube?
В конце 2019 года YouTube наконец-то признал, что их система рекомендаций предлагает вредоносный контент. Это маленький шаг в правильном направлении. В течении долгого времени алгоритмам видеохостинга поступало множество претензий по поводу сомнительных рекомендательных алгоритмов.
YouTube игнорирует предупреждения
Как сообщает Bloomberg, руководители YouTube проигнорировали все предупреждения, позволив «токсичным видео разгуляться». По словам сотрудников компании, предложения об изменении рекомендаций и пресечении заговоров были принесены в жертву вовлеченности.
Еще в 2018 году Сьюзан Войчицки, главный исполнительный директор YouTube вышла на сцену во время конференции South by Southwest, чтобы защищать платформу. Репутация ее компании, которую месяцами до этого критиковали за разжигание лжи в Интернете, пошатнулась после распространения на хостинге видео, связанного с видео с теорией заговора о стрельбе в средней школе Паркленда, штат Флорида. Авторы видео утверждали, что жертвами были «кризисные актеры».
Войчицки вообще неохотно выступает с общественностью, но на конференции в Остине она выступила, чтобы представить решение, которое, как она надеялась, поможет подавить теории заговора. Крошечное текстовое поле с таких веб-сайтов, как Wikipedia должно под видео, которые ставят под сомнение общепринятые факты, такие как высадка на Луну, помогут людям зрителям правду.
YouTube, стремящийся обогнать телевидение, по оценкам, получает от продаж рекламы более 16 миллиардов долларов в год. Но в тот день Войчицки сравнила свой видеосайт с заведением другого типа. «Мы больше похожи на библиотеку, — заявила она, заняв знакомую позицию защитника свободы слова. — Если взглянуть на библиотеки, всегда были споры».
Как YouTube скрывает правду?
YouTube увольняет независимых исследователей, которые хотят разобраться в проблеме рекомендательных алгоритмов. В Mozilla Foundation создали график, чтобы доказать это.
- В начале появилась новость о том, что система рекомендаций YouTube наносит вред пользователям. Алгоритм радикализировал молодых людей в США, посеял разделение в Бразилии, распространил спонсируемую государством пропаганду в Гонконге и многое другое.
- Затем YouTube отвечает. Но не путем признания ошибки или подробного решения. Вместо этого компания делает заявление, в котором обвиняются и критикуются исследовательские методологии, использованные для изучения их рекомендаций, звучат неопределенные обещания, что в компании «работают над этим».
- После в сообщении в блоге YouTube признал, что их механизм рекомендаций предлагал пользователям пограничный контент, и опубликовал график, показывающий, что они выделяли значительные ресурсы на решение этой проблемы в течение нескольких лет.
«Чего они не осознают, так это того, как они уклоняются и увольняют журналистов и ученых, которые годами подчеркивали эту проблему. Кроме того, по-прежнему очевидно отсутствие публично проверенных данных, подтверждающих заявления YouTube о том, что они решают проблему», — заявили в Mozilla.
В итоге Mozilla опубликовала перечень ответов YouTube на стороннее исследование своей системы рекомендаций. Во временной шкале, опубликованной в блоге Mozilla записано 14 ответов — уклончивых или пренебрежительных — выпущенных за 22 месяца в обратном хронологическом порядке.
Основные тенденции в оправданиях YouTube
- YouTube часто заявляет, что решает проблему, меняя свой алгоритм, но почти не предоставляет подробностей о том, что именно эти настройки делают.
- YouTube утверждает, что располагает данными, которые опровергают независимые исследования, но отказывается делиться этими данными.
- YouTube отклоняет независимые исследования по этой теме как ошибочные или анекдотические, но отказывается предоставить сторонним лицам доступ к своим данным, чтобы подтвердить это.
В сообщении для блога YouTube заявил, что «пограничный контент» составляет долю 1% контента, просматриваемого пользователями в США. Но с 500 часами видео, загружаемыми на YouTube каждую минуту, сколько часов такого контента все еще предлагается пользователям? Изучив сотни историй о влиянии этих видеороликов на жизнь людей за последние месяцы, становится очевидно, что эта проблема слишком важна, чтобы ее можно было преуменьшить статистикой, которая даже не дает сторонним экспертам возможности увидеть и изучить проблему в целом.
Что в итоге?
С тех пор, как Войчицки вышла на сцену, защищая YouTube в прошлом году, на платформе появились новые известные теории заговора, в том числе о вакцинации детей; о связи Хиллари Клинтон с сатанинским культом, что вызвало гнев законодателей, стремящихся регулировать технологические компании. А год спустя YouTube стал еще больше ассоциироваться с даркнетом. Возможно, новый план Mozilla по борьбе с нежелательным контентом поможет выяснить, как формируются рекомендации. Во всяком случае, новая разработка заново поднимает важный вопрос о манипулировании общественным мнением с помощью социальных сетей и медиа.
Читать также
Ледник «Судного дня» оказался опаснее, чем думали ученые. Рассказываем главное
Появилось сразу два доказательства внеземной жизни. Одно на Венере, другое — неизвестно где
Гибридные автомобили опаснее для экологии, чем дизельные. Рассказываем главное