Сообщить об ошибке на сайте
URL
Ошибка
Кейсы

Таргетированная реклама в интернете должна облегчать людям жизнь, но, как показывают исследования, часто она дискриминирует отдельные слои населения. Издание Vox рассмотрело примеры того, как Facebook и Google невольно поощряют расовую сегрегацию в сфере недвижимости.

Независимый новостной ресурс ProPublica в октябре купил рекламные блоки на Facebook с одной целью — доказать факт дискриминации. Дело в том, что специальный алгоритм таргетирования позволяет жестко ограничивать целевую аудиторию рекламы в данном случае жилой недвижимости. Например, отсеивать афроамериканцев, латиноамериканцев и азиатов в качестве покупателей жилья в благополучных «белых» кварталах. Функция нарушает американский закон о справедливом решении жилищных вопросов, согласно которому в рекламе недвижимости запрещено демонстрировать предпочтение определенной расе, религии, полу, семейному статусу и другим факторам.

Между тем, алгоритмы сегрегируют людей, причем делают это незаметно — с помощью персонализации. Разграничение пользователей онлайн отражается и в реальной жизни. Дискриминирующая реклама показывает пользователям соцсетей трудовые вакансии, объявления о продаже жилья или приеме в вузы выборочно, ограничивая доступ людей к информации.

В США расовая политика прошлых лет привела к формированию так называемых белых и черных районов. Но и после изменения политики эта ситуация мало изменилась — афроамериканцам по-прежнему сложно выбраться за пределы бедных кварталов, и реклама в Facebook только способствует этому.

Ученые из Университета Карнеги — Меллон, в свою очередь, проанализировали работу системы Google Ad, которая собирает данные о пользователе и показывает ему таргетированную рекламу. Исследователи привлекли к эксперименту 500 интернет-пользователей разного пола, которые должны были посещать два одинаковых новостных сайта. Поведение в сети было похожим, но Google Ad почему-то чаще показывала рекламу услуг бизнес-тренеров для получения руководящей должности мужчинам.

Часто дискриминация бывает непреднамеренной. Предположим, рекламодатель решит продвигать жилой комплекс специально для поклонников группы Pearl Jam и обозначит это в алгоритме. Так как статистически среди поклонников группы больше белых, рекламу увидят именно они.

В реальности с такими вещами можно бороться традиционными методами — например, подавать иски, как это делали раньше афроамериканцы, когда на рекламных плакатах по продаже недвижимости были исключительно белые лица. С интернетом такой прием не сработает, так как сайты защищены законом о пристойности в телекоммуникациях (CDA). Согласно ему, ресурсы не несут ответственности за публикуемый пользователями контент. Но в некоторых случаях сайты сами дают пользователям инструменты для дискриминации — примером служит Facebook.

Перед учеными стоит непростая задача разработать алгоритм, который предотвращал бы возможность введения дискриминирующих предпочтений на самом раннем этапе, до того, как рекламное объявление начнет охватывать аудиторию. Пока что такие инструменты не разработаны.

Об отсутствии этических норм у алгоритмов уже сказано немало. Автоматизированные системы решают судьбу преступников в США. Они определяют вероятность рецидивизма и принимают решение о досрочном освобождении. Этим летом заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин, в котором обвинил алгоритм COMPAS в предвзятости из-за пола и возраста. Ранее издание ProPublica обнаружило, что система COMPAS чаще присуждает высокий риск рецидивизма афроамериканцам. Полицейской программе Beware также не чужда дискриминация. ПО присуждает каждому дому рейтинг опасности на основе больших данных о преступлениях в этом районе и следит за вышедшими на свободу преступниками. Часто решение системы обусловлено опасностью района — чем больше прецедентов было на его территории, тем большему подозрению подвергаются его жители.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Авиация
Spike испытала прототип сверхзвукового пассажирского самолета
Yamaha представила Motoroid — концепт мотоцикла с ИИ
Электромотоциклы
Власти США одобрили использование робота-хирурга
Медицинские роботы
«Криптовалюты избавят людей от уплаты банковских комиссий»
Криптовалюты
Маск: «Наш корабль сядет на Марс даже при отказе части двигателей»
Космос
«Электрические самолеты появятся не ранее, чем через 15-20 лет»
Мнения
Ураганы привели к буму домашних систем хранения энергии в США
Тренды
Открыт новый метод измерения спинового тока в квантовых материалах
Научные разработки
Shell выкупила крупнейшую европейскую сеть электрозаправок
Электротранспорт
Автономный робот STAR удалил опухоль лучше хирургов
Медицинские роботы
В России точно появится крипторубль
Криптовалюты
К 2019 году Baidu начнет массовое производство автономных автомобилей
Беспилотные автомобили
На World Skills выступит рекордное количество участников из России
Тренды
Финтех
IBM запускает международные блокчейн-платежи
С Gluon создавать нейронные сети будет так же просто, как приложения
Нейронные сети
«Великобритания может возглавить ИИ-революцию»
Искусственный интеллект
Илон Маск признался, что владеет двумя бензиновыми автомобилями
Кейсы
В США строят крупнейшую виртуальную солнечную электростанцию
Чистая энергетика
Virgin Hyperloop One вернет людям радость путешествий
Транспорт будущего
В Исландии запускают станцию, которая превращает СО2 в камень
Чистая энергетика
Частный космос
Российская ракета Протон-М станет прямым конкурентом Falcon 9
Глава JPMorgan: «Я больше не буду говорить о биткойне»
Криптовалюты
Цифровое государство
С 1 июля 2018 года в России внедрят электронные ПТС
Оптические волокна могут заменить электронные датчики движения
Носимая электроника
Фармкомпании начали переманивать ИТ-специалистов из Google и Microsoft
Фармацевтика
Как ИТ-гиганты превратились из спасителей в угрозу
Государственный контроль
StreamCube сделает энергию приливов выгодной и доступной
Возобновляемая энергетика
Xperia Touch, превращающая стол в тачскрин, поступила в продажу
Тренды
Власти Швеции первыми в мире потребовали уплаты налогов в биткойнах
Тренды
Летающие мотоциклы
Полиция Дубая тестирует «летающие мотоциклы» российского производства
Разработан новый бетон, который выдерживает толчки магнитудой 9 баллов
Строительные технологии
Немецкий инженер создал AR-очки для инженеров и рабочих
Дополненная реальность
Умные колонки Google позволят делать заказы в Target
Голосовые помощники
Google переучит лишенных работы специалистов за $1 млрд
Тренды
Ученые в 50 раз усилили Т-клетки для борьбы с ВИЧ
Лечение ВИЧ
«Цифровой институт» Стива Возняка подготовит тысячи ИТ-специалистов
Мнения
Ричард Брэнсон: «SpaceShipTwo отправится в космос через 3 месяца»
Космический туризм
Водородные тягачи Toyota начнут работу в порту Лос-Анджелеса
Транспорт будущего
Китайская прокуратура начнет использовать ИИ
Тренды
Частный космос
SpaceX спровоцирует триллионный бум в аэрокосмической отрасли
Геном морского огурца подсказал ученым механизм регенерации тканей
Генетика
Стартап Zenome позволит людям зарабатывать на генетических данных
Генетические данные
Звание «главного пугала» перешло от Google к Amazon
ИТ-компании
Образование 2.0
Тим Кук: «Лучше учить не иностранный язык, а язык программирования»
Прорывная технология позволит создать жесткий диск емкостью 40 Тб
Хранение данных
ИИ-разработчики досконально изучат кубический миллиметр мозга
Исследования мозга
BMW представила гибридный электровелосипед
Электробайки
Власти Китая хотят национализировать все ИТ-компании в стране
Государственный контроль
На дорогах Калифорнии разрешат тестировать робомобили без водителей
Робомобили