Сообщить об ошибке на сайте
URL
Ошибка
Кейсы

Таргетированная реклама в интернете должна облегчать людям жизнь, но, как показывают исследования, часто она дискриминирует отдельные слои населения. Издание Vox рассмотрело примеры того, как Facebook и Google невольно поощряют расовую сегрегацию в сфере недвижимости.

Независимый новостной ресурс ProPublica в октябре купил рекламные блоки на Facebook с одной целью — доказать факт дискриминации. Дело в том, что специальный алгоритм таргетирования позволяет жестко ограничивать целевую аудиторию рекламы в данном случае жилой недвижимости. Например, отсеивать афроамериканцев, латиноамериканцев и азиатов в качестве покупателей жилья в благополучных «белых» кварталах. Функция нарушает американский закон о справедливом решении жилищных вопросов, согласно которому в рекламе недвижимости запрещено демонстрировать предпочтение определенной расе, религии, полу, семейному статусу и другим факторам.

Между тем, алгоритмы сегрегируют людей, причем делают это незаметно — с помощью персонализации. Разграничение пользователей онлайн отражается и в реальной жизни. Дискриминирующая реклама показывает пользователям соцсетей трудовые вакансии, объявления о продаже жилья или приеме в вузы выборочно, ограничивая доступ людей к информации.

В США расовая политика прошлых лет привела к формированию так называемых белых и черных районов. Но и после изменения политики эта ситуация мало изменилась — афроамериканцам по-прежнему сложно выбраться за пределы бедных кварталов, и реклама в Facebook только способствует этому.

Ученые из Университета Карнеги — Меллон, в свою очередь, проанализировали работу системы Google Ad, которая собирает данные о пользователе и показывает ему таргетированную рекламу. Исследователи привлекли к эксперименту 500 интернет-пользователей разного пола, которые должны были посещать два одинаковых новостных сайта. Поведение в сети было похожим, но Google Ad почему-то чаще показывала рекламу услуг бизнес-тренеров для получения руководящей должности мужчинам.

Часто дискриминация бывает непреднамеренной. Предположим, рекламодатель решит продвигать жилой комплекс специально для поклонников группы Pearl Jam и обозначит это в алгоритме. Так как статистически среди поклонников группы больше белых, рекламу увидят именно они.

В реальности с такими вещами можно бороться традиционными методами — например, подавать иски, как это делали раньше афроамериканцы, когда на рекламных плакатах по продаже недвижимости были исключительно белые лица. С интернетом такой прием не сработает, так как сайты защищены законом о пристойности в телекоммуникациях (CDA). Согласно ему, ресурсы не несут ответственности за публикуемый пользователями контент. Но в некоторых случаях сайты сами дают пользователям инструменты для дискриминации — примером служит Facebook.

Перед учеными стоит непростая задача разработать алгоритм, который предотвращал бы возможность введения дискриминирующих предпочтений на самом раннем этапе, до того, как рекламное объявление начнет охватывать аудиторию. Пока что такие инструменты не разработаны.

Об отсутствии этических норм у алгоритмов уже сказано немало. Автоматизированные системы решают судьбу преступников в США. Они определяют вероятность рецидивизма и принимают решение о досрочном освобождении. Этим летом заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин, в котором обвинил алгоритм COMPAS в предвзятости из-за пола и возраста. Ранее издание ProPublica обнаружило, что система COMPAS чаще присуждает высокий риск рецидивизма афроамериканцам. Полицейской программе Beware также не чужда дискриминация. ПО присуждает каждому дому рейтинг опасности на основе больших данных о преступлениях в этом районе и следит за вышедшими на свободу преступниками. Часто решение системы обусловлено опасностью района — чем больше прецедентов было на его территории, тем большему подозрению подвергаются его жители.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Марк Кьюбан инвестировал в венчурный криптовалютный фонд
Тренды
В Гарварде создают пробиотик, превращающий обычных людей в спортсменов
Спорт
В процессорах Intel Core 8-го поколения будет 6 ядер
Железо
«Запрет роботов-убийц не имеет смысла»
Мнения
Cтартап использует поезда для хранения энергии
Хранение энергии
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
Тренды
В США криптовалюты хотят приравнять к доллару
Распознавание лиц избавит человечество от паролей и ключей
Распознавание лиц
Чистая энергия
«Ледяные батареи» сократят потребление энергии на 95%
Sky Hopper — грузовой конвертоплан на электротяге
Идеи
Uber предложили объединить с Tesla
Технологические компании
«Электронная кожа» соберет данные о состоянии здоровья
Идеи
Aspire откроет роботизированную ферму по выращиванию насекомых
Тренды
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Топ-5 функций Oreo — новой ОС Android
Мобильные технологии
«Формула-1» проведет киберспортивный чемпионат мира
Кейсы
Ford может полностью перейти на электромобили
Электромобили
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Искусственный интеллект
Научные открытия
Открыт новый класс химических реакций
«Роботы уничтожат средний класс»
Мнения
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
«Дни двигателя внутреннего сгорания сочтены»
Транспорт будущего
Wal-Mart запатентовала летающий склад-дирижабль
Идеи
Криптовалюты
Один день на крупнейшей в мире китайской биткойн-шахте
Японские ученые продлили срок службы солнечных модулей из перовскитов
Идеи
Найден способ предотвращения нестабильности термоядерной реакции
Термоядерный синтез
«Дети должны обучаться программированию с двух лет»
Образование
К 2021 году в России будет использоваться 12,8 млн VR-шлемов
Мнения
ИИ научился видеть скрытые аналогии
Обучение машин
В России разработано оптоволокно с квадратной сердцевиной
Оптика
Тренды
Илон Маск и другие ИТ-лидеры требуют запретить военных роботов
«Блокчейн передаст власть над играми в руки геймеров»
Технологии игр
В Китае начал работу киберсуд по интернет-делам
Идеи
Система распознавания речи Microsoft установила новый рекорд
Распознавание речи
ИИ научился считывать намерения людей
Искусственный интеллект
Возобновляемая энергетика принесла экономике США до $113 млрд
Чистая энергетика
Facebook запатентует очки дополненной реальности
Тренды
NuTonomy запустит в Сингапуре сервис роботакси в 2018 году
Беспилотные автомобили
Южная Корея построит в Египте гигантскую умную ферму за $10 млрд
Тренды
Испытан первый в мире электрогенератор на океанических течениях
Возобновляемая энергетика
Мнения
«Алгоритмам нельзя внушить представление о справедливости»
Sony поможет новичкам разрабатывать ИИ
Искусственный интеллект
Кейсы
«ИИ будет двигателем четвертой технологической революции»
Стартап Made in Space напечатал радиационный щит прямо на борту МКС
Обитаемый космос
В 2018 году мировая солнечная энергетика прибавит 100 ГВт
Мнения
Термомагнитная стимуляция мозга заставила мышей двигаться против воли
Идеи
В Шотландии построят самую большую в регионе солнечную электростанцию
Солнечная энергетика
Глава Ford: «До полноценных робомобилей пока далеко»
Мнения
Искусственная матка будет создана после 2020 года
Идеи
Комиссия по ценным бумагам и биржам США будет регулировать ICO
Криптовалюты
Тренды
Все, что нужно знать про биткойн
Берлинский финтех-стартап помог европейцам инвестировать €4 млрд
Финансовые стартапы