Сообщить об ошибке на сайте
URL
Ошибка
Кейсы

Таргетированная реклама в интернете должна облегчать людям жизнь, но, как показывают исследования, часто она дискриминирует отдельные слои населения. Издание Vox рассмотрело примеры того, как Facebook и Google невольно поощряют расовую сегрегацию в сфере недвижимости.

Независимый новостной ресурс ProPublica в октябре купил рекламные блоки на Facebook с одной целью — доказать факт дискриминации. Дело в том, что специальный алгоритм таргетирования позволяет жестко ограничивать целевую аудиторию рекламы в данном случае жилой недвижимости. Например, отсеивать афроамериканцев, латиноамериканцев и азиатов в качестве покупателей жилья в благополучных «белых» кварталах. Функция нарушает американский закон о справедливом решении жилищных вопросов, согласно которому в рекламе недвижимости запрещено демонстрировать предпочтение определенной расе, религии, полу, семейному статусу и другим факторам.

Между тем, алгоритмы сегрегируют людей, причем делают это незаметно — с помощью персонализации. Разграничение пользователей онлайн отражается и в реальной жизни. Дискриминирующая реклама показывает пользователям соцсетей трудовые вакансии, объявления о продаже жилья или приеме в вузы выборочно, ограничивая доступ людей к информации.

В США расовая политика прошлых лет привела к формированию так называемых белых и черных районов. Но и после изменения политики эта ситуация мало изменилась — афроамериканцам по-прежнему сложно выбраться за пределы бедных кварталов, и реклама в Facebook только способствует этому.

Ученые из Университета Карнеги — Меллон, в свою очередь, проанализировали работу системы Google Ad, которая собирает данные о пользователе и показывает ему таргетированную рекламу. Исследователи привлекли к эксперименту 500 интернет-пользователей разного пола, которые должны были посещать два одинаковых новостных сайта. Поведение в сети было похожим, но Google Ad почему-то чаще показывала рекламу услуг бизнес-тренеров для получения руководящей должности мужчинам.

Часто дискриминация бывает непреднамеренной. Предположим, рекламодатель решит продвигать жилой комплекс специально для поклонников группы Pearl Jam и обозначит это в алгоритме. Так как статистически среди поклонников группы больше белых, рекламу увидят именно они.

В реальности с такими вещами можно бороться традиционными методами — например, подавать иски, как это делали раньше афроамериканцы, когда на рекламных плакатах по продаже недвижимости были исключительно белые лица. С интернетом такой прием не сработает, так как сайты защищены законом о пристойности в телекоммуникациях (CDA). Согласно ему, ресурсы не несут ответственности за публикуемый пользователями контент. Но в некоторых случаях сайты сами дают пользователям инструменты для дискриминации — примером служит Facebook.

Перед учеными стоит непростая задача разработать алгоритм, который предотвращал бы возможность введения дискриминирующих предпочтений на самом раннем этапе, до того, как рекламное объявление начнет охватывать аудиторию. Пока что такие инструменты не разработаны.

Об отсутствии этических норм у алгоритмов уже сказано немало. Автоматизированные системы решают судьбу преступников в США. Они определяют вероятность рецидивизма и принимают решение о досрочном освобождении. Этим летом заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин, в котором обвинил алгоритм COMPAS в предвзятости из-за пола и возраста. Ранее издание ProPublica обнаружило, что система COMPAS чаще присуждает высокий риск рецидивизма афроамериканцам. Полицейской программе Beware также не чужда дискриминация. ПО присуждает каждому дому рейтинг опасности на основе больших данных о преступлениях в этом районе и следит за вышедшими на свободу преступниками. Часто решение системы обусловлено опасностью района — чем больше прецедентов было на его территории, тем большему подозрению подвергаются его жители.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн
Иннополис
Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
Тренды
MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
Trade-to-Mine: как биржи привлекают трейдеров в условиях падения рынка
Блокчейн
Дмитрий Фадин, 3D Bioprinting Solutions — о будущем биопринтинга и печати органов в космосе
Мнения
IoT изменит все: какие умные технологии принесут бизнесу экономию, безопасность и инновации
Тренды
Как высокие технологии побуждают нас покупать билеты и туристические услуги
Тренды
Чем плоха Кремниевая долина для IT-стартапов из России: дорого, неудобно и нет транспорта
Мнения
Жить по-умному: как защитить свой дом и не бояться киберугроз
Умный дом
Андрей Синогейкин, Wonder Technologies, — об искусственных алмазах
Тренды
Никита Бокарев, ESforce, — о деньгах, киберспорте и его немаргинальности
Тренды
Тренды
YouTube-депрессия: как создатели популярных каналов боятся потерять подписчиков и разум
Гельмут Райзингер, Orange Business Services, — об IIoT, 5G и телеком-стартапах
Мнения
«Робот берет вас на работу»: как искусственный интеллект, блокчейн и VR подбирают персонал
Мнения
Телемедицина, роботы и умные дома: каким через 5 лет будет «оцифрованный» город в России
Тренды
Мясная революция: как перейти от веганских заменителей к клеточным технологиям и биореакторам
Идеи
AI-выборы: как искусственный интеллект и голосовые помощники сделают демократию лучше
Тренды
Идеи
Тупик для беспилотников: как мечты разработчиков разбиваются о неожиданности на дорогах
Здесь нужен InsurTech: за какими стартапами будущее страхования
Мнения
Вирус лженауки в Google: как поисковые системы распространяют опасные мифы о прививках
Идеи
«Кто-то управляет моим домом»: как жертв домашнего насилия терроризируют с помощью умных устройств
Умный дом
Паскаль Фуа, EPFL, — о ключевых точках, глубоких нейросетях и эпиполярной геометрии
Мнения
20 фильмов о кибербезопасности, взломах и цифровых преступлениях
Тренды
Ян Лекун, Facebook: прогностические модели мира — решающее достижение в ИИ
Мнения
Джианкарло Суччи: «Попытка спроектировать программу без багов — утопия»
Иннополис
Game out: Как видеоигры обучают детей-аутистов держать равновесие и узнавать людей
Тренды
Прослушка, контроль камеры и предсказание смерти пользователя: самые странные патенты Facebook
Кейсы
Цес Снук, QUVA: мы не хотим зависеть от крупных компаний, которые владеют всеми данными
Мнения
Дмитрий Песков, АСИ: «В России традиционно долго запрягают, и в сфере IT мы только этим и занимаемся»
Иннополис
Мнения
ДНК-тесты: как генетические компании обманывают людей и разрушают семьи
Мануэль Маццара: «Для Facebook вы не покупатель, вы — продукт»
Иннополис
Тренды
Блокчейн, искусственное мясо и «смерть» смартфонов: что будет с технологиями через 10 лет
Витторио Феррари, Google: «Чтобы машина распознала книгу о Гарри Поттере нужна сложная математическая модель»
Мнения
7 медицинских технологий, которые скоро придут в российские больницы
Идеи
Руслан Зайдуллин, основатель Doc+, — о том, что делать Минздраву и о проблемах в российской медицине
Мнения
Ричард Вдовьяк, Philips: «В будущем диагностировать заболевания будут не только врачи, но и сами пациенты»
Тренды
Шедевры за биткоины: Как криптовалюта меняет рынок искусства
Блокчейн