Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Специалист в области теории вычислительных машин Синтия Дворк считает, что пристрастностью может быть заражен даже машинный код, и единственный способ решить эту проблему — сделать эти алгоритмы открытыми.

Синтия Дворк на протяжении своей яркой карьеры изучала проблемы взаимодействия человека и компьютера и получила известность за изобретение «разностной приватности» — набора техник, позволяющих обеспечивать конфиденциальность в больших базах данных. Она дает возможность человеку вносить, например, в медицинскую базу свой генетический материал, не опасаясь, что кто-то сопоставит данные с его личностью.

Последние 5 лет Дворк, которая пока еще занимает пост в Microsoft Research, но с января перейдет в Гарвардский университет, посвятила себя новому полю исследований — алгоритмической беспристрастности.

По ее наблюдениям, алгоритмы все больше управляют нашим опытом: они определяют то, какую рекламу мы смотрим, какие банковские ссуды мы получаем, колледжи, в которые поступают абитуриенты... Поэтому важно, чтобы алгоритмы классифицировали людей в соответствии с понятием беспристрастности. Например, неэтично для банка предлагать одни условия представителям национальных меньшинств, а другие — коренному населению. Однако подобная дискриминация может просочиться и в математические алгоритмы.

По мнению Дворк, по сравнению с вопросами «разностной приватности» проблема беспристрастности гораздо сложнее. Если бы существовал волшебный способ найти правильный способ измерения разницы между людьми, шансы добиться цели были бы. Но кажется, что люди не могут согласиться, к кому именно нужно относиться непредвзято и по сравнению с кем. И крайне сложно найти статистический метод или использовать машинное обучение, чтобы получить удовлетворительный ответ на этот вопрос.

Например, дискриминация в рекламе средств по уходу за волосами является вполне осмысленной, а дискриминация в рекламе банковских услуг незаконна. Дворк считает, что решением этой задачи могла бы стать прозрачность: алгоритмы должны быть доступны общественности, которая имеет право их обсуждать и воздействовать на их изменение.

«Я не думаю, что бывает так, чтобы все сразу получалось правильно, — говорит Дворк в интервью изданию Quanta Magazine. — Я думаю, мы можем только делать все возможное и — на этом я настаиваю в своей статье — защищать прозрачность в алгоритмах».

Плохому научиться просто. Это доказал чатбот Tay, который за сутки превратился из обычного подростка в нациста и хулигана. Причиной такого падения послужили обычные пользователи Twitter, которые поняли, что способность алгоритма обучаться — это и есть его слабая сторона.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика
Квантовая физика
Физики из МТИ открыли новую форму света
Новая 3D-биопечать создает естественную среду для развития тканей
Биотехнологии
Intel создала квантовый компьютер в два кубита на кремниевом чипе
Квантовые компьютеры
В Дубае прошли испытания первых в мире автономных кабин
Автономный транспорт
Eviation обещает выпустить электросамолет к 2021 году
Идеи
Новый вид иммунотерапии поможет справиться с вирусом гриппа
Медицина
К 2020 году Boeing будет выпускать по самолету каждые 10 часов
Кейсы
Генное редактирование поможет бороться с умственной отсталостью
Биотехнологии
Starfighters подготовит первых космических туристов к полетам
Частный космос
Услуги блокчейн-консалтинга на Западе и в России
Блокчейн
Кейсы
Чикаго и Кливленд может соединить линия Hyperloop
Термальный резонатор получает энергию из колебаний температуры воздуха
Чистая энергия
ИИ научился фиксировать землетрясения лучше сейсмологов
Кейсы
Новая технология не позволит 3D-напечатанным стенам обрушиться
Строительная 3D-печать
Тим Кук: «Надеюсь дожить до момента, когда наличные выйдут из оборота»
Мнения
Дрон с жестким крылом EagleRay способен летать и плавать под водой
Дроны в законе
Открыт эффективный вид иммунотерапии рака кишечника
Борьба с раком
Dyson работает над целой линейкой электромобилей
Электромобили
Кейсы
В Сиэтле убрали с улиц камеры для слежки за гражданами
Big Buddy Bike — деревянный электровелосипед с авто-балансировкой
Электровелосипеды
Huawei проведет испытания 5G в Ванкувере
Переход на 5G
Цукерберг может продать акции Facebook на $13 млрд
Благотворительность
Pheramor обещает подобрать идеального партнера по ДНК
Генетика
Сделан новый шаг к созданию вакцины против героина
Медицина будущего
Большой Брат
Израильский стартап разработал защиту от распознавания лиц
Генная терапия ВИЧ переживает второе рождение
Медицина будущего
ФБР, ЦРУ и АНБ предупредили об опасности смартфонов Huawei
Кибербезопасность
Facebook в июле представит сразу две умные колонки
Идеи
В британской больнице ИИ помогает врачам делать УЗИ плода
Медицинские технологии
Новый ИИ-процессор позволит запускать нейронные сети на смартфонах
Искусственный интеллект
Изменение климата
Стэнфордские ученые советуют готовиться к климатической катастрофе
Датчик в ботинке позволяет точно определить местоположение без GPS
Навигация
Shell инвестировала в сервис доступа к чистой энергии по подписке
Возобновляемая энергетика
Тренды
Власти США хотят сделать SpaceX глобальным интернет-провайдером
Ученые повернули вспять развитие болезни Альцгеймера у мышей
Медицина будущего
Google выпустит чатбот, который будет отвечать за вас в мессенджерах
Идеи
В США одобрили первый анализ крови на сотрясение мозга
Медицина будущего
В Китае будут контролировать рынок аренды через блокчейн
Блокчейн-технологии
Как получить криптонаследство
Блокчейн
Разработана «нанофабрика», уничтожающая раковые клетки
Биотехнологии