Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Специалист в области теории вычислительных машин Синтия Дворк считает, что пристрастностью может быть заражен даже машинный код, и единственный способ решить эту проблему — сделать эти алгоритмы открытыми.

Синтия Дворк на протяжении своей яркой карьеры изучала проблемы взаимодействия человека и компьютера и получила известность за изобретение «разностной приватности» — набора техник, позволяющих обеспечивать конфиденциальность в больших базах данных. Она дает возможность человеку вносить, например, в медицинскую базу свой генетический материал, не опасаясь, что кто-то сопоставит данные с его личностью.

Последние 5 лет Дворк, которая пока еще занимает пост в Microsoft Research, но с января перейдет в Гарвардский университет, посвятила себя новому полю исследований — алгоритмической беспристрастности.

По ее наблюдениям, алгоритмы все больше управляют нашим опытом: они определяют то, какую рекламу мы смотрим, какие банковские ссуды мы получаем, колледжи, в которые поступают абитуриенты... Поэтому важно, чтобы алгоритмы классифицировали людей в соответствии с понятием беспристрастности. Например, неэтично для банка предлагать одни условия представителям национальных меньшинств, а другие — коренному населению. Однако подобная дискриминация может просочиться и в математические алгоритмы.

По мнению Дворк, по сравнению с вопросами «разностной приватности» проблема беспристрастности гораздо сложнее. Если бы существовал волшебный способ найти правильный способ измерения разницы между людьми, шансы добиться цели были бы. Но кажется, что люди не могут согласиться, к кому именно нужно относиться непредвзято и по сравнению с кем. И крайне сложно найти статистический метод или использовать машинное обучение, чтобы получить удовлетворительный ответ на этот вопрос.

Например, дискриминация в рекламе средств по уходу за волосами является вполне осмысленной, а дискриминация в рекламе банковских услуг незаконна. Дворк считает, что решением этой задачи могла бы стать прозрачность: алгоритмы должны быть доступны общественности, которая имеет право их обсуждать и воздействовать на их изменение.

«Я не думаю, что бывает так, чтобы все сразу получалось правильно, — говорит Дворк в интервью изданию Quanta Magazine. — Я думаю, мы можем только делать все возможное и — на этом я настаиваю в своей статье — защищать прозрачность в алгоритмах».

Плохому научиться просто. Это доказал чатбот Tay, который за сутки превратился из обычного подростка в нациста и хулигана. Причиной такого падения послужили обычные пользователи Twitter, которые поняли, что способность алгоритма обучаться — это и есть его слабая сторона.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Ученые придумали лекарство, которое предотвратит потерю памяти у космических путешественников
Тренды
Вспышки сверхновых миллионы лет назад подтолкнули эволюцию на Земле
Как развивалась Вселенная
Лекарства из принтера и испытания на роботах: как новые технологии изменили фарму
Тренды
Российские ученые предлагают назвать следующий открытый элемент Антарктидием
Тренды
Тренды
НАСА создаст в космосе температуру, ниже самой холодной во Вселенной
Контейнеры, гибриды и туман: 5 трендов в облачных технологиях
Тренды
Роботы построили самый маленький дом в мире — размером с кончик волоса
Тренды
Инвестор Виталий Голомб — об искусственном мясе и том, почему не нужно получать патенты
Тренды
Первая плавучая атомная электростанция «Ломоносов» завершила свой первый выход в море
Тренды
Посмотрите, как выглядит обожаемый всеми инженерами робот София
Доброжелательные роботы
Искусственные интеллекты тоже не смогли решить, что звучит на записи — «Янни» или «Лорел»
Искусственный интеллект
Кейсы
Астрономы нашли еще одно подтверждение наличия девятой планеты в Солнечной системе
Томские ученые представили сенсоры на основе органических молекул
Тренды
The Boring Company Илона Маска доставит огнеметы первым покупателям уже в начале лета
Кейсы
Инженеры собрали тактильного робота — его кожа может покрываться мурашками
Доброжелательные роботы
Билет в электробус The Boring Company Илона Маска будет стоить всего $1
Тренды
Тренды
Константин Носков возглавит новое министерство цифрового развития, связи и массовых коммуникаций
Китайские ученые создали из картона наноматериал для очищения воды от тяжелых металлов
Экология
Давид Ян запустил сервис «умной» корпоративной аналитики Yva
Кейсы
В китайской школе используют систему распознавания лиц для слежки за отвлекающимися учениками
Кейсы
Apple запатентовала технологию распознавания человека по узору вен на лице
Распознавание лиц
Nissan представил собственную солнечную крышу
солнечные батареи
Инженеры выяснили, что роботы могут действовать совместно даже без создания специальных алгоритмов
Доброжелательные роботы
Идеи
Давление в протоне оказалось выше, чем в нейтронной звезде
Нейросеть научилась понимать, какой трек станет хитом этого лета
Кейсы
Инженеры представили камеру, с помощью которой можно мгновенно создать 3D-модель человека
Тренды
Робот в смартфоне: почему главным конкурентным преимуществом для чат-ботов станет эмоциональность
Мнения
Саратовские ученые создали аппарат, который сравнивает показатели здорового и больного сердца
Биотехнологии
Сверхтехнологичный военный конвертоплан совершил свой первый полет. Пока как самолет
Тренды
Из чего состоит вселенная
Астрономы нашли огромную черную дыру, которая поглощает по три звезды в неделю
Гендиректор Uber Дара Хосровшахи — о будущем, в котором автомобили будут летать
Тренды
FAQ: что такое ячеистые сети и как их применяют в умных домах?
Тренды
Хакеры могут захватить управление поездом, просто взломав сеть Wi-Fi
Киберпреступники
НАСА обнаружила водяные гейзеры на спутнике Юпитера — Европе
Есть ли жизнь на Марсе
Биологи создали биосовместимые импланты, которые смогут растворяться в организме
Биотехнологии
Кейсы
Сотрудники увольняются из Google — они не хотят делать искусственный интеллект для военных дронов Пентагона
Ведущие инженеры Google и Facebook расскажут в Москве о компьютерном зрении и машинном обучении
Компьютерное зрение
Посмотрите, каких роботов привезли разработчики на конференцию TechCrunch
Доброжелательные роботы
В России появятся автоматы по продаже сим-карт
Тренды
SpaceX запустила самую мощную свою ракету-носитель — Falcon 9 Block 5
Тренды
Facebook разрабатывает собственную криптовалюту
ICO
НАСА показала, как магнитное поле Земли защищает планету от солнечного ветра
Тренды
Море волнуется раз: как умнеет «морской бизнес» и где будущее уже наступило
Идеи
Хакеры смогли управлять сервисами Siri и Alexa с помощью неслышных для человека звуков
Тренды
Инженеры разработали метаматериал, заставляющий звуковые волны огибать объект
Тренды
Ярослав Холодов — о математике транспортных потоков, борьбе с пробками и транспорте будущего
Тренды
Доброжелательные роботы
Boston Dynamics показала своего бегающего робота Атлас
Посмотрите, как выглядит практически достроенный туннель Boring Company
Технологический прорыв
В Иннополисе откроется федеральный центр робототехники и мехатроники
Иннополис