Синтия Дворк: «Алгоритмы должны стать прозрачными и непредвзятыми»

Специалист в области теории вычислительных машин Синтия Дворк считает, что пристрастностью может быть заражен даже машинный код, и единственный способ решить эту проблему – сделать эти алгоритмы открытыми.

Синтия Дворк на протяжении своей яркой карьеры изучала проблемы взаимодействия человека и компьютера и получила известность за изобретение «разностной приватности» — набора техник, позволяющих обеспечивать конфиденциальность в больших базах данных. Она дает возможность человеку вносить, например, в медицинскую базу свой генетический материал, не опасаясь, что кто-то сопоставит данные с его личностью.

Последние 5 лет Дворк, которая пока еще занимает пост в Microsoft Research, но с января перейдет в Гарвардский университет, посвятила себя новому полю исследований — алгоритмической беспристрастности.

Google-Переводчик изобрел собственный язык

По ее наблюдениям, алгоритмы все больше управляют нашим опытом: они определяют то, какую рекламу мы смотрим, какие банковские ссуды мы получаем, колледжи, в которые поступают абитуриенты… Поэтому важно, чтобы алгоритмы классифицировали людей в соответствии с понятием беспристрастности. Например, неэтично для банка предлагать одни условия представителям национальных меньшинств, а другие — коренному населению. Однако подобная дискриминация может просочиться и в математические алгоритмы.

По мнению Дворк, по сравнению с вопросами «разностной приватности» проблема беспристрастности гораздо сложнее. Если бы существовал волшебный способ найти правильный способ измерения разницы между людьми, шансы добиться цели были бы. Но кажется, что люди не могут согласиться, к кому именно нужно относиться непредвзято и по сравнению с кем. И крайне сложно найти статистический метод или использовать машинное обучение, чтобы получить удовлетворительный ответ на этот вопрос.

6 законов будущего, которые изменят нашу жизнь

Например, дискриминация в рекламе средств по уходу за волосами является вполне осмысленной, а дискриминация в рекламе банковских услуг незаконна. Дворк считает, что решением этой задачи могла бы стать прозрачность: алгоритмы должны быть доступны общественности, которая имеет право их обсуждать и воздействовать на их изменение.

«Я не думаю, что бывает так, чтобы все сразу получалось правильно, — говорит Дворк в интервью изданию Quanta Magazine. — Я думаю, мы можем только делать все возможное и — на этом я настаиваю в своей статье — защищать прозрачность в алгоритмах».

Гарвардские ученые нашли физический источник человеческого сознания

Плохому научиться просто. Это доказал чатбот Tay, который за сутки превратился из обычного подростка в нациста и хулигана. Причиной такого падения послужили обычные пользователи Twitter, которые поняли, что способность алгоритма обучаться — это и есть его слабая сторона.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
«Уэбб» раскрыл тайну центра Млечного Пути: почему там формируется слишком мало звезд
Космос
Рак распространяется как сеть: российские ученые наблюдали в 3D особенности развития опухолей
Наука
Солнечная буря сдавила магнитное поле Юпитера «как гигантский мяч для сквоша»
Космос
Анализ крови определяет стадию болезни Альцгеймера с точностью 92%: это поможет подобрать терапию
Наука
ИИ впервые прошел тест Тьюринга: GPT-4.5 обманул людей в 73% случаев
Новости
В Сколково нашли способ увеличить емкость суперконденсаторов для электромобилей
Наука
ИИ ускорил поиск дефектов трубопроводов в 30 раз
Новости
Под пирамидами Гизы нашли «скрытый город», но с учеными согласны не все
Наука
В Земле нашли «червоточину»: что происходит с литосферой
Наука
Появились новые фото угрожающего Земле астероида
Космос
Российский ИТ-рынок замедляется: почему это происходит и что дальше
Новости
«Яндекс» запустил конкурента Google и ChatGPT: чем отличается и как работает
Новости
Трагедию с Xiaomi на автопилоте начали расследовать в Китае
Новости
Посмотрите, как выглядит самый быстрый пассажирский самолет в мире
Новости
Странная форма материи меняет планеты: как она повлияет на Землю
Космос
Новые фотодиоды в 10 раз чувствительнее аналогов: они пригодятся в медицине
Наука
В России создадут региональный совет по дронам: зачем он нужен
Новости
Государство компенсирует бизнесу 20% затрат на роботов: как работает система
Новости
Разработан маршрутизатор для фотонов: он объединит квантовые компьютеры в единую сеть
Наука
ИИ обнаружил два новых гена, которые влияют на риск ишемического инсульта
Наука