Эксперты: «Нельзя давать ИИ право оценивать благонадежность мигрантов»

В июне Дональд Трамп приказал Иммиграционной и таможенной полиции США разработать план по созданию ИИ-алгоритмов, которые бы выявляли потенциальных нелегалов и террористов еще при первом въезде в страну. Теперь более 50 экспертов и ученых, в том числе из Google, Microsoft, МТИ, Стэнфорда, Spotify, написали открытое письмо, в котором утверждают, что системы машинного обучения не могут принимать подобные решения и будут использованы для дискриминации, пишет Quartz.

Идея заключалась в том, что властям США якобы не хватает данных о потенциальных иммигрантах, и компьютерные алгоритмы помогли бы восполнить этот пробел. В частности, предлагалось анализировать сообщения в социальных сетях. Однако эксперты считают, что машинное обучение не способно объективно оценить потенциального кандидата на въезд в США из-за отсутствия четких критериев «добропорядочного гражданина» и способов измерить степень этой добропорядочности. По их мнению, это то же самое, что использовать ИИ для поиска потенциальных преступников: в итоге алгоритм становится «расистским» и отбирает одних афроамериканцев.

По мнению ИТ-сообщества, машинное обучение, будучи применено к иммигрантам, неизбежно станет опираться на так называемые «прокси» или косвенные признаки, как национальность, количество денег, религия, популярная или редкая работа. Все это ведет к дискриминации.

Однако не все ИТ-компании выступили против решения, дать ИИ право оценивать мигрантов. Некоторые СМИ называли IBM одной из немногих ИТ-корпораций, которая не подписала открытое письмо, так как якобы заинтересована в разработке упомянутого алгоритма для американских властей. Однако глава IBM Вирджиния Рометти объяснила свое участие президентском форуме в июне тем, что в традициях компания работать с любым президентом, независимо от партийной принадлежности. При этом, она заявила, что вышла из президентского совета, посовещавшись с коллегами, так как он больше не выполняет тех задач, ради которых был создан.

Получив гражданство Саудовской Аравии, робот София раскритиковала Маска

Премьер-министр Канады Джастин Трюдо выступил на конференции Google Go North и объяснил, почему так важно привлекать в страну высококвалифицированных иммигрантов.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
«Уэбб» раскрыл тайну центра Млечного Пути: почему там формируется слишком мало звезд
Космос
Рак распространяется как сеть: российские ученые наблюдали в 3D особенности развития опухолей
Наука
Солнечная буря сдавила магнитное поле Юпитера «как гигантский мяч для сквоша»
Космос
Анализ крови определяет стадию болезни Альцгеймера с точностью 92%: это поможет подобрать терапию
Наука
ИИ впервые прошел тест Тьюринга: GPT-4.5 обманул людей в 73% случаев
Новости
В Сколково нашли способ увеличить емкость суперконденсаторов для электромобилей
Наука
ИИ ускорил поиск дефектов трубопроводов в 30 раз
Новости
Под пирамидами Гизы нашли «скрытый город», но с учеными согласны не все
Наука
В Земле нашли «червоточину»: что происходит с литосферой
Наука
Появились новые фото угрожающего Земле астероида
Космос
Российский ИТ-рынок замедляется: почему это происходит и что дальше
Новости
«Яндекс» запустил конкурента Google и ChatGPT: чем отличается и как работает
Новости
Трагедию с Xiaomi на автопилоте начали расследовать в Китае
Новости
Посмотрите, как выглядит самый быстрый пассажирский самолет в мире
Новости
Странная форма материи меняет планеты: как она повлияет на Землю
Космос
Новые фотодиоды в 10 раз чувствительнее аналогов: они пригодятся в медицине
Наука
В России создадут региональный совет по дронам: зачем он нужен
Новости
Государство компенсирует бизнесу 20% затрат на роботов: как работает система
Новости
Разработан маршрутизатор для фотонов: он объединит квантовые компьютеры в единую сеть
Наука
ИИ обнаружил два новых гена, которые влияют на риск ишемического инсульта
Наука