В июне Дональд Трамп приказал Иммиграционной и таможенной полиции США разработать план по созданию ИИ-алгоритмов, которые бы выявляли потенциальных нелегалов и террористов еще при первом въезде в страну. Теперь более 50 экспертов и ученых, в том числе из Google, Microsoft, МТИ, Стэнфорда, Spotify, написали открытое письмо, в котором утверждают, что системы машинного обучения не могут принимать подобные решения и будут использованы для дискриминации, пишет Quartz.
Идея заключалась в том, что властям США якобы не хватает данных о потенциальных иммигрантах, и компьютерные алгоритмы помогли бы восполнить этот пробел. В частности, предлагалось анализировать сообщения в социальных сетях. Однако эксперты считают, что машинное обучение не способно объективно оценить потенциального кандидата на въезд в США из-за отсутствия четких критериев «добропорядочного гражданина» и способов измерить степень этой добропорядочности. По их мнению, это то же самое, что использовать ИИ для поиска потенциальных преступников: в итоге алгоритм становится «расистским» и отбирает одних афроамериканцев.
По мнению ИТ-сообщества, машинное обучение, будучи применено к иммигрантам, неизбежно станет опираться на так называемые «прокси» или косвенные признаки, как национальность, количество денег, религия, популярная или редкая работа. Все это ведет к дискриминации.
Однако не все ИТ-компании выступили против решения, дать ИИ право оценивать мигрантов. Некоторые СМИ называли IBM одной из немногих ИТ-корпораций, которая не подписала открытое письмо, так как якобы заинтересована в разработке упомянутого алгоритма для американских властей. Однако глава IBM Вирджиния Рометти объяснила свое участие президентском форуме в июне тем, что в традициях компания работать с любым президентом, независимо от партийной принадлежности. При этом, она заявила, что вышла из президентского совета, посовещавшись с коллегами, так как он больше не выполняет тех задач, ради которых был создан.
Получив гражданство Саудовской Аравии, робот София раскритиковала Маска
Кейсы
Премьер-министр Канады Джастин Трюдо выступил на конференции Google Go North и объяснил, почему так важно привлекать в страну высококвалифицированных иммигрантов.