Кейсы 6 сентября 2018

Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ

Далее

Развитие искусственного интеллекта и машинного обучения давно затрагивает этические вопросы. Один из них — ксенофобия. Чат-боты от Microsoft быстро обучились у людей расистским высказываниям и оскорблениям, а алгоритмы судебной системы по определению рисков оказались предвзятыми к афроамериканцам. Другая сторона проблемы — замена мигрантов на роботов и автоматизация рабочих процессов. Эти факторы приводят к еще большей напряженности и национальной нетерпимости. «Хайтек» перевел и адаптировал статью Engadget, чтобы разобраться в связи между ИИ и ксенофобией, а также мировых трендах в сфере труда и участия в нем роботов и мигрантов.

Онлайн-расизм и роль ИИ в нем

Поскольку администрация президента США Дональда Трампа продолжает свою жесткую политику в отношении иммиграции, как законной, так и нелегальной, предприятия все чаще обращаются к автоматизации труда. Рабочие места, ранее занимаемые людьми, теперь предоставлены роботам и алгоритмам. Однако и машины имеют свои недостатки. Развитие искусственного интеллекта уже давно связано с проблемами личных убеждений в обучении роботов, если даже не с откровенным расистским и ксенофобским поведением. Это заметно по ботам социальных сетей от Microsoft, например, Tay и Zo, или разработанной системой распознавания лиц Amazon, уже вызвавшей большие вопросы. Но эта взаимосвязь не односторонняя — ИИ влияет на выражение ксенофобных идей так же, как подобные практики — на скорость развития ИИ. Это вызывает резонный вопрос: можем ли мы отделить пользу, которую дает ИИ, от негативных последствий, которые мы уже наблюдаем?

Конечно, связь между развитием ИИ и ксенофобией достаточно сложна. С одной стороны, воздействие его на ксенофобию представляет собой запутанный узел, в котором ИИ можно так же легко повернуть в ту сторону, чтобы идентифицировать и бороться с ксенофобными элементами в интернете. Его можно использовать в благих целях. С другой стороны, ксенофобные отношения (особенно в сочетании со строгими иммиграционными законами в США) влияют на скорость, с которой разрабатываются и запускаются системы ИИ.

Опыт ИИ в борьбе с онлайн-расизмом и ксенофобией можно назвать очень посредственным. Боты Tay и Zo научились у людей писать оскорбительные посты в Facebook и Twitter и награждали бездарных троллей генерацией порнороликов с их участием в качестве мести. В то же время ООН с 2015 года работает над развитием возможностей машинного обучения, которые используются для выявления и анализа ксенофобных твитов во время крупных событий — террористических актов или наплыва беженцев, для оценки глобального отношения к переселенным народам.

БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая

Даже в системе юстиции США системы распознавания лиц по алгоритму «Компас» в Висконсине страдают от предвзятого расистского отношения внутри самой структуры. Это не означает, что каждый ИИ, разработанный для судебной системы, похож на вышеупомянутый случай. Недавно суд ювенальной юстиции округа Монтгомери одолжил IBM Watson, чтобы получить наиболее актуальную информацию о жизни детей и отношениях внутри семей для обеспечения им лучших условий жизни.


IBM Watson — суперкомпьютер фирмы IBM, оснащенный вопросно-ответной системой ИИ. Создан группой исследователей под руководством Дэвида Феруччи. Его создание — часть проекта DeepQA. Основная задача IBM Watson — понимать вопросы, сформулированные на естественном языке, и находить на них ответы в базе данных. Назван в честь первого президента IBM Томаса Уотсона.


Ксенофобия рождает технологические прорывы

В некоторых случаях ИИ можно даже использовать для активного укрепления существующих расистских или ксенофобных догм. Существует, например, прототип «виртуальной пограничной стены», разработанный Anduril Industries — компанией бывшего основателя Oculus Палмера Лаки. Используя различные датчики, камеры и обученных роботов, технология «Решетка», которая управляет виртуальной стеной, определяет и идентифицирует движущиеся объекты на расстоянии. Если этот объект окажется лицом, пересекающим границу США, система предупредит властей. Andruil Industries надеется, что в конечном итоге продаст свои технологии американскому правительству, чтобы помочь Трампу решить проблему с беженцами в США.

«Я могу предположить, что в ближайшие год-два важность проблемы расового предубеждения продолжит расти, — заявил в 2017 году Арвинд Нараянан, доцент компьютерных наук в Принстоне и эксперт по защите данных. — На самом деле изменилось лишь осознание того, что это — не случайное попадание в адрес расовой и гендерной предвзятости. ИИ будет собирать и, возможно, усиливать существующие человеческие предубеждения. Эти проблемы неизбежны».

AI-выборы: как искусственный интеллект и голосовые помощники сделают демократию лучше

В то же время ксенофобия может повлиять на развитие ИИ не только через призму стандартного изучения расистских настроений. Есть вполне резонные опасения, что автоматизированный труд может вытеснить большинство людей с рабочих мест А это приведет к широкомасштабной экономической катастрофе.

«Мы живем в мире, где соприкосновение с ксенофобией или антимиграционной политикой странным образом может привести к технологическим достижениям», — заявил Ильяс Нурбахш, профессор этики и вычислительных технологий Университета Карнеги-Меллона.

Японский подход

В качестве примера он приводит Японию. Островная страна имеет отличные законы в отношении иммиграции, а также строгие экзамены по лицензированию для работы в отраслях здравоохранения и домашнего ухода. Лицензирование включает в себя шестимесячный курс японского языка и культуры, прежде чем претенденты даже ступят на японскую землю. В этой стране стремительно увеличивается средний возраст населения — фактически к 2025 году всем родившимся во времена японского беби-бума, между 1947 и 1949 годами, будет больше 75 лет. В настоящее время в Японии проживает около 1,8 млн квалифицированных медработников. В середине следующего десятилетия стране необходимо будет обучить не менее 385 тыс. новых сотрудников, чтобы охватить всех возрастных пациентов.

Такая комбинация высокого спроса и низкого предложения, как утверждает Нурбахш, должна была теоретически привести к ослаблению требований к лицензированию или увеличить количество разрешений на работу для иностранцев. Вместо этого японцы решили действовать по-другому.

«Чтобы решить эту проблему, они вкладывают сотни миллионов долларов в развитие робототехники», — продолжает Нурбахш.

Из-за ограничительной иммиграционной политики «экономически целесообразно тратить огромные деньги, пытаясь развить роботов, чтобы научить их делать то, с чем прекрасно справляются и живые люди».

«Робот берет вас на работу»: как искусственный интеллект, блокчейн и VR подбирают персонал

«Побочный эффект заключается в том, что сама технология, которую мы развиваем, может фактически отдалить людей друг от друга, так как забота — важнейший компонент социального взаимодействия, — отмечает ученый. — И все мы знаем, что именно живое общение является одним из факторов, повышающих качество жизни пожилых пациентов. К счастью для них, Sony только что выпустила новую версию робота-пса AIBO».


Aibo — с япон. 愛慕 — «любовь», «привязанность», а также — «товарищ». В данном случае аббревиатура англ. Artificial Intelligence RoBOt — серия собак-роботов, разработанная компанией Sony.


Мигранты и экономическая выгода

Аналогичные проблемы сегодня наблюдаются и в США — из-за жесткой позиции нынешней администрации в отношении всех форм иммиграции и ее агрессивной политики депортации, ориентированной на рабочих-мигрантов. Сельскохозяйственные компании вкладывают деньги в автоматизацию производства, чтобы компенсировать потери человеческого труда.

«Сельское хозяйство действительно является отраслью, где наиболее очевидно, что ограничения на иммиграцию приводят к развитию и внедрению механизации, — отмечает доктор Дженнифер Хант, профессор экономики Университета Рутгерса. — Эксперимент Майкла Клеменса и Этана Льюиса показал, что даже окончание программы „Брасеро“ не привело к повышению заработной платы местных сельскохозяйственных рабочих и лишь стало триггером к тому, чтобы прибегнуть к автоматизации труда».


Программа «Брасеро» осуществлялась с 1949 по 1964 годы. В это время в США мексиканские рабочие («брасеро») допускались к тяжелой работе в сельском хозяйстве по контракту.


Даже высококвалифицированные рабочие, находящиеся в США по визам H-1B, не защищены от увольнения в связи с автоматизацией труда, несмотря на пользу, которую они приносят стране.

«Мои исследования показывают, что иммигранты с колледжем или большим уровнем образования подают заявки и получают патенты на осуществление деятельности в два раза быстрее, чем коренные жители, — спорит с этим утверждением Хант. — А значит, дело не в переводе патента на родной язык. Патентование увеличивает экономический прирост в США на душу населения. Получается, что иммигранты улучшают благосостояние всех американцев».