Сообщить об ошибке на сайте
URL
Ошибка
Тренды

Развитие искусственного интеллекта и машинного обучения давно затрагивает этические вопросы. Один из них — ксенофобия. Чат-боты от Microsoft быстро обучились у людей расистским высказываниям и оскорблениям, а алгоритмы судебной системы по определению рисков оказались предвзятыми к афроамериканцам. Другая сторона проблемы — замена мигрантов на роботов и автоматизация рабочих процессов. Эти факторы приводят к еще большей напряженности и национальной нетерпимости. «Хайтек» перевел и адаптировал статью Engadget, чтобы разобраться в связи между ИИ и ксенофобией, а также мировых трендах в сфере труда и участия в нем роботов и мигрантов.

Онлайн-расизм и роль ИИ в нем

Поскольку администрация президента США Дональда Трампа продолжает свою жесткую политику в отношении иммиграции, как законной, так и нелегальной, предприятия все чаще обращаются к автоматизации труда. Рабочие места, ранее занимаемые людьми, теперь предоставлены роботам и алгоритмам. Однако и машины имеют свои недостатки. Развитие искусственного интеллекта уже давно связано с проблемами личных убеждений в обучении роботов, если даже не с откровенным расистским и ксенофобским поведением. Это заметно по ботам социальных сетей от Microsoft, например, Tay и Zo, или разработанной системой распознавания лиц Amazon, уже вызвавшей большие вопросы. Но эта взаимосвязь не односторонняя — ИИ влияет на выражение ксенофобных идей так же, как подобные практики — на скорость развития ИИ. Это вызывает резонный вопрос: можем ли мы отделить пользу, которую дает ИИ, от негативных последствий, которые мы уже наблюдаем?

Конечно, связь между развитием ИИ и ксенофобией достаточно сложна. С одной стороны, воздействие его на ксенофобию представляет собой запутанный узел, в котором ИИ можно так же легко повернуть в ту сторону, чтобы идентифицировать и бороться с ксенофобными элементами в интернете. Его можно использовать в благих целях. С другой стороны, ксенофобные отношения (особенно в сочетании со строгими иммиграционными законами в США) влияют на скорость, с которой разрабатываются и запускаются системы ИИ.

Опыт ИИ в борьбе с онлайн-расизмом и ксенофобией можно назвать очень посредственным. Боты Tay и Zo научились у людей писать оскорбительные посты в Facebook и Twitter и награждали бездарных троллей генерацией порнороликов с их участием в качестве мести. В то же время ООН с 2015 года работает над развитием возможностей машинного обучения, которые используются для выявления и анализа ксенофобных твитов во время крупных событий — террористических актов или наплыва беженцев, для оценки глобального отношения к переселенным народам.

Даже в системе юстиции США системы распознавания лиц по алгоритму «Компас» в Висконсине страдают от предвзятого расистского отношения внутри самой структуры. Это не означает, что каждый ИИ, разработанный для судебной системы, похож на вышеупомянутый случай. Недавно суд ювенальной юстиции округа Монтгомери одолжил IBM Watson, чтобы получить наиболее актуальную информацию о жизни детей и отношениях внутри семей для обеспечения им лучших условий жизни.


IBM Watson — суперкомпьютер фирмы IBM, оснащенный вопросно-ответной системой ИИ. Создан группой исследователей под руководством Дэвида Феруччи. Его создание — часть проекта DeepQA. Основная задача IBM Watson — понимать вопросы, сформулированные на естественном языке, и находить на них ответы в базе данных. Назван в честь первого президента IBM Томаса Уотсона.


Ксенофобия рождает технологические прорывы

В некоторых случаях ИИ можно даже использовать для активного укрепления существующих расистских или ксенофобных догм. Существует, например, прототип «виртуальной пограничной стены», разработанный Anduril Industries — компанией бывшего основателя Oculus Палмера Лаки. Используя различные датчики, камеры и обученных роботов, технология «Решетка», которая управляет виртуальной стеной, определяет и идентифицирует движущиеся объекты на расстоянии. Если этот объект окажется лицом, пересекающим границу США, система предупредит властей. Andruil Industries надеется, что в конечном итоге продаст свои технологии американскому правительству, чтобы помочь Трампу решить проблему с беженцами в США.

«Я могу предположить, что в ближайшие год-два важность проблемы расового предубеждения продолжит расти, — заявил в 2017 году Арвинд Нараянан, доцент компьютерных наук в Принстоне и эксперт по защите данных. — На самом деле изменилось лишь осознание того, что это — не случайное попадание в адрес расовой и гендерной предвзятости. ИИ будет собирать и, возможно, усиливать существующие человеческие предубеждения. Эти проблемы неизбежны».

В то же время ксенофобия может повлиять на развитие ИИ не только через призму стандартного изучения расистских настроений. Есть вполне резонные опасения, что автоматизированный труд может вытеснить большинство людей с рабочих мест А это приведет к широкомасштабной экономической катастрофе.

«Мы живем в мире, где соприкосновение с ксенофобией или антимиграционной политикой странным образом может привести к технологическим достижениям», — заявил Ильяс Нурбахш, профессор этики и вычислительных технологий Университета Карнеги-Меллона.

Японский подход

В качестве примера он приводит Японию. Островная страна имеет отличные законы в отношении иммиграции, а также строгие экзамены по лицензированию для работы в отраслях здравоохранения и домашнего ухода. Лицензирование включает в себя шестимесячный курс японского языка и культуры, прежде чем претенденты даже ступят на японскую землю. В этой стране стремительно увеличивается средний возраст населения — фактически к 2025 году всем родившимся во времена японского беби-бума, между 1947 и 1949 годами, будет больше 75 лет. В настоящее время в Японии проживает около 1,8 млн квалифицированных медработников. В середине следующего десятилетия стране необходимо будет обучить не менее 385 тыс. новых сотрудников, чтобы охватить всех возрастных пациентов.

Такая комбинация высокого спроса и низкого предложения, как утверждает Нурбахш, должна была теоретически привести к ослаблению требований к лицензированию или увеличить количество разрешений на работу для иностранцев. Вместо этого японцы решили действовать по-другому.

«Чтобы решить эту проблему, они вкладывают сотни миллионов долларов в развитие робототехники», — продолжает Нурбахш.

Из-за ограничительной иммиграционной политики «экономически целесообразно тратить огромные деньги, пытаясь развить роботов, чтобы научить их делать то, с чем прекрасно справляются и живые люди».

«Побочный эффект заключается в том, что сама технология, которую мы развиваем, может фактически отдалить людей друг от друга, так как забота — важнейший компонент социального взаимодействия, — отмечает ученый. — И все мы знаем, что именно живое общение является одним из факторов, повышающих качество жизни пожилых пациентов. К счастью для них, Sony только что выпустила новую версию робота-пса AIBO».


Aibo — с япон. 愛慕 — «любовь», «привязанность», а также — «товарищ». В данном случае аббревиатура англ. Artificial Intelligence RoBOt — серия собак-роботов, разработанная компанией Sony.


Мигранты и экономическая выгода

Аналогичные проблемы сегодня наблюдаются и в США — из-за жесткой позиции нынешней администрации в отношении всех форм иммиграции и ее агрессивной политики депортации, ориентированной на рабочих-мигрантов. Сельскохозяйственные компании вкладывают деньги в автоматизацию производства, чтобы компенсировать потери человеческого труда.

«Сельское хозяйство действительно является отраслью, где наиболее очевидно, что ограничения на иммиграцию приводят к развитию и внедрению механизации, — отмечает доктор Дженнифер Хант, профессор экономики Университета Рутгерса. — Эксперимент Майкла Клеменса и Этана Льюиса показал, что даже окончание программы „Брасеро“ не привело к повышению заработной платы местных сельскохозяйственных рабочих и лишь стало триггером к тому, чтобы прибегнуть к автоматизации труда».


Программа «Брасеро» осуществлялась с 1949 по 1964 годы. В это время в США мексиканские рабочие («брасеро») допускались к тяжелой работе в сельском хозяйстве по контракту.


Даже высококвалифицированные рабочие, находящиеся в США по визам H-1B, не защищены от увольнения в связи с автоматизацией труда, несмотря на пользу, которую они приносят стране.

«Мои исследования показывают, что иммигранты с колледжем или большим уровнем образования подают заявки и получают патенты на осуществление деятельности в два раза быстрее, чем коренные жители, — спорит с этим утверждением Хант. — А значит, дело не в переводе патента на родной язык. Патентование увеличивает экономический прирост в США на душу населения. Получается, что иммигранты улучшают благосостояние всех американцев».

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Как через 20 лет будет выглядеть армия будущего
Тренды
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
Идеи
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Кейсы
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды
БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая
Мнения
Артем Геллер, lab.ag: делая сервис для государства, ты помогаешь своей бабушке
Мнения
Акселераторы и инкубаторы: что выбрать стартапу на раннем этапе развития
Мнения
Вопрос доверия: как и почему изменилось отношение к телемедицине в России
Тренды
Правительственные криптопесочницы: как освободить финтех от давления закона и защитить потребителей
Тренды
Кейсы
Роман Нестер, Segmento: я верю корпорациям больше, чем маленьким компаниям
Суперагенты в недвижимости: как блокчейн и большие данные заменяют риелторов
Тренды
СМИ будущего: вертикальные видео, новости по запросу и смерть сайтов
Тренды
Тренды
Колонизация отменяется: почему терраформирование невозможно на Марсе
Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
Мнения
Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
Тренды
Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
Мнения
Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн
Иннополис
Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
Тренды
Trade-to-Mine: как биржи привлекают трейдеров в условиях падения рынка
Блокчейн