Эксперты: «Нельзя давать ИИ право оценивать благонадежность мигрантов»

В июне Дональд Трамп приказал Иммиграционной и таможенной полиции США разработать план по созданию ИИ-алгоритмов, которые бы выявляли потенциальных нелегалов и террористов еще при первом въезде в страну. Теперь более 50 экспертов и ученых, в том числе из Google, Microsoft, МТИ, Стэнфорда, Spotify, написали открытое письмо, в котором утверждают, что системы машинного обучения не могут принимать подобные решения и будут использованы для дискриминации, пишет Quartz.

Идея заключалась в том, что властям США якобы не хватает данных о потенциальных иммигрантах, и компьютерные алгоритмы помогли бы восполнить этот пробел. В частности, предлагалось анализировать сообщения в социальных сетях. Однако эксперты считают, что машинное обучение не способно объективно оценить потенциального кандидата на въезд в США из-за отсутствия четких критериев «добропорядочного гражданина» и способов измерить степень этой добропорядочности. По их мнению, это то же самое, что использовать ИИ для поиска потенциальных преступников: в итоге алгоритм становится «расистским» и отбирает одних афроамериканцев.

По мнению ИТ-сообщества, машинное обучение, будучи применено к иммигрантам, неизбежно станет опираться на так называемые «прокси» или косвенные признаки, как национальность, количество денег, религия, популярная или редкая работа. Все это ведет к дискриминации.

Однако не все ИТ-компании выступили против решения, дать ИИ право оценивать мигрантов. Некоторые СМИ называли IBM одной из немногих ИТ-корпораций, которая не подписала открытое письмо, так как якобы заинтересована в разработке упомянутого алгоритма для американских властей. Однако глава IBM Вирджиния Рометти объяснила свое участие президентском форуме в июне тем, что в традициях компания работать с любым президентом, независимо от партийной принадлежности. При этом, она заявила, что вышла из президентского совета, посовещавшись с коллегами, так как он больше не выполняет тех задач, ради которых был создан.

Получив гражданство Саудовской Аравии, робот София раскритиковала Маска

Премьер-министр Канады Джастин Трюдо выступил на конференции Google Go North и объяснил, почему так важно привлекать в страну высококвалифицированных иммигрантов.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Управление рисками ИИ в программной инженерии
Мнения
Названы качества идеального партнера: что ценят женщины и мужчины
Новости
Российский алгоритм для анализа белков обогнал зарубежные аналоги по скорости и точности
Новости
России к 2030 году понадобятся миллионы специалистов по ИИ
Новости
Американки массово вшивают «лифчик» прямо в грудь: как работает технология
Новости
Темные фабрики: будущее промышленности без человека
Мнения
Астрономы открыли рекордно далекую от звезды суперземлю
Космос
Датские ученые омолодили стволовые клетки, изменив их «диету»
Наука
Биологи описали стратегии любви у мышей: защищаться или «странствовать»
Наука
Якутские инженеры создали боевого «Скорпиона» для битвы роботов
Новости
Количество DDoS-атак удвоилось в первом квартале 2025 года
Новости
Сдвиг поверхности земли при землетрясении зафиксировали из космоса
Космос
Не так уж жарко: выяснилось, какая погода была на Марсе в прошлом
Космос
Целый океан исчез на Земле: как это изменило историю нашей планеты
Наука
Минцифры запускает эксперимент с ИИ на «Госуслугах»: что он будет делать
Новости
Сжигать жир можно с помощью мыслей: как это работает
Наука
Маркетплейсы превратили шопинг в зависимость: как не потратить свои деньги
Наука
ChatGPT научили материться, как сантехника Валеру из Омска
Новости
Написать научный труд в эпоху нейросетей: как сделать ИИ помощником?
Мнения
Следы «долгожданной» черной дыры нашли в соседней галактике
Космос