Эксперт Microsoft: «ИИ может стать настоящей мечтой для фашистов»

По мере развития искусственный интеллект становится все более доступным инструментом для авторитарных режимов, которые с помощью технологий могут притеснять определенные группы граждан. Об этом рассказала исследовательница Microsoft Research Кейт Кроуфорд на фестивале SXSW.

Расцвет искусственного интеллекта пришелся на период расцвета ультранационализма, правого авторитаризма и фашизма, отметила Кроуфорд во время своей презентации «Темные дни: ИИ и подъем фашизма». Исследовательница подчеркнула, что для таких режимов характерна централизация власти, слежка за населением, демонизация чужаков и претензия на авторитет и нейтралитет. Машинное обучение помогает политикам добиваться поставленных целей.

Искусственный интеллект не может считаться нейтральным до тех пор, пока разработчики закладывают в него свои предрассудки. Кроуфорд привела в пример алгоритм, разработанный китайскими учеными, который якобы непредвзято определяет преступников по чертам лица. «Нужно с подозрением относиться к любым системам на базе машинного обучения, которые позиционируются как непредвзятые, но при этом основываются на данных, сгенерированных людьми», — цитирует эксперта The Guardian.

Китайский алгоритм, как оказалось, относил к преступникам обладателей нетипичных черт лица. По мнению Кроуфорд, это пугающая тенденция, которая напоминает о том, как в прошлом френологию использовали для оправдания рабовладения и преследования евреев.

Робот-креативный директор представил свой первый рекламный ролик

Другой пример алгоритма-дискриминатора — это платформа Faceception, которая определяет характер по внешности. Разработчики системы не скрывают, что программа считает людей с ближневосточной внешностью и бородой террористами.

Инструментом дискриминации становятся не только алгоритмы, но и реестры, которые и раньше использовались для преследования представителей различных национальностей. Реестр мусульман предлагал создать президент США Дональд Трамп. «Ничего создавать не надо — Facebook уже стал мусульманским реестром», — заметила Кроуфорд. Исследования показывают, что соцсеть определяет религиозные взгляды человека по его лайкам с точностью 82%.

Системы прогнозирования преступлений также не лишены предрассудков. Они не снижают уровень преступности, но чаще преследуют тех, кто живет в опасных районах.

Об использовании алгоритмов в политических целях говорят все чаще. Через несколько лет, по прогнозам исследовательницы, политики без особых усилий смогут управлять взглядами электората. «Это мечта фашиста. Власть без какого-либо контроля», — отметила Кроуфорд.

Мясо из пробирки подешевело в 30 000 раз за 4 года

Представительница Microsoft Research создала сообщество AI Now, которое будет бороться за прозрачность и отчетность алгоритмов на базе ИИ. К этому призывает не только Кейт Кроуфорд, но британский учёный и создатель Всемирной паутины Тим Бернерс-Ли. Он считает, что люди должны вернуть себе контроль над данными и не давать доступ к личной информации правительству, которое ограничивает свободу слова своих граждан.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Тайны древней звезды по соседству изучили, «подслушав ее песню»
Космос
Baidu делает ИИ для перевода звуков животных в человеческую речь
Наука
Оказалось, ИИ врет чаще при одном условии: как этого избежать
Новости
Суперкомпьютер Маска сжирает электричество как 300 000 домов: люди протестуют
Новости
Посмотрите, как робот стремительно отбивает подачи в настольном теннисе
Новости
Физики исполнили мечту алхимиков: свинец в коллайдере превратили в золото
Наука
Создано музыкальное приложение для реабилитации после инсульта
Наука
«Эффект аккордеона» превращает жесткий графен в эластичный материал
Наука
ИИ восстановил имя автора свитка, который пережил последний день Помпеи
Наука
Частный лунный модуль вышел на орбиту спутника после двух месяцев полета
Космос
Предок тираннозавра «иммигрировал» в Америку из Азии, считают ученые
Наука
Обновленный Gemini 2.5 Pro от Google возглавил рейтинг ИИ для разработчиков
Новости
Ученые решили проблему, которая мешала запуску термоядерных реакторов почти 70 лет
Наука
Китайское «супероружие» для подводных диверсий оказалось не таким, как считалось
Новости
Отключение мобильного интернета в Москве: какие последствия для бизнеса
Новости
Киберполиция назвала новые схемы мошенников: как они воруют аккаунты на «Госуслугах»
Новости
Хокинг предсказал гибель Земли: оказалось, НАСА сочло угрозу реальной
Наука
Создатель Ethereum признал свои ошибки и решил изменить криптовалюту
Новости
«Ред ОС 8» заработала на Arm-платформах — теперь и на «Байкале»
Новости
Компания Цукерберга использовала уязвимость подростков для рекламы
Новости