Сообщить об ошибке на сайте
URL
Ошибка
Мнения

По мере развития искусственный интеллект становится все более доступным инструментом для авторитарных режимов, которые с помощью технологий могут притеснять определенные группы граждан. Об этом рассказала исследовательница Microsoft Research Кейт Кроуфорд на фестивале SXSW.

Расцвет искусственного интеллекта пришелся на период расцвета ультранационализма, правого авторитаризма и фашизма, отметила Кроуфорд во время своей презентации «Темные дни: ИИ и подъем фашизма». Исследовательница подчеркнула, что для таких режимов характерна централизация власти, слежка за населением, демонизация чужаков и претензия на авторитет и нейтралитет. Машинное обучение помогает политикам добиваться поставленных целей.

Искусственный интеллект не может считаться нейтральным до тех пор, пока разработчики закладывают в него свои предрассудки. Кроуфорд привела в пример алгоритм, разработанный китайскими учеными, который якобы непредвзято определяет преступников по чертам лица. «Нужно с подозрением относиться к любым системам на базе машинного обучения, которые позиционируются как непредвзятые, но при этом основываются на данных, сгенерированных людьми», — цитирует эксперта The Guardian.

Китайский алгоритм, как оказалось, относил к преступникам обладателей нетипичных черт лица. По мнению Кроуфорд, это пугающая тенденция, которая напоминает о том, как в прошлом френологию использовали для оправдания рабовладения и преследования евреев.

Другой пример алгоритма-дискриминатора — это платформа Faceception, которая определяет характер по внешности. Разработчики системы не скрывают, что программа считает людей с ближневосточной внешностью и бородой террористами.

Инструментом дискриминации становятся не только алгоритмы, но и реестры, которые и раньше использовались для преследования представителей различных национальностей. Реестр мусульман предлагал создать президент США Дональд Трамп. «Ничего создавать не надо — Facebook уже стал мусульманским реестром», — заметила Кроуфорд. Исследования показывают, что соцсеть определяет религиозные взгляды человека по его лайкам с точностью 82%.

Системы прогнозирования преступлений также не лишены предрассудков. Они не снижают уровень преступности, но чаще преследуют тех, кто живет в опасных районах.

Об использовании алгоритмов в политических целях говорят все чаще. Через несколько лет, по прогнозам исследовательницы, политики без особых усилий смогут управлять взглядами электората. «Это мечта фашиста. Власть без какого-либо контроля», — отметила Кроуфорд.

Представительница Microsoft Research создала сообщество AI Now, которое будет бороться за прозрачность и отчетность алгоритмов на базе ИИ. К этому призывает не только Кейт Кроуфорд, но британский учёный и создатель Всемирной паутины Тим Бернерс-Ли. Он считает, что люди должны вернуть себе контроль над данными и не давать доступ к личной информации правительству, которое ограничивает свободу слова своих граждан.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

ИИ может испортить карьеру юристам и адвокатам
Автоматизация
Разработан анализ крови, выявляющий 2 типа рака
Борьба с раком
Интернет для всех
Возняк и Серф конгрессменам: «Вы не понимаете, как работает Интернет»
Blue Origin осуществит первый коммерческий запуск в 2018 году
Кейсы
«У Amazon или Facebook в 2018 году появится свой банк»
Прогнозы
Германский автопром не сможет перейти на выпуск только электромобилей
Электромобили
Ford в 2021 году представит беспилотный гибрид
Кейсы
«Биткойн — это свидетельство недоверия к существующей системе»
Блокчейн
IBM выложила в сеть код для разработки ИИ-приложений
Искусственный интеллект
Квантовые технологии
Выполнено ключевое условие для создания квантового интернета
Напечатанные микроволокна помогут выращивать органы
Медицина будущего
Венгерский разработчик беспилотных систем готов бросить вызов Waymo
Беспилотники
Indiegogo поможет проводить ICO
ICO
Всемирный банк прекратит инвестиции в нефть и газ после 2019 года
Тренды
«Пример Китая показывает, что миру не нужна Кремниевая долина»
Мнения
«Я был не прав, когда продал свой биткойн за $140»
Криптовалюты
Российские ученые предложили заменитель золота для оптоэлектроники
Электроника
Synaptics представила бескнопочный аналог Touch ID
Тренды
«Только лень и незнание английского мешают развиваться профессионалу»
Иннополис
В США будут сажать за управление дроном в состоянии опьянения
Дроны в законе
Тренды
В мире строится 26 мегафабрик по производству аккумуляторов
Новый биопринтер печатает клетки для пересадки больным диабетом
Биотехнологии
Павел Дуров заработал $35 млн на биткойнах
Криптовалюты
Монополии Tesla на рынке солнечной кровли приходит конец
Идеи
Google Home научилась синхронизировать устройства умного дома
Умный дом
Искусственный интеллект
Ученые заглянули в «сознание» нейросети
Crispr применят для лечения наследственых заболеваний
Идеи
Чили становится центром дешевой возобновляемой энергетики
Тренды
Британские спецслужбы оценят риски биткойна
Блокчейн
Китайцы научились обходить запрет на торговлю биткойнами
Блокчейн
ИИ выведет систему образования из кризиса
Тренды
Создана новая технология 3D-печати более прочной и пластичной стали
3D-технологии
Блокчейн
«Люди берут кредиты, чтобы купить биткойны»
Готовимся к ICO. Инструкция, часть 2
ICO
Немецкие ученые разработали стабильный квантовый вентиль из кремния
Квантовые компьютеры
В МТИ разработали прибор, который избавит пациентов от уколов
Медицина будущего
Доказана эффективность лечения рака генно-модифицированными клетками
Борьба с раком
Мнения
Бывший вице-президент Facebook: «Соцсети разобщают людей»
2D-игры помогут выявить опасные наклонности алгоритмов
Идеи
Новый бионический протез управляет каждым пальцем по отдельности
Медицина будущего
Microsoft выпустила язык квантового программирования Q#
Квантовые компьютеры
Первая VTOL-гонка пройдет в 2019 году в австралийской пустыне
Летающие автомобили
Deloitte предсказывает рост киберспорта, цифровых транзакций и AR
Прогнозы
Искусственная ДНК помогает бороться с неизлечимым заболеванием
Биотехнологии
Россия выступила против добычи ископаемых на астероидах
Тренды
Новая стратегия уничтожения бактерий, вызывающих хронические инфекции
Медицина будущего
Электроника
Открыт новый метод получения электричества
Шесть областей, в которых люди уже проиграли ИИ
Обучение машин
В Иннополисе стартовал первый чемпионат DigitalSkills
WorldSkills