Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Ученые все чаще стали применять искусственный интеллект для социальных экспериментов, однако отсутствие этического кодекса в этой сфере часто приводит к печальным последствиям. Критерии оценки таких исследований устарели, а работа с большими данными в принципе не урегулирована в большинстве стран. Корреспондент WIRED София Чен уверена, что без нового регулятора в сфере ИИ никак не обойтись.

В сентябре исследователи из Стэнфордского университета показали, как нейросеть можно научить отличать гетеросексуалов от гомосексуалов по фото. Для тренировки алгоритма ученые использовали тысячи фотографий с сайтов знакомств. Своим исследованием эксперты хотели показать, какие риски несут современные технологии. По мнению Чен, ученые создали «бомбу, чтобы предупредить людей об опасности бомб».

Инициативу стэнфордских исследователей восприняли совсем не так, как они рассчитывали. ЛГБТ-группы обрушились на них с критикой, ученым на почту стали приходить угрозы, а их разработку прозвали «ИИ-френологией». В результате Американская ассоциация психологов начала проверку исследования на предмет нарушения этики.

Этот случай доказывает необходимость создания этического регулятора в области научных исследований, считает Чен. Особенно это касается социальных наук, нормы регулирования которых устарели и стали далекими от реальности. Если ученые получают финансирование от государства и хотят провести исследование с участием людей, они должны получить одобрение от комитетов по этике, существующих во всех вузах страны. Однако комитеты придерживаются правил, установленных еще 40 лет назад. В первую очередь они направлены на защиту реальных людей, а в случае с базами данных регуляторы на многое закрывают глаза. Именно поэтому проект стэнфордских ученых по опознанию гомосексуалов по фото и получил одобрение этического комитета этого университета.

При работе с большими данными нормы регулирования до сих пор не проработаны. Из-за этого многим исследователям приходится самим устанавливать себе этические ограничения. Но и такая практика может привести к плохим последствиям.

В августе группа ученых совместно с крупными ИТ-компаниями выпустила приложение NamePrism, которое определяет этническую принадлежность по имени с точностью 80%. Данные для исследования собирали из открытых источников в интернете, поэтому получать одобрение комитетов по этике ученым не пришлось.

NamePrism создали для борьбы с дискриминацией и выявления уязвимых групп и меньшинств. Однако с тем же успехом приложение можно использовать для дискриминации.

Разработчики алгоритма постарались учесть возможные последствия и самостоятельно установили ограничения. Так, через NamePrism нельзя пропускать более 1000 имен в час. Для крупномасштабных исследований с использованием программы нужно получать разрешение от ученых, причем частным компаниям создатели программы намерены отказывать.

Эксперт по этике Джейк Меткалф из организации Data & Society считает, что регуляторы недооценивают риски социальных исследований с использованием ИИ. «Это не Скайнет и не Терминатор, так что кажется несерьезным», — говорит он.

О необходимости этического кодекса для исследований с помощью ИИ и разработок самих алгоритмов по аналогии с врачебным и юридическим кодексами эксперты говорят давно. Некоторые предлагают вводить гуманитарные предметы для специалистов по компьютерным технологиям еще на стадии обучения, а также привлекать гуманитариев к процессу разработки нейросетей.

Недавно Apple опубликовала вакансию разработчика голосового помощника Siri с навыками психолога. В объявлении компания отметила, что к Siri часто обращаются за моральной поддержкой, поэтому важно учитывать психологические особенности пользователей при разработке.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Intel разработала математическую формулу безопасности робомобилей
Идеи
Компания GCL начала продажи модульных солнечных электростанций
Солнечная энергетика
Разработана самая мощная биологическая солнечная ячейка
Биотехнологии
Созданы светодиоды толщиной два атома
Оптика
Строительная 3D-печать
В Голландии открылся первый в мире 3D-напечатанный мост
Казахстан может ввести национальную криптовалюту раньше России
Тренды
В разработку робомобилей инвестировано уже $80 млрд
Беспилотные автомобили
На орбите Луны появится надувная космическая станция
Миссия на Луну
Ученые поняли, как организм сам способен подавлять онкологию
Борьба с раком
Alibaba инвестировала $40 млн в ДНК-стартап Prenetics
Генетика
GM испытает беспилотные автомобили в Нью-Йорке
Беспилотные автомобили
Google построит «умный» район в Торонто
Тренды
Профессиональные навыки — новая валюта для экономического роста
Тренды
Электромобили
Volvo показала экстерьер заряженного гибрида под брендом Polestar
Samsung завершила разработку 8-нм техпроцесса
Микроэлектроника
Трекер от Samsung поможет не потерять ключи или собаку
Идеи
Саудовская Аравия будет получать энергию ветра от воздушных змеев
Чистая энергия
ИИ может преобразить HR
Искусственный интеллект
Компании Evrythng и Zappar объединят возможности IoT и AR
Идеи
В США испытывают технологию превращения энергии в метан
Хранение энергии
Электромобили
Главные мифы об электромобилях
Роботы стремительно превращаются в коботов
Робототехника
Дыра в протоколе Wi-Fi угрожает безопасности миллионов устройств
Кибербезопасность
Будущее «умной» кухни на Smart Kitchen Summit
Умный дом
Около половины британских компаний перейдет в облако к началу 2018
Облачные технологии
ИИ-приложение составит ДНК-портрет еще не родившегося ребенка
Генетические данные
«Технология CRISPR позволит избежать голода в будущем»
Сельское хозяйство
Криптовалюты
Бывший глава ФРС Бен Бернанке: «Курс биткойна рухнет»
Искусственная поджелудочная с помощью ИИ борется с диабетом
Медицина будущего
В Британии запустят крупнейшую фабрику хранения энергии
Хранение энергии
Google X начала тестировать доставку еды и медикаментов в Австралии
Дроны-курьеры
В МТИ нашли способ снизить стоимость опреснения воды
Чистая вода
Общественное питание
Кимбал Маск: «Производство еды ожидают беспрецедентные инновации»
Verizon запустит первую коммерческую сеть 5G в 2019 году
Переход на 5G
Британия планирует стать лидером в ИИ
Искусственный интеллект
Технологии оказали самое большое влияние на жизнь граждан США
Мнения
Южная Корея обложит криптовалюты налогами
Тренды
Фермы в контейнерах защитят урожай от ураганов
Агроинновации
JPMorgan создаст платежную сеть на блокчейне
Блокчейн
Транспорт будущего
В Пекине запускают первую маглев-линию
Toyota выпустит говорящие и чувствующие беспилотники к 2020 году
Беспилотные автомобили
«В первую очередь, мы изучали компетенции будущего Future Skills»
Кейсы
Соцсети блокируют реальность
Тренды
IoT совершит революцию в сельском хозяйстве
Интернет вещей
На майнинг одного биткойна уходит энергии, как на целый дом за месяц
Криптовалюты
Iron Ox «изобретает» автоматизированное сельское хозяйство
Еда будущего
6 сценариев техноапокалипсиса
Мнения
ИИ от Google превзошел людей в обучении ИИ
Идеи
Космические планы
Ионный двигатель NASA доставит человека на Марс за две недели