Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Ученые все чаще стали применять искусственный интеллект для социальных экспериментов, однако отсутствие этического кодекса в этой сфере часто приводит к печальным последствиям. Критерии оценки таких исследований устарели, а работа с большими данными в принципе не урегулирована в большинстве стран. Корреспондент WIRED София Чен уверена, что без нового регулятора в сфере ИИ никак не обойтись.

В сентябре исследователи из Стэнфордского университета показали, как нейросеть можно научить отличать гетеросексуалов от гомосексуалов по фото. Для тренировки алгоритма ученые использовали тысячи фотографий с сайтов знакомств. Своим исследованием эксперты хотели показать, какие риски несут современные технологии. По мнению Чен, ученые создали «бомбу, чтобы предупредить людей об опасности бомб».

Инициативу стэнфордских исследователей восприняли совсем не так, как они рассчитывали. ЛГБТ-группы обрушились на них с критикой, ученым на почту стали приходить угрозы, а их разработку прозвали «ИИ-френологией». В результате Американская ассоциация психологов начала проверку исследования на предмет нарушения этики.

Этот случай доказывает необходимость создания этического регулятора в области научных исследований, считает Чен. Особенно это касается социальных наук, нормы регулирования которых устарели и стали далекими от реальности. Если ученые получают финансирование от государства и хотят провести исследование с участием людей, они должны получить одобрение от комитетов по этике, существующих во всех вузах страны. Однако комитеты придерживаются правил, установленных еще 40 лет назад. В первую очередь они направлены на защиту реальных людей, а в случае с базами данных регуляторы на многое закрывают глаза. Именно поэтому проект стэнфордских ученых по опознанию гомосексуалов по фото и получил одобрение этического комитета этого университета.

При работе с большими данными нормы регулирования до сих пор не проработаны. Из-за этого многим исследователям приходится самим устанавливать себе этические ограничения. Но и такая практика может привести к плохим последствиям.

В августе группа ученых совместно с крупными ИТ-компаниями выпустила приложение NamePrism, которое определяет этническую принадлежность по имени с точностью 80%. Данные для исследования собирали из открытых источников в интернете, поэтому получать одобрение комитетов по этике ученым не пришлось.

NamePrism создали для борьбы с дискриминацией и выявления уязвимых групп и меньшинств. Однако с тем же успехом приложение можно использовать для дискриминации.

Разработчики алгоритма постарались учесть возможные последствия и самостоятельно установили ограничения. Так, через NamePrism нельзя пропускать более 1000 имен в час. Для крупномасштабных исследований с использованием программы нужно получать разрешение от ученых, причем частным компаниям создатели программы намерены отказывать.

Эксперт по этике Джейк Меткалф из организации Data & Society считает, что регуляторы недооценивают риски социальных исследований с использованием ИИ. «Это не Скайнет и не Терминатор, так что кажется несерьезным», — говорит он.

О необходимости этического кодекса для исследований с помощью ИИ и разработок самих алгоритмов по аналогии с врачебным и юридическим кодексами эксперты говорят давно. Некоторые предлагают вводить гуманитарные предметы для специалистов по компьютерным технологиям еще на стадии обучения, а также привлекать гуманитариев к процессу разработки нейросетей.

Недавно Apple опубликовала вакансию разработчика голосового помощника Siri с навыками психолога. В объявлении компания отметила, что к Siri часто обращаются за моральной поддержкой, поэтому важно учитывать психологические особенности пользователей при разработке.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

«Настроить системы умного дома уже не сложнее, чем установить Windows»
Умный дом
«WorldSkills — отличный пункт в резюме»
Иннополис
Китайцы с высоким рейтингом смогут арендовать электрокар у Alibaba
Тренды
ИИ-рынок вакансий обещает каждому найти работу
Идеи
Крупнейшие компании помогут IBM коммерциализировать квантовый компьютер
Тренды
Чистый транспорт
В Австралии запустят первый поезд на солнечной энергии
Робот-морская звезда мгновенно адаптируется к неожиданным повреждениям
Робототехника
BAIC прекратит производство автомобилей с ДВС к 2025 году
Тренды
Криптовалюты
«Биткойн провалился как валюта»
Илон Маск: «Общественный транспорт — это полный отстой»
Мнения
ИИ-версия поттерианы: «Гарри отвел глаза от головы и бросил их в лес»
Искусственный интеллект
Во Франции запретят Facebook детям до 16 лет
Социальные сети
В США отменили сетевой нейтралитет
Кейсы
Новая технология Alphabet X подключит к интернету миллионы индийцев
Интернет для всех
Разработан устойчивый электровелосипед для пожилых
Транспорт будущего
Биотех-стартап Ginkgo Bioworks стал «единорогом»
Биотехнологии
В Китае с поддельной едой будут бороться с помощью блокчейна
Блокчейн
Daimler начал поставки городских электрогрузовиков в Европе
Тренды
Дания использует криптовалюту для помощи развивающимся странам
Блокчейн
Эндрю Ын займется внедрением ИИ на фабриках
Искусственный интеллект
Распознавание лиц
Китайские камеры слежения засекли журналиста ВВС за 7 мин
Thor Trucks — новый конкурент электрогрузовика Tesla Semi
Электротранспорт
К 2021 году самолеты на 75% будут состоять из напечатанных деталей
Кейсы
«Биологические часы» помогут подобрать персональное лечение
Медицина будущего
Создан микрочип, который почти невозможно взломать или разрушить
Кибербезопасность
Кейсы
Российские инженеры напечатали компактный двигатель для дронов
В Нью-Йорке создадут первую в мире цифровую систему энергоснабжения
Идеи
«Батареи для электрокаров перестанут дешеветь после 2020 года»
Электромобили
Сотрудники Tesla: «90% автомобилей Model S и Model X выходят с дефектами»
Мнения
В России учет алкоголя переводят на блокчейн
Тренды
Термоядерный синтез
«Реактор на основе водорода и бора будет готов в течение 10 лет»
Китай собирает ДНК граждан под видом бесплатной меддиагностики
Тренды
Стартап ObEN создает реалистичных 3D-аватаров
Кейсы
Робототехника вызвала бум электродвигателей
Робототехника
«До Скайнета еще далеко, но все же лучше к нему подготовиться»
Мнения
Идеи
Светящиеся растения заменят фонари и светильники
Вертикальные фермы Local Roots обещают прокормить космонавтов
Еда будущего
Ученые из МГУ разработали и протестировали квантовый телефон
Квантовые технологии
Солнечная энергетика в США заменит 10 ГВт газовых электростанций
Тренды
Toyota и Panasonic объединились для разработки батарей для EV
Аккумуляторы
Создан новый тип вентиля для квантового компьютера
Квантовые технологии
Технологию автономных имплантов подсмотрели у электрических угрей
Импланты
Aurora передала военным систему автопилота для вертолетов
Беспилотная авиация
Блокчейн
Криптокотята на блокчейне выгоднее, чем пенсионные накопления
«ИИ разрушает нашу свободу воли»
Искусственный интеллект
Южная Корея запретит банкам проводить операции с криптовалютами
Блокчейн
Китай собирается создать в стране 290 «умных городов»
Умные города
Криптомания привела к рекордному росту эфира и лайткойна
Криптовалюты
ЗОЖ предотвращает смертность раковых больных на 40%
Борьба с раком