Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Ученые все чаще стали применять искусственный интеллект для социальных экспериментов, однако отсутствие этического кодекса в этой сфере часто приводит к печальным последствиям. Критерии оценки таких исследований устарели, а работа с большими данными в принципе не урегулирована в большинстве стран. Корреспондент WIRED София Чен уверена, что без нового регулятора в сфере ИИ никак не обойтись.

В сентябре исследователи из Стэнфордского университета показали, как нейросеть можно научить отличать гетеросексуалов от гомосексуалов по фото. Для тренировки алгоритма ученые использовали тысячи фотографий с сайтов знакомств. Своим исследованием эксперты хотели показать, какие риски несут современные технологии. По мнению Чен, ученые создали «бомбу, чтобы предупредить людей об опасности бомб».

Инициативу стэнфордских исследователей восприняли совсем не так, как они рассчитывали. ЛГБТ-группы обрушились на них с критикой, ученым на почту стали приходить угрозы, а их разработку прозвали «ИИ-френологией». В результате Американская ассоциация психологов начала проверку исследования на предмет нарушения этики.

Этот случай доказывает необходимость создания этического регулятора в области научных исследований, считает Чен. Особенно это касается социальных наук, нормы регулирования которых устарели и стали далекими от реальности. Если ученые получают финансирование от государства и хотят провести исследование с участием людей, они должны получить одобрение от комитетов по этике, существующих во всех вузах страны. Однако комитеты придерживаются правил, установленных еще 40 лет назад. В первую очередь они направлены на защиту реальных людей, а в случае с базами данных регуляторы на многое закрывают глаза. Именно поэтому проект стэнфордских ученых по опознанию гомосексуалов по фото и получил одобрение этического комитета этого университета.

При работе с большими данными нормы регулирования до сих пор не проработаны. Из-за этого многим исследователям приходится самим устанавливать себе этические ограничения. Но и такая практика может привести к плохим последствиям.

В августе группа ученых совместно с крупными ИТ-компаниями выпустила приложение NamePrism, которое определяет этническую принадлежность по имени с точностью 80%. Данные для исследования собирали из открытых источников в интернете, поэтому получать одобрение комитетов по этике ученым не пришлось.

NamePrism создали для борьбы с дискриминацией и выявления уязвимых групп и меньшинств. Однако с тем же успехом приложение можно использовать для дискриминации.

Разработчики алгоритма постарались учесть возможные последствия и самостоятельно установили ограничения. Так, через NamePrism нельзя пропускать более 1000 имен в час. Для крупномасштабных исследований с использованием программы нужно получать разрешение от ученых, причем частным компаниям создатели программы намерены отказывать.

Эксперт по этике Джейк Меткалф из организации Data & Society считает, что регуляторы недооценивают риски социальных исследований с использованием ИИ. «Это не Скайнет и не Терминатор, так что кажется несерьезным», — говорит он.

О необходимости этического кодекса для исследований с помощью ИИ и разработок самих алгоритмов по аналогии с врачебным и юридическим кодексами эксперты говорят давно. Некоторые предлагают вводить гуманитарные предметы для специалистов по компьютерным технологиям еще на стадии обучения, а также привлекать гуманитариев к процессу разработки нейросетей.

Недавно Apple опубликовала вакансию разработчика голосового помощника Siri с навыками психолога. В объявлении компания отметила, что к Siri часто обращаются за моральной поддержкой, поэтому важно учитывать психологические особенности пользователей при разработке.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Никита Бокарев, ESforce, — о киберспорте, деньгах и том, почему это больше не маргинальное направление
Тренды
Илон Маск и руководители Google Deep Mind отказались от разработки оружия с ИИ
Идеи
Тренды
Ученые обнаружили в земной коре квадриллион тонн алмазов. Извлечь их не удастся
Выставка «David Bowie Is» появится в VR. Теперь Боуи можно не только слушать из дома, но и смотреть!
Тренды
Онкологи смогут диагностировать рак на ранней стадии с помощью проволоки в кровеносных сосудах
Борьба с раком
«Яндекс» будет развивать беспилотный транспорт на дорогах Москвы
Беспилотные автомобили
PwC: Искусственный интеллект уничтожит столько же рабочих мест, сколько и создаст
Роботы
YouTube-депрессия: как создатели популярных каналов боятся потерять подписчиков и разум
Тренды
Aston Martin создал частный самолет с вертикальным взлетом для борьбы с пробками
Идеи
«Ростех» представил камуфляж-хамелеон. Он сам меняет цвет в зависимости от окружающей среды
Идеи
Роскосмос запустит сверхтяжелую ракету-носитель на водородном топливе в 2027 году
Кейсы
Virgin Orbit получила лицензию на запуск своей первой ракеты
Тренды
Тренды
Ученые нашли простой способ производства резонаторов для солнечных батарей
Движения тела помогут обучить новичков управлению дронами
Идеи
CRISPR может вызвать более серьезные повреждения ДНК, чем думали ученые
Идеи
Химики назвали Туринскую плащаницу художественной подделкой
Мнения
Генетики обнаружили элементы, отвечавшие за выход растений на сушу
Идеи
Посмотрите, как победившие в конкурсе живописи RobotArt роботы подражают Ван Гогу
Тренды
Гельмут Райзингер, Orange Business Services, — об IIoT, 5G и телеком-стартапах
Мнения
«Робот берет вас на работу»: как искусственный интеллект, блокчейн и VR подбирают персонал
Мнения
Тренды
Телемедицина, роботы и умные дома: каким через 5 лет будет «оцифрованный» город в России
Мясная революция: как перейти от веганских заменителей к клеточным технологиям и биореакторам
Идеи
AI-выборы: как искусственный интеллект и голосовые помощники сделают демократию лучше
Тренды
Идеи
Тупик для беспилотников: как мечты разработчиков разбиваются о неожиданности на дорогах
Здесь нужен InsurTech: за какими стартапами будущее страхования
Мнения
Вирус лженауки в Google: как поисковые системы распространяют опасные мифы о прививках
Идеи
«Кто-то управляет моим домом»: как жертв домашнего насилия терроризируют с помощью умных устройств
Умный дом
Паскаль Фуа, EPFL, — о ключевых точках, глубоких нейросетях и эпиполярной геометрии
Мнения
20 фильмов о кибербезопасности, взломах и цифровых преступлениях
Тренды
Ян Лекун, Facebook: «Прогностические модели мира — решающее достижение в ИИ»
Мнения
Джианкарло Суччи: «Попытка спроектировать программу без багов — утопия»
Иннополис
Game out: Как видеоигры обучают детей-аутистов держать равновесие и узнавать людей
Тренды
Прослушка, контроль камеры и предсказание смерти пользователя: самые странные патенты Facebook
Кейсы
Цес Снук, QUVA: «Мы не хотим зависеть от крупных компаний, которые владеют всеми данными»
Мнения
Иннополис
Дмитрий Песков, АСИ: «В России традиционно долго запрягают, и в сфере IT мы только этим и занимаемся»
ДНК-тесты: как генетические компании обманывают людей и разрушают семьи
Мнения
Мануэль Маццара: «Для Facebook вы не покупатель, вы — продукт»
Иннополис
Тренды
Блокчейн, искусственное мясо и «смерть» смартфонов: что будет с технологиями через 10 лет
Витторио Феррари, Google: «Чтобы машина распознала книгу о Гарри Поттере нужна сложная математическая модель»
Мнения
7 медицинских технологий, которые скоро придут в российские больницы
Идеи
Руслан Зайдуллин, основатель Doc+, — о том, что делать Минздраву и о проблемах в российской медицине
Мнения
Ричард Вдовьяк, Philips: «В будущем диагностировать заболевания будут не только врачи, но и сами пациенты»
Тренды
Шедевры за биткоины: Как криптовалюта меняет рынок искусства
Блокчейн
Почему «московий» и «оганесон» устроили раскол между физиками и химиками?
Кейсы
Тренды
Сэр Харшад Бадехиа — о бронежилетах будущего, русских математиках и металлургии
«Надежнее золота»: блокчейн в цифрах
Блокчейн
Бас Лансдорп, Mars One: «Моя жена отдала бы все, чтобы не лететь на Марс»
Полет на Марс
Как big data, блокчейн и 3D-печать сделали пищу полезнее
Мнения
Томас Циммерман, IBM, — о том, как остановить конец света, спасая планктон
Тренды