Более сотни экспертов по ИИ и этике вступили в открытую дискуссию о вопросах нравственности в обучении машинного интеллекта. Институт IEEE опубликовал первый вариант отчета и интересуется мнением общественности.
Документ «Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems (AI/AS)» был составлен комитетами Всемирной инициативы по вопросам этики в ИИ и автономных системах, в которые входят ведущие специалисты по искусственному интеллекту, этике и родственным дисциплинам.
После публикации первого варианта документа Институт IEEE приглашает общественность высказать свое мнение. «Мы хотим убедиться, что эти технологии ориентированы на людей, на наши нравственные ценные и этические принципы, — говорится в статье. — ИИ и автономные системы должны действовать на благо человека, помимо достижений практических целей и выполнения технических задач».
Документ разделен на 8 параграфов, каждый из которых разработан отдельным комитетом Инициативы, но вначале перечисляются главные принципы, которые должны применяться ко всем видам ИИ и автономных систем. К ним относятся «благо людей» (гарантия того, что ИИ не будет ущемлять права человека), ответственность, прозрачность, образование и осознанность.
Разработана технология создания дешевых солнечных элементов
Идеи
Второй параграф разбирает вопросы ценностей, которые перенимает ИИ, и проблемы, с этим связанные. Например, тот факт, что ценности не всегда бывают универсальными, и что автономные системы могут стать ареной противоречащих друг другу ценностей.
Затем в документе рассматриваются методология этических исследований, вопросы безопасности и преимуществ «суперинтеллекта», фундаментальной потребности людей собирать и управлять информацией о себе, необходимых мер по контролю за автономными системами вооружения, проблемы экономики и трудоустройства в век ИИ и роль законодательства в деле надзора за ИИ.
Институт IEEE будет собирать отзывы до 6 марта 2017, сообщает ZDNet.
Экстази может стать лекарством
Кейсы
Осенью этого года гиганты ИТ сформировали некоммерческую организацию — «Партнерство в области искусственного интеллекта на благо людей и общества». В ее состав вошли Amazon, Google (включая DeepMind), Facebook, IBM и Microsoft. Она будет направлять достижения ИИ на благо человечества.