Группа филантропов и специалистов в области ИТ сформировала фонд, призванный привнести в процесс разработки искусственного интеллекта вопросы морали и общечеловеческих ценностей.
Средства фонда The Ethics and Governance of Artificial Intelligence Fund пойдут на исследование принципов создания систем ИИ, которые принимают решения в сферах образования, транспорта и уголовного судопроизводства, для того чтобы убедиться в прозрачности и справедливости их действий. Другой важной задачей является поиск общего языка между обществом и разработчиками ИИ. Люди должны понять, как работает искусственный интеллект во всей его сложности.
Фонд, под управлением которого сейчас находится $27 млн, станет работать с образовательными организациями, такими как медиа-лаборатория МТИ и Центр Беркмана Кляйна при Гарвардском университете.
«Нам критически важно понять, как обеспечить такое обучение машин, чтобы они не восприняли и не усилили те же предубеждения, которые распространились в человеческом обществе», — заявил Джой Ито, директор MIT Media Lab.
Предложен простой способ обмана систем распознавания лиц
Идеи
Рейд Хофман, основатель LinkedIn и основатель eBay и венчурного фонда Omidyar Network Пьер Омидьяр вложили в фонд по $10 млн каждый. Еще $5 млн внес фонд Knight Foundation, по $1 млн выделили фонд Уильяма и Флоры Хьюлетт и Джим Палотта, основатель Raptor Group. Размер фонда будет расти с появлением новых участников проекта, пишет Recode.
«Как инженер, я впечатлен невероятной скоростью распространения технологий ИИ, — заявил Омидьяр в пресс-релизе. — Как филантроп и гуманист — я хочу убедиться, что этические соображения и возможные последствия для человека также принимаются во внимание».
Ученые обсудили безопасность секса с роботами
Технологии
В конце 2016 года институт IEEE опубликовал результаты дискуссии более сотни экспертов в области искусственного интеллекта и этики. К главным принципам, которые должны применяться ко всем машинам с ИИ, они отнесли «благо людей», ответственность, прозрачность, образование и осознанность.