Риск того, что этические установки роботов могут подвергнуться вмешательству со стороны хакеров или дилетантов настолько велик, что некоторые исследователи сомневаются, разумно ли вообще внедрять машинам этический подход к принятию решений в опасных для человека ситуациях.
По мнению специалиста по машинной этике Алана Уинфельда и Дитера Вандерелста из IEEE Standards Association, переход от этического к неэтическому поведению для робота очень прост, поскольку оба этих типа действий требуют той же самой когнитивной структуры, всего лишь одной оценки какого-либо действия как допустимой или недопустимой. Изменение одного знака ведет к смене поведения робота с этического (то есть наиболее выгодного для человека) на агрессивное (то есть наименее выгодное для человека).
Эффективный и недорогой метод лечения рака начали испытывать на людях
Идеи
Уинфельд выделяет 3 риска, связанных с этическими роботами.
- Во-первых, существует риск, что нечистый на руку производитель заложит в робота какое-нибудь неэтичное поведение, чтобы злоупотребить доверием потребителей ради финансовой выгоды. Нет никаких технических средств, чтобы уменьшить этот риск, разве что опасность потери репутации в случае, если все откроется.
- Еще серьезнее риск в случае гибких этических настроек робота, которые могут менять пользователи или технические специалисты. Здесь они могут по ошибке или осознанно лишить машину необходимости соблюдать этические нормы. Многое, конечно, зависит от того, в каком виде запрограммирована этика робота, но, возможно, лучшее вообще отключить такую опцию.
- Но даже жестко запрограммированная этика не защищает от самого большого риска — хакерских атак. Беспилотные автомобили уже подвергались взлому в исследовательских целях, так что не так сложно представить себе, как целый флот беспилотников превращается в смертельное оружие. Разумеется, и робота без этики можно взломать, но сделать его агрессивным по отношению к человеку гораздо сложнее.
Решением этих проблем может стать надежное шифрование и/или регулярная аутентификация в сервисных центрах, при невозможности которой этический блок просто отключается, пишет IEEE Spectrum.
Голые землекопы потенциально могут жить вечно
Кейсы
В конце прошлого года специалисты IEEE опубликовали три новых стандарта робототехники и искусственного интеллекта. Они должны сделать человеческое благополучие приоритетом при развитии высоких технологий.