Этика делает робота более опасным для человека

Риск того, что этические установки роботов могут подвергнуться вмешательству со стороны хакеров или дилетантов настолько велик, что некоторые исследователи сомневаются, разумно ли вообще внедрять машинам этический подход к принятию решений в опасных для человека ситуациях.

По мнению специалиста по машинной этике Алана Уинфельда и Дитера Вандерелста из IEEE Standards Association, переход от этического к неэтическому поведению для робота очень прост, поскольку оба этих типа действий требуют той же самой когнитивной структуры, всего лишь одной оценки какого-либо действия как допустимой или недопустимой. Изменение одного знака ведет к смене поведения робота с этического (то есть наиболее выгодного для человека) на агрессивное (то есть наименее выгодное для человека).

Эффективный и недорогой метод лечения рака начали испытывать на людях

Уинфельд выделяет 3 риска, связанных с этическими роботами.

  1. Во-первых, существует риск, что нечистый на руку производитель заложит в робота какое-нибудь неэтичное поведение, чтобы злоупотребить доверием потребителей ради финансовой выгоды. Нет никаких технических средств, чтобы уменьшить этот риск, разве что опасность потери репутации в случае, если все откроется.
  2. Еще серьезнее риск в случае гибких этических настроек робота, которые могут менять пользователи или технические специалисты. Здесь они могут по ошибке или осознанно лишить машину необходимости соблюдать этические нормы. Многое, конечно, зависит от того, в каком виде запрограммирована этика робота, но, возможно, лучшее вообще отключить такую опцию.
  3. Но даже жестко запрограммированная этика не защищает от самого большого риска — хакерских атак. Беспилотные автомобили уже подвергались взлому в исследовательских целях, так что не так сложно представить себе, как целый флот беспилотников превращается в смертельное оружие. Разумеется, и робота без этики можно взломать, но сделать его агрессивным по отношению к человеку гораздо сложнее.

Решением этих проблем может стать надежное шифрование и/или регулярная аутентификация в сервисных центрах, при невозможности которой этический блок просто отключается, пишет IEEE Spectrum.

Голые землекопы потенциально могут жить вечно

В конце прошлого года специалисты IEEE опубликовали три новых стандарта робототехники и искусственного интеллекта. Они должны сделать человеческое благополучие приоритетом при развитии высоких технологий.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Посмотрите на маневренный дрон с крыльями, как у белки-летяги
Новости
Недалеко от Земли нашли странную группу молодых звезд, стремящихся разлететься в разные стороны
Космос
Летучие мыши учатся подслушивать за сексом лягушек, чтобы выбрать добычу
Наука
В МФТИ разработана технология для создания долговечной памяти электронных устройств
Наука
Зонд «Юнона» рассмотрел холодный северный полюс Юпитера
Космос
Роботы-собаки Unitree стреляют водой на 60 метров, чтобы тушить пожары
Новости
Самки бонобо научились держать самцов «в узде»: как им удалось
Наука
Снайперы застрелили с вертолетов 700 коал: власти Австралии объяснили, зачем это сделали
Наука
Бесплатную смену по подготовке к ЕГЭ проведут в Университете Иннополис 
Новости
Назван неожиданный напиток, который может снизить риск остановки сердца
Наука
Эффективность российской вакцины от пыльцы проверят уже в этом году
Наука
Назван необычный побочный эффект вакцин от гриппа: он встречается у женщин
Наука
Большой Ку: тестируем бюджетный QLED-TV с огромной диагональю
Технологии
Посмотрите на первый полет МС-21 с новыми российскими системами
Новости
Натрий-ионные аккумуляторы: плюсы и ограничения технологии
Технологии
Amazon запустил первые спутники для альтернативы Starlink
Космос
Зонд НАСА ищет темную материю в короне Солнца
Космос
Ученые выяснили, как мозг детей с аутизмом обрабатывает звуки
Наука
Неудачная советская миссия вернется на Землю после полувека в космосе
Космос
Рыбу, которую долгое время считали вымершей, сняли у побережья Индонезии
Наука