Кейсы

Робота учат непослушанию

Далее

В лаборатории при Университете Тафтса робота обучают отвергать команды, если их выполнение робот сочтет неуместным.

Гордон Бриггс и Маттиас Шойтц из лаборатории по изучению взаимодействия человека и робота при Университете Тафтса недавно представили проект «Простите, но я не могу этого сделать» (‘Sorry, I Can’t Do That’). Его задача — научить робота отвергать команды человека, которые по определенным характеристикам робот сочтет неуместными. Отказ от команд — одна из этических проблем робототехники, обозначенная еще Айзеком Азимовым.

Основная сложность заключается не столько в том, чтобы обучить робота в каких ситуациях он должен, а в каких не должен выполнять приказания, а в том, чтобы создать модель, шаблон, по которой робот сможет сформулировать, почему он отвергает команду. Это позволит человеку скорректировать свою команду так, чтобы она стала выполнимой.

В проведенных экспериментах робот отказывался выполнять задачи, когда знал, что их выполнение нанесет ему вред — например, он упадет со стола или врежется в препятствие. Также когда человек просил робота отключить ту или функцию, робот сообщал, что данный пользователь не авторизован для выполнения этой команды.

Подобные исследования не только позволяют усовершенствовать взаимодействие между человеком и роботом, но и позволяют обратить внимание ученых на этические аспекты применения искусственного интеллекта.

Загрузка...