Сообщить об ошибке на сайте
URL
Ошибка
Идеи

В лаборатории при Университете Тафтса робота обучают отвергать команды, если их выполнение робот сочтет неуместным.

Гордон Бриггс и Маттиас Шойтц из лаборатории по изучению взаимодействия человека и робота при Университете Тафтса недавно представили проект «Простите, но я не могу этого сделать» (‘Sorry, I Can’t Do That’). Его задача — научить робота отвергать команды человека, которые по определенным характеристикам робот сочтет неуместными. Отказ от команд — одна из этических проблем робототехники, обозначенная еще Айзеком Азимовым.

Основная сложность заключается не столько в том, чтобы обучить робота в каких ситуациях он должен, а в каких не должен выполнять приказания, а в том, чтобы создать модель, шаблон, по которой робот сможет сформулировать, почему он отвергает команду. Это позволит человеку скорректировать свою команду так, чтобы она стала выполнимой.

В проведенных экспериментах робот отказывался выполнять задачи, когда знал, что их выполнение нанесет ему вред — например, он упадет со стола или врежется в препятствие. Также когда человек просил робота отключить ту или функцию, робот сообщал, что данный пользователь не авторизован для выполнения этой команды.

Подобные исследования не только позволяют усовершенствовать взаимодействие между человеком и роботом, но и позволяют обратить внимание ученых на этические аспекты применения искусственного интеллекта.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Идеи
Beyond Meat увеличит производство искусственного мяса в три раза
Чехол смартфона превратили в глюкометр
Лечение диабета
Разработан двумерный транзистор на бумажной основе
Электронная бумага
Clova — виртуальный помощник, понимающий все нюансы японского языка
Кейсы
ВЭФ назвал скуку одним из главных рисков автоматизации
Тренды
Найден источник метана в океане — это микробы
Научные открытия
Зарплаты блокчейн-специалистов в Швейцарии выросли до $180 тысяч в год
ICO
Квантовые компьютеры
«Квантовые компьютеры страшнее ядерного оружия»
Глава Boeing пообещал раньше Маска отправить человека на Марс
Миссия на Марс
Bank of America запатентовал автоматический обменник криптовалют
Криптовалюты
Доказана эффективность генной терапии в борьбе с болезнями мозга
Генная терапия
Hilton оборудует номера в своих отелях системами умного дома
Умный дом
Skypod — робот-кладовщик, взбирающийся на полки
Промышленные роботы
«Генное программирование станет новой инженерной дисциплиной»
Генная инженерия
Европейские энергокомпании станут углеродно-нейтральными к 2050 году
Тренды
Солнечная энергия
Создан солнечный элемент по рецептам Теслы и Эйнштейна
«ИИ оставит программистов без работы к 2040 году»
Искусственный интеллект
Пациентам датской больницы напечатают еду с учетом предписаний врача
3D-печать
Видеоигры предотвращают старческое слабоумие
Исследования мозга
ИИ помогает ловить серийных убийц
Идеи
Lyft начинает испытания робомобилей от NuTonomy
Беспилотные автомобили
Let Glass — первые умные очки с поддержкой Alexa
Умные очки
Идеи
Синтезирован «гормон любви» без побочных эффектов
Новая технология позволяет видеть сквозь любые стены
Кейсы
Amazon запатентовала ИИ-консультанта для садоводов-любителей
Кейсы
Открыт нейронный механизм подавления чувства голода
Медицинские исследования
Сооснователь Wikipedia создаст энциклопедию на блокчейне
Идеи
Британская компания выпустит «вечные» кроссовки с подошвой из графена
Новые материалы
Австралийская фондовая биржа переходит на блокчейн
Блокчейн
Япония представила первые в мире напечатанные OLED-панели
Гибкие дисплеи
Goldman Sachs назвал криптовалюту эфир в числе трендов, меняющих мир
Тренды
«Перезагрузка» митохондрий замедляет развитие болезни Альцгеймера
Борьба со старением
Rinspeed представила концепт беспилотного электробуса
Транспорт будущего
Alexa заставляет пользователей больше покупать
Голосовые помощники
Термоядерный синтез
Термоядерный реактор ITER готов на 50%
Криптовалюты
В России введут уголовную ответственность за расчеты в криптовалютах
Каждый пятый биткойн покупают в Южной Корее
Блокчейн
Миниатюрный биосенсор анализирует состояние организма по поту
Биотехнологии
В Сан-Франциско запретили доставку покупок роботами-курьерами
Кейсы
Илона Маска обвинили во всемирном дефиците батареек
Аккумуляторы
Новый ИИ за считанные часы освоил шахматы и го и разгромил чемпионов
Искусственный интеллект
Qualcomm представила процессор Snapdragon 845
Тренды
Commonwealth Bank выпустит первые в мире облигации на блокчейне
Блокчейн
IBM представила первые серверы Power9 для ИИ
Обучение машин
Tencent: «В мире всего 300 тысяч экспертов по ИИ, хотя нужны миллионы»
Мнения
Шведский стартап начинает производство водорослей для фотоэлементов
Чистая энергия
Квантовые технологии
Внутри биологической системы впервые создали квантовую запутанность
К 2022 умные города помогут снизить расходы на $5 трлн
Умный город
Сервис летающих такси от Volocopter запустят до 2021
Транспорт будущего