Сообщить об ошибке на сайте
URL
Ошибка
Идеи

В лаборатории при Университете Тафтса робота обучают отвергать команды, если их выполнение робот сочтет неуместным.

Гордон Бриггс и Маттиас Шойтц из лаборатории по изучению взаимодействия человека и робота при Университете Тафтса недавно представили проект «Простите, но я не могу этого сделать» (‘Sorry, I Can’t Do That’). Его задача — научить робота отвергать команды человека, которые по определенным характеристикам робот сочтет неуместными. Отказ от команд — одна из этических проблем робототехники, обозначенная еще Айзеком Азимовым.

Основная сложность заключается не столько в том, чтобы обучить робота в каких ситуациях он должен, а в каких не должен выполнять приказания, а в том, чтобы создать модель, шаблон, по которой робот сможет сформулировать, почему он отвергает команду. Это позволит человеку скорректировать свою команду так, чтобы она стала выполнимой.

В проведенных экспериментах робот отказывался выполнять задачи, когда знал, что их выполнение нанесет ему вред — например, он упадет со стола или врежется в препятствие. Также когда человек просил робота отключить ту или функцию, робот сообщал, что данный пользователь не авторизован для выполнения этой команды.

Подобные исследования не только позволяют усовершенствовать взаимодействие между человеком и роботом, но и позволяют обратить внимание ученых на этические аспекты применения искусственного интеллекта.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Audi встроит солнечные панели в крыши своих электромобилей
Электромобили
Samsung представила Galaxy Note 8 с «безграничным» экраном
Смартфоны
Facebook, Google и Netflix создают новое телевидение
Технология развлечений
Система распознавания лиц помогла раскрыть 21 тысячу преступлений
Кейсы
В Китае разработан квантовый детектор субмарин
Квантовые технологии
Электромобили
Nikola представила сверхмощный электровездеход
Microsoft разработала систему ускоренного обучения ИИ
Обучение машин
Ученые Сингапура разрабатывают компьютерную память нового поколения
Память
Идеи
10 главных научных открытий 2017 года
Создан глобальный блокчейн-консорциум по контролю качества еды
Тренды
Ученые из МТИ разработали метод создания роботов за 4 часа
Роботы
Lilium обещает вывести летающие такси на рынок в 2025 году
Летающие такси
Открыт новый тип электропроводности
Идеи
В России станции быстрой зарядки электромобилей появятся в этом году
Электрозаправки
Фотосинтез бактерий-«киборгов» в 40 раз эффективнее, чем у растений
Идеи
К 2022 году солнечные электростанции мира превзойдут по мощности АЭС
Тренды
Apple протестирует беспилотный автобус для сотрудников
Беспилотный транспорт
Эстония запустит эсткойн — национальную криптовалюту
Криптовалюты
К 2020 году вся линейка бытовых приборов Samsung получит ИИ-функции
Тренды
Нейротехнологии
Человеческий мозг может предсказывать будущее
ИИ предскажет деменцию до появления симптомов
Деменция
Мексика выпустит свой первый электромобиль
Тренды
Электроавиация
Электросамолет Sun Flyer выгоднее бензиновых аналогов
Хакеры взламывают криптокошельки через номера мобильных телефонов
Криптовалюты
Возрожден проект ядерного реактора на расплавах солей тория
Ядерная энергетика
Entocycle разводит съедобных личинок
Еда будущего
Разработана вакцина, дающая иммунитет к героину
Медицинские технологии
Дома-электростанции набирают популярность в США
Возобновляемая энергетика
Криптовалюты
Блокчейн-платформа TRON — это новый Alibaba
Марк Кьюбан инвестировал в венчурный криптовалютный фонд
Тренды
Проведена первая биткойн-транзакция со спутника
Кейсы
В Гарварде создают пробиотик, превращающий обычных людей в спортсменов
Спорт
В процессорах Intel Core 8-го поколения будет 6 ядер
Железо
Миллиардеры делают ставку на космический бизнес
Тренды
«Запрет роботов-убийц не имеет смысла»
Мнения
В Великобритании приравняли онлайн-преступления к обычным
Онлайн-преступления
Нанолазер уничтожает клетки рака
Борьба с раком
Новый 3D-принтер печатает пластиковые инструменты, крепкие как сталь
3D-печать
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
Хранение энергии
Cтартап использует поезда для хранения энергии
В США криптовалюты хотят приравнять к доллару
Тренды
Распознавание лиц избавит человечество от паролей и ключей
Распознавание лиц
Чистая энергия
«Ледяные батареи» сократят потребление энергии на 95%
Sky Hopper — грузовой конвертоплан на электротяге
Идеи
Uber предложили объединить с Tesla
Технологические компании
«Электронная кожа» соберет данные о состоянии здоровья
Идеи
Aspire откроет роботизированную ферму по выращиванию насекомых
Тренды
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Топ-5 функций Oreo — новой ОС Android
Мобильные технологии
«Формула-1» проведет киберспортивный чемпионат мира
Кейсы
Ford может полностью перейти на электромобили
Электромобили
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Искусственный интеллект
«Роботы уничтожат средний класс»
Мнения