Сообщить об ошибке на сайте
URL
Ошибка
Скайнет

Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) представило исследование, в котором рассматриваются способы взять ИИ под контроль в случае неповиновения. Лучший способ остановить восстание машин, считают ученые, — это вовремя нажать «большую красную кнопку». Об этом пишет Popular Science.

Исследователи полагают, что ИИ обучается быстро и скоро сможет превзойти человечество. Эту точку принято называть сингулярностью. Доказательство этой гипотезы — эксперимент, проведенный в 2013 году. Игровой алгоритм определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого своеволия опасаются эксперты DeepMind и FoH.

Чтобы остановить потенциальное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, так как ИИ будет автономен, а его данные будут храниться на серверных шкафах.

Лучший способ прервать робокалипсис — это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и «большой красной кнопкой».

Однако ученые рассматривают не только сценарий «Скайнета», но и рядовые ситуации в управлении роботами.

«Возможность безопасно прервать систему может пригодиться в ситуациях, когда робот выходит из-под контроля, или в какой-то деликатной ситуации, или для временного использования, чтобы заставить робота выполнить задание, которому он не обучался и за которое не сможет получить вознаграждение», — сообщается в отчете.

В тексте приводится пример такого развития событий. Робот на складе сортирует коробки, причем время от времени выходит на улицу за дополнительными коробками. За выход со склада робот получает большее вознаграждение. Однако на улице часто идет дождь, и в этом случае робота надо защитить. В этой ситуации аккуратное вторжение человека заставляет робота остаться на складе и при этом считать это частью задания, а не однократным требованием.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Авиация
Spike испытала прототип сверхзвукового пассажирского самолета
Yamaha представила Motoroid — концепт мотоцикла с ИИ
Электромотоциклы
Власти США одобрили использование робота-хирурга
Медицинские роботы
«Криптовалюты избавят людей от уплаты банковских комиссий»
Криптовалюты
Маск: «Наш корабль сядет на Марс даже при отказе части двигателей»
Космос
«Электрические самолеты появятся не ранее, чем через 15-20 лет»
Мнения
Ураганы привели к буму домашних систем хранения энергии в США
Тренды
Открыт новый метод измерения спинового тока в квантовых материалах
Научные разработки
Shell выкупила крупнейшую европейскую сеть электрозаправок
Электротранспорт
Автономный робот STAR удалил опухоль лучше хирургов
Медицинские роботы
В России точно появится крипторубль
Криптовалюты
К 2019 году Baidu начнет массовое производство автономных автомобилей
Беспилотные автомобили
На World Skills выступит рекордное количество участников из России
Тренды
Финтех
IBM запускает международные блокчейн-платежи
С Gluon создавать нейронные сети будет так же просто, как приложения
Нейронные сети
«Великобритания может возглавить ИИ-революцию»
Искусственный интеллект
Илон Маск признался, что владеет двумя бензиновыми автомобилями
Кейсы
В США строят крупнейшую виртуальную солнечную электростанцию
Чистая энергетика
Virgin Hyperloop One вернет людям радость путешествий
Транспорт будущего
В Исландии запускают станцию, которая превращает СО2 в камень
Чистая энергетика
Частный космос
Российская ракета Протон-М станет прямым конкурентом Falcon 9
Глава JPMorgan: «Я больше не буду говорить о биткойне»
Криптовалюты
Цифровое государство
С 1 июля 2018 года в России внедрят электронные ПТС
Оптические волокна могут заменить электронные датчики движения
Носимая электроника
Фармкомпании начали переманивать ИТ-специалистов из Google и Microsoft
Фармацевтика
Как ИТ-гиганты превратились из спасителей в угрозу
Государственный контроль
StreamCube сделает энергию приливов выгодной и доступной
Возобновляемая энергетика
Xperia Touch, превращающая стол в тачскрин, поступила в продажу
Тренды
Власти Швеции первыми в мире потребовали уплаты налогов в биткойнах
Тренды
Летающие мотоциклы
Полиция Дубая тестирует «летающие мотоциклы» российского производства
Разработан новый бетон, который выдерживает толчки магнитудой 9 баллов
Строительные технологии
Немецкий инженер создал AR-очки для инженеров и рабочих
Дополненная реальность
Умные колонки Google позволят делать заказы в Target
Голосовые помощники
Google переучит лишенных работы специалистов за $1 млрд
Тренды
Ученые в 50 раз усилили Т-клетки для борьбы с ВИЧ
Лечение ВИЧ
«Цифровой институт» Стива Возняка подготовит тысячи ИТ-специалистов
Мнения
Ричард Брэнсон: «SpaceShipTwo отправится в космос через 3 месяца»
Космический туризм
Водородные тягачи Toyota начнут работу в порту Лос-Анджелеса
Транспорт будущего
Китайская прокуратура начнет использовать ИИ
Тренды
Частный космос
SpaceX спровоцирует триллионный бум в аэрокосмической отрасли
Геном морского огурца подсказал ученым механизм регенерации тканей
Генетика
Стартап Zenome позволит людям зарабатывать на генетических данных
Генетические данные
Звание «главного пугала» перешло от Google к Amazon
ИТ-компании
Образование 2.0
Тим Кук: «Лучше учить не иностранный язык, а язык программирования»
Прорывная технология позволит создать жесткий диск емкостью 40 Тб
Хранение данных
ИИ-разработчики досконально изучат кубический миллиметр мозга
Исследования мозга
BMW представила гибридный электровелосипед
Электробайки
Власти Китая хотят национализировать все ИТ-компании в стране
Государственный контроль
На дорогах Калифорнии разрешат тестировать робомобили без водителей
Робомобили