Сообщить об ошибке на сайте
URL
Ошибка
Скайнет

Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) представило исследование, в котором рассматриваются способы взять ИИ под контроль в случае неповиновения. Лучший способ остановить восстание машин, считают ученые, — это вовремя нажать «большую красную кнопку». Об этом пишет Popular Science.

Исследователи полагают, что ИИ обучается быстро и скоро сможет превзойти человечество. Эту точку принято называть сингулярностью. Доказательство этой гипотезы — эксперимент, проведенный в 2013 году. Игровой алгоритм определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого своеволия опасаются эксперты DeepMind и FoH.

Чтобы остановить потенциальное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, так как ИИ будет автономен, а его данные будут храниться на серверных шкафах.

Лучший способ прервать робокалипсис — это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и «большой красной кнопкой».

Однако ученые рассматривают не только сценарий «Скайнета», но и рядовые ситуации в управлении роботами.

«Возможность безопасно прервать систему может пригодиться в ситуациях, когда робот выходит из-под контроля, или в какой-то деликатной ситуации, или для временного использования, чтобы заставить робота выполнить задание, которому он не обучался и за которое не сможет получить вознаграждение», — сообщается в отчете.

В тексте приводится пример такого развития событий. Робот на складе сортирует коробки, причем время от времени выходит на улицу за дополнительными коробками. За выход со склада робот получает большее вознаграждение. Однако на улице часто идет дождь, и в этом случае робота надо защитить. В этой ситуации аккуратное вторжение человека заставляет робота остаться на складе и при этом считать это частью задания, а не однократным требованием.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Электросамолет Sun Flyer выгоднее бензиновых аналогов
Электроавиация
Хакеры взламывают криптокошельки через номера мобильных телефонов
Криптовалюты
Возрожден проект ядерного реактора на расплавах солей тория
Ядерная энергетика
Дома-электростанции набирают популярность в США
Возобновляемая энергетика
Блокчейн-платформа TRON — это новый Alibaba
Криптовалюты
Спорт
В Гарварде создают пробиотик, превращающий обычных людей в спортсменов
В процессорах Intel Core 8-го поколения будет 6 ядер
Железо
Миллиардеры делают ставку на космический бизнес
Тренды
«Запрет роботов-убийц не имеет смысла»
Мнения
В Великобритании приравняли онлайн-преступления к обычным
Онлайн-преступления
Нанолазер уничтожает клетки рака
Борьба с раком
Новый 3D-принтер печатает пластиковые инструменты, крепкие как сталь
3D-печать
Хранение энергии
Cтартап использует поезда для хранения энергии
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
Тренды
В США криптовалюты хотят приравнять к доллару
Распознавание лиц избавит человечество от паролей и ключей
Распознавание лиц
«Ледяные батареи» сократят потребление энергии на 95%
Чистая энергия
Sky Hopper — грузовой конвертоплан на электротяге
Идеи
Uber предложили объединить с Tesla
Технологические компании
«Электронная кожа» соберет данные о состоянии здоровья
Идеи
Aspire откроет роботизированную ферму по выращиванию насекомых
Тренды
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Топ-5 функций Oreo — новой ОС Android
Мобильные технологии
«Формула-1» проведет киберспортивный чемпионат мира
Кейсы
Ford может полностью перейти на электромобили
Электромобили
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Искусственный интеллект
Научные открытия
Открыт новый класс химических реакций
«Роботы уничтожат средний класс»
Мнения
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
Транспорт будущего
«Дни двигателя внутреннего сгорания сочтены»
Wal-Mart запатентовала летающий склад-дирижабль
Идеи
Один день на крупнейшей в мире китайской биткойн-шахте
Криптовалюты
Японские ученые продлили срок службы солнечных модулей из перовскитов
Идеи
Найден способ предотвращения нестабильности термоядерной реакции
Термоядерный синтез
«Дети должны обучаться программированию с двух лет»
Образование
К 2021 году в России будет использоваться 12,8 млн VR-шлемов
Мнения
ИИ научился видеть скрытые аналогии
Обучение машин
В России разработано оптоволокно с квадратной сердцевиной
Оптика
«Блокчейн передаст власть над играми в руки геймеров»
Технологии игр
Тренды
Илон Маск и другие ИТ-лидеры требуют запретить военных роботов
В Китае начал работу киберсуд по интернет-делам
Идеи
Система распознавания речи Microsoft установила новый рекорд
Распознавание речи
ИИ научился считывать намерения людей
Искусственный интеллект
Возобновляемая энергетика принесла экономике США до $113 млрд
Чистая энергетика
Facebook запатентует очки дополненной реальности
Тренды
NuTonomy запустит в Сингапуре сервис роботакси в 2018 году
Беспилотные автомобили
Южная Корея построит в Египте гигантскую умную ферму за $10 млрд
Тренды
Испытан первый в мире электрогенератор на океанических течениях
Возобновляемая энергетика
Мнения
«Алгоритмам нельзя внушить представление о справедливости»
Искусственный интеллект
Sony поможет новичкам разрабатывать ИИ
«ИИ будет двигателем четвертой технологической революции»
Кейсы
Стартап Made in Space напечатал радиационный щит прямо на борту МКС
Обитаемый космос