Сообщить об ошибке на сайте
URL
Ошибка
Скайнет

Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) представило исследование, в котором рассматриваются способы взять ИИ под контроль в случае неповиновения. Лучший способ остановить восстание машин, считают ученые, — это вовремя нажать «большую красную кнопку». Об этом пишет Popular Science.

Исследователи полагают, что ИИ обучается быстро и скоро сможет превзойти человечество. Эту точку принято называть сингулярностью. Доказательство этой гипотезы — эксперимент, проведенный в 2013 году. Игровой алгоритм определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого своеволия опасаются эксперты DeepMind и FoH.

Чтобы остановить потенциальное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, так как ИИ будет автономен, а его данные будут храниться на серверных шкафах.

Лучший способ прервать робокалипсис — это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и «большой красной кнопкой».

Однако ученые рассматривают не только сценарий «Скайнета», но и рядовые ситуации в управлении роботами.

«Возможность безопасно прервать систему может пригодиться в ситуациях, когда робот выходит из-под контроля, или в какой-то деликатной ситуации, или для временного использования, чтобы заставить робота выполнить задание, которому он не обучался и за которое не сможет получить вознаграждение», — сообщается в отчете.

В тексте приводится пример такого развития событий. Робот на складе сортирует коробки, причем время от времени выходит на улицу за дополнительными коробками. За выход со склада робот получает большее вознаграждение. Однако на улице часто идет дождь, и в этом случае робота надо защитить. В этой ситуации аккуратное вторжение человека заставляет робота остаться на складе и при этом считать это частью задания, а не однократным требованием.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Суперкомпьютер помог создать новый тип люминофора для светодиодов
Новые технологии
Франция собирается стать крупным игроком на рынке приливной энергии
Возобновляемая энергетика
Кейсы
Центробанк Швеции обеспокоен стремительным отказом от наличных
В Великобритании пациенту установили ребра, напечатанные из титана
Кейсы
Алгоритм от Google прогнозирует инфаркт по сетчатке глаза
Искусственный интеллект
Ученые нашли 15 генов, определяющих черты лица
Генетика
QIWI запускает краудфандинговую платформу Fundl
Кейсы
«Криптовалюты не угрожают финансовой системе»
Блокчейн
Венесуэла начала предпродажу национальной криптовалюты Petro
Блокчейн
Биометрическая идентификация
В России запустят единую биометрическую систему идентификации личности
Брэнсон пообещал построить линию Hyperloop в Индии через 5-7 лет
Идеи
Volkswagen показал концепт электрического робомобиля без руля
Кейсы
Samsung запатентовала летающий дисплей, управляемый глазами
Патенты
Домашняя камера слежения за $20 обзавелась ИИ
Умный дом
Найдена причина нарушения квантовых свойств отдельных атомов
Квантовые технологии
RoadBotics — ИИ-система для отслеживания качества дорог
Искусственный интеллект
Профессии будущего
6 профессий будущего на основе прогнозов ВЭФ
Скорость зарядки литий-ионных батарей можно увеличить в 5 раз
Аккумуляторы
Разработан сверхатомный двухмерный полупроводник
Новые материалы
Alibaba разработала ИИ-систему мониторинга за свиньями
Кейсы
«Роботы Boston Dynamics слишком несовершенны, чтобы их бояться»
Кейсы
Ученые пролили свет на биологию индивидуальности
Идеи
Всемирная продовольственная программа переходит на блокчейн
Блокчейн
Еда будущего
Компания Just выводит на рынок мясо из пробирки
«Смертоносный» белок позволяет редактировать ДНК и РНК одновременно
Редактирование генома
«Секвенирование генома сегодня похоже на интернет 1980-х»
Секвенирование генома
Tesla построит в Канаде электросеть на основе энергии ветра
Идеи
Автоматизация уничтожит 20-25% рабочих мест в экономике США
Экономическое неравенство
Большинство работающих россиян поддерживают идею БОДа
Соцпособия будущего
Исследования мозга
Ученые выяснили, почему мозг суперэйджеров остается молодым
Большинство ученых скрывают исходные данные своих ИИ-исследований
Искусственный интеллект
В Швейцарии токены приравняли к ценным бумагам
ICO
Виталик Бутерин: «Криптовалюты в любой момент могут обесцениться»
Криптовалюты
Как государства борются за «цифровых кочевников»
Экономика будущего
Шотландия может стать лидером в чистой энергетике к 2030 году
Чистая энергия
Facebook разоблачит интернет-троллей с помощью почтовых открыток
Кейсы
Waymo получила разрешение на запуск сервиса роботакси в США
Кейсы
Дисплей на коже покажет информацию о состоянии здоровья человека
Гибкая электроника
Илону Маску разрешили построить станцию Hyperloop в Вашингтоне
Транспорт будущего
Павел Дуров собрал $850 млн в ходе предварительного ICO Telegram
ICO
БОД приведет к росту неполной занятости, а не безработицы
Безусловный основной доход
Колонизация Марса
NASA возвращается к идее ядерного двигателя для космических кораблей
«Вскоре мы не будем редактировать геном — мы просто распечатаем его»
Генетика
Tesla построит хранилища электроэнергии Powerpack в Нью-Йорке
Тренды
Play2Live проведет первый киберспортивный турнир с призами в криптовалюте
Блокчейн
Технология от Google определит местоположение звонящего в 911
Идеи
Идеи
Black Rock предсказывает будущее экономики с помощью больших данных
Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг