Исследование: люди не смогут управлять сверхразумными машинами с ИИ

Человек не сможет управлять сверхразумными машинами с ИИ. К такому выводу пришли авторы исследования «Суперинтеллект не может быть ограничено: уроки теории вычислимости» Центра людей и машин Института развития человека Макса Планка. Результаты исследования опубликованы в Journal of Artificial Intelligence Research.

Системы с ИИ уже сейчас вызывают опасения, особенно те, которые способны управлять другими машинами. Многие ученые занимают осторожную позицию в отношении сверхразумного и неконтролируемого ИИ. Международная группа исследователей, используя теоретические расчеты, доказала, что управлять сверхразумным ИИ попросту будет невозможно.

Предположим, кто-то должен запрограммировать систему искусственного интеллекта с интеллектом, превосходящим человеческий, чтобы она могла учиться независимо от человека. Тогда подключенный к интернету ИИ получит доступ ко всем данным человечества. Он также сможет заменить все существующие программы и взять под контроль все машины по всему миру. Произойдет ли эта утопия или антиутопия? Сможет ли ИИ вылечить рак, установить мир во всем мире и предотвратить климатическую катастрофу? Или уничтожит человечество и захватит Землю?

Ученые-информатики и философы задаются вопросом: сможем ли мы вообще управлять сверхразумным ИИ, чтобы гарантировать, что он не будет представлять угрозу для человечества.

«Сверхразумная машина, которая управляет миром, звучит как научная фантастика. Но уже есть машины, которые выполняют определенные важные задачи полностью независимо, при этом программисты до конца не понимают, как они этому научились. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества», — говорит соавтор исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка.

Ученые исследовали две разные идеи того, как можно управлять сверхразумным ИИ. С одной стороны, возможности сверхразумного ИИ можно было бы конкретно ограничить, например, отгородив его от интернета и всех других технических устройств, чтобы он не мог контактировать с внешним миром, но это сделало бы сверхразумный ИИ значительно менее мощным и менее способным отвечать на гуманитарные задания. Не имея такой возможности, ИИ с самого начала мог бы быть мотивирован преследовать только цели, отвечающие интересам человечества, например, запрограммировав в него этические принципы. Однако исследователи также показывают, что эти и другие современные и исторические идеи по управлению сверхразумным ИИ имеют свои пределы.

В своем исследовании команда разработала теоретический алгоритм сдерживания, который гарантирует, что сверхразумный ИИ не сможет причинить вред людям ни при каких обстоятельствах, сначала моделируя поведение ИИ и останавливая его, если он считается вредным. Но тщательный анализ показывает, что в нашей нынешней парадигме вычислений такой алгоритм не может быть построен.

«Если разложить проблему на основные правила теоретической информатики, окажется, что алгоритм, который приказал бы ИИ не разрушать мир, может непреднамеренно остановить свои собственные операции. Если бы это произошло, вы бы не знали, будет ли алгоритм сдерживания все еще анализировать угрозу, и остановил ли он ее для сдерживания вредоносного ИИ. По сути, это делает алгоритм сдерживания непригодным для использования», — говорит Ияд Рахван, директор Центра людей и машин.

На основе этих расчетов проблема сдерживания невыполнима, то есть ни один алгоритм не сможет найти решение для определения того, причинит ли ИИ вред миру или нет.


Читайте также

Минздрав Аргентины раскрыл данные о побочных эффектах у получивших «Спутник V»

Утконос оказался генетической смесью млекопитающих, птиц и рептилий

Аборты и наука: что будет с детьми, которых родят

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Генетики воссоздали лицо императора, который правил Китаем 1500 лет назад
Наука
Кремниевое лицо для робота предугадывает и отражает улыбку собеседника
Новости
Яркая вспышка в 800 млн световых лет от Земли показала скрытые «танцы черных дыр»
Космос
Водородный поезд установил мировой рекорд: он проехал 2 803 км без заправки
Новости
«Одноразовый» зонд SLIM пережил уже две экстремальных ночи на Луне
Космос
Разрушение полярных шапок замедляет вращение Земли
Наука
Ученые выяснили, чем еще полезна корица для человека
Наука
Посмотрите на «щит невидимости»: он скрывает человека у всех на виду
Новости
Появился способ омолодить кровь и обратить старение
Наука
Сломанный металлодетектор случайно помог найти золото
Наука
Ученые рассмотрели, что происходит в центре нашей галактики
Космос
ДНК Бетховена удивила ученых: что они выяснили
Наука
Microsoft автоматически устанавливает Copilot на Windows 11: как его удалить
Новости
Tesla хочет внедрить «частный 5G» в электромобили и робота Optimus
Новости
Ученые создали первый в мире алмазный транзистор: он работает при самых высоких температурах
Наука
Моделирование объясняет формирование загадочных голубых сверхгигантов
Космос
Процедура по уходу за волосами привела к повреждению почек у женщины
Новости
Аномальное поведение электронов в графене взволновало физиков
Наука
Интернет может работать в 4 500 000 раз быстрее, показало исследование
Новости
Разработан радар, который контролирует здоровье водителя во время движения
Новости