Сообщить об ошибке на сайте
URL
Ошибка
Идеи

Финансируемая Илоном Маском лаборатория OpenAI помогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании — научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

Недавно совместно с DeepMind лаборатория опубликовала исследование, в котором описала метод обучении ИИ с участием человека. С помощью нового метода разработчики научили бота по имени Hopper делать сальто и приземляться на «ноги». Процесс потребовал много времени и сил — бот обучался 70 часов, а человеку приходилось оценивать его действия 900 раз в час.

Однако эксперты уверены, что такой подход при всей его сложности поможет обезопасить человечество от нашествия роботов. Главный инвестор OpenAI Илон Маск опасается, что ИИ захватит мир и уничтожит человечество. Недавно Маск даже сравнил искусственный интеллект с военной угрозой со стороны Северной Кореи, причем не в пользу КНДР. Такое сопоставление он сделал после того, как алгоритм OpenAI одержал победу над лучшими игроками в Dota 2.

Как отмечает The New York Times, над проблемой безопасного развития искусственного интеллекта работают многие ученые. При этом не все эксперты согласны с Маском. Некоторые отмечают, что восстание машин возможно только при стечении специфических обстоятельств. И вероятность такого совпадения пока минимальна. К тому же ИИ развивается медленнее, чем предполагалось ранее, а наступление сингулярности в принципе не гарантировано.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Новый 3D-микроскоп показал, как функционируют иммунные клетки. Это очень похоже на «Звездный путь»!
Кейсы
Туманность Лагуна: Как выглядит одно из самых красивых межзвездных облаков во Вселенной
Космос
Три польских архитектора предложили концепт складного небоскреба-оригами
Идеи
Как устроены современные криптофермы?
Блокчейн
Тренды
Авиакомпания «Победа» намерена внедрить в самолеты стоячие места
РБК: Роскомнадзор блокирует Telegram из-за планов Павла Дурова создать криптовалюту TON
Запрет Telegram
Проект EarthNow разрабатывает камеру, с помощью которой можно увидеть себя в реальном времени из космоса
Космос
Sony и Университет Карнеги—Меллона разработают кулинарного робота
Тренды
Роскомнадзор начал блокировать IP-адреса Azure — облачного хостинга Microsoft
Тренды
Крым может стать первым российским регионом, выпустившим свою криптовалюту
Блокчейн
Роботов научили идеально собирать мебель из Ikea. Теперь жизнь станет чуточку легче!
Тренды
Тренды
Генная инженерия против рака, голода и смерти
В Казани разрабатывают собственный мессенджер Telem — аналог Telegram
Тренды
Volocopter представила концепцию остановок для аэротакси на крышах. И это очень красиво!
Кейсы
В Швейцарии появился экзоскелет для управления дроном FlyJacket
Тренды

Что такое deep learning и почему о нем все говорят?

Тренды
Московские власти начали внедрять в метро и ЖД-станциях систему распознавания лиц
Тренды
В Амстердаме представили капсулу смерти Sarco — машину, которая позволит человеку убить себя одной кнопкой
Кейсы
Кейсы
Ученые случайно нашли бактерию, разлагающую пластик за несколько дней
Павел Дуров пообещал многомиллионное финансирование администраторам VPN-сервисов
Кейсы
Telegram снова доступен в России. Без использования VPN-сервисов для обхода блокировки
Идеи
Будущее наступило: 5 новейших технологий вокруг нас
Тренды
Илон Маск рассказал, что Tesla слишком надеялась на роботов в производстве. А зря!
Мнения
Медиа и доставка: Почему запуск СМИ нужно начинать с дистрибуции
Мнения
Как выглядят первые солнечные крыши от Tesla на настоящих домах
солнечные батареи
Обзор: игры будущего
Тренды
Технологии из сериалов, которые становятся реальностью
Тренды
Мнения
Telegram: 4 причины, почему его нельзя блокировать

FAQ: Что нужно знать о безопасности в интернете

Тренды
Cтив Возняк: «Искусственный интеллект всегда будет нуждаться в человеке»
Мнения
Будущее роботов: как машины приходят в дома, в медицину и на производство
Тренды
Алекс Жаворонков, Insilico Medicine: Как нейросети создают пилюлю от старения
Тренды
Мнения
Основатель ABBYY Давид Ян — о «злом» искусственном интеллекте и рецепте мирового лидерства
Кибернетик Джозеф Браун: Мы строим роботов, потому что нам нужны рабы
Мнения
Инженер будущего: программист, врач и дрессировщик ботов
Мнения
Drupal исправила критическую уязвимость CMS, позволяющую взломать 1 млн сайтов
Кейсы
Первый дрон «Почты России» врезался в дом сразу после вылета
Тренды
Обломки китайской орбитальной станции «Тяньгун-1» упали в Тихий океан
Технологический прорыв
«Почта России» впервые доставит посылку беспилотником
Дроны-курьеры
Газпромбанк начнет работать с криптовалютой
Тренды
Google закрывает goo.gl — сервис для сокращения ссылок
Кейсы
Научное открытие
Ученые изобрели эластичный клей. Он заживляет раны за минуту
Test4startup: нейросеть, помогающая оценить идеи для бизнеса
Кейсы
В России появились тарифы без голосовой связи
Кейсы
Научное открытие
Обнаружена галактика, в которой нет темной материи. Раньше считалось, что это невозможно
В работе Telegram произошел сбой
Кейсы
Китайская компания Baidu представила мгновенный карманный переводчик
Технологический рывок
Ford разработает обмен информацией между машинами на базе блокчейна для избежания пробок
Тренды
Китайская орбитальная станция упадет на Землю 1 апреля
Кейсы