Сообщить об ошибке на сайте
URL
Ошибка
Идеи

Финансируемая Илоном Маском лаборатория OpenAI помогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании — научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

Недавно совместно с DeepMind лаборатория опубликовала исследование, в котором описала метод обучении ИИ с участием человека. С помощью нового метода разработчики научили бота по имени Hopper делать сальто и приземляться на «ноги». Процесс потребовал много времени и сил — бот обучался 70 часов, а человеку приходилось оценивать его действия 900 раз в час.

Однако эксперты уверены, что такой подход при всей его сложности поможет обезопасить человечество от нашествия роботов. Главный инвестор OpenAI Илон Маск опасается, что ИИ захватит мир и уничтожит человечество. Недавно Маск даже сравнил искусственный интеллект с военной угрозой со стороны Северной Кореи, причем не в пользу КНДР. Такое сопоставление он сделал после того, как алгоритм OpenAI одержал победу над лучшими игроками в Dota 2.

Как отмечает The New York Times, над проблемой безопасного развития искусственного интеллекта работают многие ученые. При этом не все эксперты согласны с Маском. Некоторые отмечают, что восстание машин возможно только при стечении специфических обстоятельств. И вероятность такого совпадения пока минимальна. К тому же ИИ развивается медленнее, чем предполагалось ранее, а наступление сингулярности в принципе не гарантировано.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Открыт метод создания умных окон на основе перовскитов
Новые технологии
Канадские ученые значительно увеличили эффективность CRISPR
CRISPR
Разработан алгоритм создания новых антибиотиков против супербактерий
Медицина будущего
В МТИ создали искусственные синапсы
Искусственный интеллект
Создан алгоритм для определения отцовских и материнских генов
Секвенирование генома
В Южной Корее ввели налоги на обмен криптовалюты
Блокчейн
Космические планы
Конкурс Lunar XPrize от Google останется без победителя
Alstom запустит беспилотный грузовой состав в Нидерландах
Беспилотный транспорт
Цены на литий могут резко упасть из-за выхода на рынок Австралии
Сырьевые рынки
Integral Memory представила первую microSD на 512 Гб
Хранение данных
Хакеры украли более 10% всех привлеченных через ICO средств
Криптовалюты
Bugatti напечатала первый в мире титановый тормозной суппорт
Кейсы
ВЭФ: «Автоматизация сильнее затронет женщин»
Тренды
Тренды
Отказ от этических правил делает Китай лидером CRISPR-технологий
Разработчики Facebook изобрели новую единицу времени — Flick
Кейсы
Новая спутниковая технология сэкономит авиакомпаниям миллионы
Транспорт будущего
Проведена первая торговая блокчейн-сделка между Китаем и США
Блокчейн-технологии
Стартап вырастил «сердце на чипе» для тестирования лекарств
Искусственные органы
Впервые Китай превзошел США по числу научных публикаций
Научный прорыв
Китай вышел в лидеры по объему инвестиций в ИИ
Искусственный интеллект
Искусственный интеллект
«Настоящий ИИ может и не появиться»
Ученые заглянули внутрь мемристоров
Микроэлектроника
Водородный автомобиль Rasa поступит в продажу в 2019 году
Идеи
Японец разработал плавающий электромобиль на случай цунами
Идеи
«Биткойн может просуществовать еще 100 лет»
Криптовалюты
Электромобили
4 неудобных вопроса о перспективах электромобилей
ИИ научился самостоятельно проводить эксперименты по квантовой физике
Искусственный интеллект
Искусственный фермент приближает создание синтетической формы жизни
Биотехнологии
CRISPR изменит сельское хозяйство в течение десятилетия
Тренды
Электрогрузовик Tesla Semi впервые замечен на обычной дороге
Электрогрузовики
Научный прогресс
Корейские физики испытали «информационный двигатель»
Отель будущего, оснащенный ИИ, угадает желания клиентов
Умный дом
«Автоматизация движется по пути эволюции, а не революции»
Автоматизация
Nissan начинает продажи домашних аккумуляторов и солнечных панелей
Тренды
В Стэнфорде открыли новый тип целлюлозы
Новые материалы
Добыча полезных ископаемых в космосе приведет к мировому кризису
Коммерческий космос
Audi запускает «виртуальные электростанции» по аналогии с Tesla
Электромобили
Глава Google: «ИИ по значимости превосходит огонь и электричество»
Искусственный интеллект
Microsoft описала один день из жизни человека и ИИ в 2038 году
Искусственный интеллект
ИИ превзошел человека в способности к компромиссам
Искусственный интеллект
NASA и Boeing разрабатывают самолет со складным крылом
Авиация
Тренды
Британские инженеры «оцифровали» распределительный вал ДВС
«Электронная кожа» управляет виртуальными и реальными объектами
Носимая электроника
Аналитики Deutsche Bank нашли связь между страхом и курсом биткойна
Блокчейн
Первый робомагазин Amazon открывается для широкой публики
Тренды
Ученые исследуют возможность заживления ран без рубцов
Медицина будущего
Доставка товаров дронами появится в Китае в первой половине года
Дроны-курьеры
Rocket Lab успешно запустила ракету Electron
Частный космос
ICO
Организаторы ICO Telegram получили заявки на $3,8 млрд