Сообщить об ошибке на сайте
URL
Ошибка
Идеи

Финансируемая Илоном Маском лаборатория OpenAI помогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании — научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

Недавно совместно с DeepMind лаборатория опубликовала исследование, в котором описала метод обучении ИИ с участием человека. С помощью нового метода разработчики научили бота по имени Hopper делать сальто и приземляться на «ноги». Процесс потребовал много времени и сил — бот обучался 70 часов, а человеку приходилось оценивать его действия 900 раз в час.

Однако эксперты уверены, что такой подход при всей его сложности поможет обезопасить человечество от нашествия роботов. Главный инвестор OpenAI Илон Маск опасается, что ИИ захватит мир и уничтожит человечество. Недавно Маск даже сравнил искусственный интеллект с военной угрозой со стороны Северной Кореи, причем не в пользу КНДР. Такое сопоставление он сделал после того, как алгоритм OpenAI одержал победу над лучшими игроками в Dota 2.

Как отмечает The New York Times, над проблемой безопасного развития искусственного интеллекта работают многие ученые. При этом не все эксперты согласны с Маском. Некоторые отмечают, что восстание машин возможно только при стечении специфических обстоятельств. И вероятность такого совпадения пока минимальна. К тому же ИИ развивается медленнее, чем предполагалось ранее, а наступление сингулярности в принципе не гарантировано.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
В МТИ изобрели новый способ хранения тепловой энергии
Идеи
20 стран откажутся от угольных электростанций к 2030 году
Кейсы
Новая Зеландия хочет истребить животных-вредителей с помощью CRISPR
Редактирование генома
AmEx запустила первый в мире сервис платежей на блокчейне
Блокчейн
«Предсказать скорость старения по анализам невозможно»
Идеи
Intel представила семейство 5G-модемов
Переход на 5G
Чистая энергетика
В Мексике установлена самая низкая в мире цена на солнечную энергию
Ученые вернули парализованным крысам возможность ходить
Биотехнологии
Fujitsu упростит обмен одних криптовалют на другие
Блокчейн
GE выпустила «мечту инженера» — 3D-принтер для печати авиазапчастей
3D-печать
ООН: «Цифровые технологии усиливают неравенство между странами»
Тренды
Нефтяной фонд Норвегии откажется от инвестиций в нефть и газ
Кейсы
Volkswagen инвестирует $12 млрд в производство электромобилей в Китае
Тренды
Биткойны
Владельцы биткойнов в США продадут их только при курсе $190 тысяч
Китай построит космический челнок с атомным двигателем до 2040 года
Космические планы
Изобретен более точный метод генного редактирования
Генетика
Умный замок BoxLock откроется только для вас и вашего курьера
Умный дом
Глава DARPA: «Мы застряли в прошлом, нас спасет только частный сектор»
Космические планы
Baidu представила домашних роботов и умную колонку с ИИ
Умный дом
Искусственный интеллект
«Мы воспитываем ИИ-бога, который возьмет власть над планетой»
Мутация в сообществе амишей защищает от старости
Идеи
К 2050 году водород обеспечит 1/5 энергетических потребности мира
Альтернативное топливо
Создана вакцина против рака печени
Борьба с раком
Система робомагазина Amazon Go узнает вора даже под маской
Магазины будущего
ИИ-повар Джузеппе готовит веганский майонез, по вкусу «как настоящий»
Искусственный интеллект
В Канаде введут систему идентификации на блокчейне
Блокчейн
Обнаружена еще одна экзопланета, пригодная для жизни
Жизнь в космосе
Экзоскелеты
Loсkheed Martin разработала экзоскелет для военного десанта
Компьютерная безграмотность несет угрозу американским рабочим
Рынок труда
Машинное обучение
Алгоритм Эндрю Ына лучше диагностирует пневмонию, чем врачи
Китай тестирует электронную идентификацию граждан на смартфонах
Тренды
«Биткойн-фьючерсы дестабилизируют мировую экономику»
Криптовалюты
Olie — самая дешевая умная лампа со встроенным голосовым помощником
Умный дом
Microsoft: «ИИ несет наибольшие риски нефтегазовому сектору»
Искусственный интеллект
40% пользователей боятся слежки через устройства умного дома
Умный дом
Эксперт по ИИ: «Я пацифист, но я против запрета роботов-убийц»
Искусственный интеллект
Физики экспериментально проверят теорию квантовой гравитации
Квантовая физика
TrueAccord собирает деньги с должников «мягко и аккуратно»
Финтех
Face ID будет контролировать продажу алкоголя в британских магазинах
Идеи
Человекоподобный чат-бот от Soul Machines начнет работать в Autodesk
Чатботы
Кейсы
Ученые впервые отредактировали гены в организме человека
VR не менее эффективна после инсульта, чем физиотерапия
Медицина будущего
SpaceX осуществит сверхсекретную космическую миссию Zuma
Частный космос
Медицина будущего
Началось тестирование персонализированной вакцины от рака на человеке
В Дубае остановки, мосты и причалы напечатают на 3D-принтере
Строительная 3D печать
«Электромобили GM станут прибыльными, в отличие от Tesla»
Электромобили
10 событий, которые изменят интернет вещей в 2018 году
Тренды
Технологии хранения в пять раз увеличивают стоимость чистой энергии
Чистая энергия
Новый спектроскоп позволит заглянуть в мозг новорожденных
Медицина будущего