Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователи из команды Google AI, обеспокоенные бесконтрольным развитием ИИ, предложили создать платформу по изучению потенциальных опасностей искусственного интеллекта. «Мы считаем важным начать разрабатывать практические подходы к созданию безопасных и надежных систем ИИ», — написал в блоге Крис Олах, один из ученых Google AI.

Олах и его коллеги приводят пример робота, который учится убирать помещение. И может научиться тому, чему не следует. Например, как созданный Томом Мерфи бот для игры в Nintendo, который научился постоянно нажимать кнопку паузы, играя в «Тетрис». Что если робот научится сбивать вазы на пол, потому что так проще убираться? Как помешать машине делать глупые и опасные вещи, например, мыть мокрой тряпкой розетки? Как объяснить, что то, что можно делать дома, нельзя делать в офисе?

Ученые Google AI установили несколько конкретных принципов для исследователей ИИ: «избегать негативных побочных эффектов», например, или «безопасное исследование». Это практические советы, но теоретическое обоснование еще не определено. Поскольку ни у кого нет хороших ответов, Олах считает, что пора начать их искать. ИИ не будет нас ждать, пишет Wired.

Системы наподобие AlphaGo учатся анализировать огромный объем данных, но обучается на их основе компьютер самостоятельно. Он играет сам с собой в игры и приходит к решениям, которые человеку в голову не приходили. И ведет себя непредсказуемо.

Пока машины не могут принимать важные решения самостоятельно, потому что моральные вопросы для них непонятны. Но уже ведутся разработки и в этом направлении. Например, Кен Форбус из Северо-Западного университета создал механизм отображения структур, который позволяет компьютеру делать выводы на основе аналогий. «В теории можно научить его вести себя больше как человек», — говорит он.

Но до этого еще далеко, тем более что и люди не могут сойтись во мнении, что такое хорошо, а что — плохо. Тем временем, машины умнеют. И вопрос не в том, смогут ли они когда-нибудь выиграть в «Тетрис», не жульничая. А в том, смогут ли они понять, что жульничать нехорошо.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
К концу года мощность солнечной энергетики Китая достигнет 50 ГВт
Тренды
Тренды
Amazon станет первой в мире компанией, которая стоит $1 трлн
Молекулы-самоубийцы могут защитить нас от рака
Борьба с раком
Blue Origin впервые провела огневые испытания своего двигателя BE-4
Частный космос
Toyota Sora — новый водородный автобус для гостей Олимпийских игр
Транспорт будущего
Ученые создали двумерный «идеальный» транзистор
Новая электроника
Huawei добилась 20 Гбит/с в испытаниях 5G Dual Connectivity
Переход на 5G
Сингапурские ученые делают фотоэлементы из меди, цинка и олова
Энергия солнца
Транспорт будущего
Маск купил еще одну буровую машину и роет тоннель в Вашингтон
В Швеции выбрали место для строительства конкурента Gigafactory
Тренды
Россия получила рекордное количество медалей на World Skills 2017
Кейсы
Эндрю Ын возглавил стартап, разрабатывающий чатбота-психотерапевта
Кейсы
Блокчейн может трансформировать сферу туризма
Блокчейн-технологии
Водоросли помогли улучшить органические солнечные элементы
Солнечная энергия
Veo Robotics переложит тяжелый труд на плечи роботов
Робототехника
Блокчейн и криптовалюты совершат революцию в БОД
Соцпособия будущего
Flare — камера слежения с ИИ для умного дома
Умный дом
Разработана компьютерная память молекулярного уровня
Компьютерная память
Астрофизика
5 открытий в сфере гравитационных волн, которые изменили астрофизику
4 фактора, которые преобразят IoT
Интернет вещей
Синтезирован препарат, эффективно подавляющий ВИЧ
Лечение ВИЧ
«Вертолеты России» покажут электрический конвертоплан в 2019 году
Городская авиация
Идеи
Toyota создала водородный минивэн с дальностью хода 1000 км
Число криптовалютных хедж-фондов перевалило за сотню
Тренды
В США стартует первый государственный эксперимент с выплатой БОД
Тренды
В Китае открыли роботизированную промзону за $300 млн
Промышленная робототехника
В Канаде начали тестировать робомобили на дорогах общего пользования
Беспилотные автомобили
В Шотландии запущена первая плавучая ветровая ферма
Ветровая энергетика
Робот-садовник поливает и защищает растения от вредителей
Робототехника
Виталик Бутерин: «Центробанкам еще далеко до введения криптовалют»
Криптовалюты
Электромопед от Honda станет домашней системой хранения энергии
Электромотоциклы
Eviation обещает запустить авиационный Uber в 2019 году
Электроавиация
Роберт Уразов: «На смену дипломам приходят паспорта навыков»
Тренды
Биосфера
Ученые не могут объяснить резкое сокращение числа летающих насекомых
Китай выпустит 1 млн электромобилей в 2018 году
Электромобили
ИИ от DeepMind стал гроссмейстером по игре го за 3 дня
Искусственный интеллект
Центробанк Бразилии признал биткойн финансовой пирамидой
Криптовалюты
«Мозги» беспилотной системы Apple размещаются на крыше автомобиля
Беспилотный транспорт
Новое открытие приближает появление квантовых компьютеров
Нанотехнологии
В 2018 году Baidu запустит в Китае беспилотный автобус
Беспилотный транспорт
Garmin Speak — умный автонавигатор с Alexa
Умный автомобиль
Беспилотный транспорт
Daimler показала, на что способны ее беспилотные грузовики
11 главных инженерных инноваций 2017 года
Рейтинг лучших
Электробайки Zero станут в 2018 году быстрее, мощнее, выносливее
Транспорт будущего
Samsung хочет подключить всю бытовую технику к IoT
Интернет вещей
Полиция Лос-Анджелеса начнет использовать дронов
Тренды
«Нельзя управлять экономикой, имея только бакалавров и магистров»
Кейсы
Тренды
Amazon начал продавать и доставлять целые дома
Baidu планирует захватить рынок ИИ
Искусственный интеллект