Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователи из команды Google AI, обеспокоенные бесконтрольным развитием ИИ, предложили создать платформу по изучению потенциальных опасностей искусственного интеллекта. «Мы считаем важным начать разрабатывать практические подходы к созданию безопасных и надежных систем ИИ», — написал в блоге Крис Олах, один из ученых Google AI.

Олах и его коллеги приводят пример робота, который учится убирать помещение. И может научиться тому, чему не следует. Например, как созданный Томом Мерфи бот для игры в Nintendo, который научился постоянно нажимать кнопку паузы, играя в «Тетрис». Что если робот научится сбивать вазы на пол, потому что так проще убираться? Как помешать машине делать глупые и опасные вещи, например, мыть мокрой тряпкой розетки? Как объяснить, что то, что можно делать дома, нельзя делать в офисе?

Ученые Google AI установили несколько конкретных принципов для исследователей ИИ: «избегать негативных побочных эффектов», например, или «безопасное исследование». Это практические советы, но теоретическое обоснование еще не определено. Поскольку ни у кого нет хороших ответов, Олах считает, что пора начать их искать. ИИ не будет нас ждать, пишет Wired.

Системы наподобие AlphaGo учатся анализировать огромный объем данных, но обучается на их основе компьютер самостоятельно. Он играет сам с собой в игры и приходит к решениям, которые человеку в голову не приходили. И ведет себя непредсказуемо.

Пока машины не могут принимать важные решения самостоятельно, потому что моральные вопросы для них непонятны. Но уже ведутся разработки и в этом направлении. Например, Кен Форбус из Северо-Западного университета создал механизм отображения структур, который позволяет компьютеру делать выводы на основе аналогий. «В теории можно научить его вести себя больше как человек», — говорит он.

Но до этого еще далеко, тем более что и люди не могут сойтись во мнении, что такое хорошо, а что — плохо. Тем временем, машины умнеют. И вопрос не в том, смогут ли они когда-нибудь выиграть в «Тетрис», не жульничая. А в том, смогут ли они понять, что жульничать нехорошо.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Идеи
Beyond Meat увеличит производство искусственного мяса в три раза
Чехол смартфона превратили в глюкометр
Лечение диабета
Разработан двумерный транзистор на бумажной основе
Электронная бумага
Clova — виртуальный помощник, понимающий все нюансы японского языка
Кейсы
ВЭФ назвал скуку одним из главных рисков автоматизации
Тренды
Найден источник метана в океане — это микробы
Научные открытия
Зарплаты блокчейн-специалистов в Швейцарии выросли до $180 тысяч в год
ICO
Квантовые компьютеры
«Квантовые компьютеры страшнее ядерного оружия»
Глава Boeing пообещал раньше Маска отправить человека на Марс
Миссия на Марс
Bank of America запатентовал автоматический обменник криптовалют
Криптовалюты
Доказана эффективность генной терапии в борьбе с болезнями мозга
Генная терапия
Hilton оборудует номера в своих отелях системами умного дома
Умный дом
Skypod — робот-кладовщик, взбирающийся на полки
Промышленные роботы
«Генное программирование станет новой инженерной дисциплиной»
Генная инженерия
Европейские энергокомпании станут углеродно-нейтральными к 2050 году
Тренды
Солнечная энергия
Создан солнечный элемент по рецептам Теслы и Эйнштейна
«ИИ оставит программистов без работы к 2040 году»
Искусственный интеллект
Пациентам датской больницы напечатают еду с учетом предписаний врача
3D-печать
Видеоигры предотвращают старческое слабоумие
Исследования мозга
ИИ помогает ловить серийных убийц
Идеи
Lyft начинает испытания робомобилей от NuTonomy
Беспилотные автомобили
Let Glass — первые умные очки с поддержкой Alexa
Умные очки
Идеи
Синтезирован «гормон любви» без побочных эффектов
Новая технология позволяет видеть сквозь любые стены
Кейсы
Amazon запатентовала ИИ-консультанта для садоводов-любителей
Кейсы
Открыт нейронный механизм подавления чувства голода
Медицинские исследования
Сооснователь Wikipedia создаст энциклопедию на блокчейне
Идеи
Британская компания выпустит «вечные» кроссовки с подошвой из графена
Новые материалы
Австралийская фондовая биржа переходит на блокчейн
Блокчейн
Япония представила первые в мире напечатанные OLED-панели
Гибкие дисплеи
Goldman Sachs назвал криптовалюту эфир в числе трендов, меняющих мир
Тренды
«Перезагрузка» митохондрий замедляет развитие болезни Альцгеймера
Борьба со старением
Rinspeed представила концепт беспилотного электробуса
Транспорт будущего
Alexa заставляет пользователей больше покупать
Голосовые помощники
Термоядерный синтез
Термоядерный реактор ITER готов на 50%
Криптовалюты
В России введут уголовную ответственность за расчеты в криптовалютах
Каждый пятый биткойн покупают в Южной Корее
Блокчейн
Миниатюрный биосенсор анализирует состояние организма по поту
Биотехнологии
В Сан-Франциско запретили доставку покупок роботами-курьерами
Кейсы
Илона Маска обвинили во всемирном дефиците батареек
Аккумуляторы
Новый ИИ за считанные часы освоил шахматы и го и разгромил чемпионов
Искусственный интеллект
Qualcomm представила процессор Snapdragon 845
Тренды
Commonwealth Bank выпустит первые в мире облигации на блокчейне
Блокчейн
IBM представила первые серверы Power9 для ИИ
Обучение машин
Tencent: «В мире всего 300 тысяч экспертов по ИИ, хотя нужны миллионы»
Мнения
Шведский стартап начинает производство водорослей для фотоэлементов
Чистая энергия
Квантовые технологии
Внутри биологической системы впервые создали квантовую запутанность
К 2022 умные города помогут снизить расходы на $5 трлн
Умный город
Сервис летающих такси от Volocopter запустят до 2021
Транспорт будущего