Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователи из команды Google AI, обеспокоенные бесконтрольным развитием ИИ, предложили создать платформу по изучению потенциальных опасностей искусственного интеллекта. «Мы считаем важным начать разрабатывать практические подходы к созданию безопасных и надежных систем ИИ», — написал в блоге Крис Олах, один из ученых Google AI.

Олах и его коллеги приводят пример робота, который учится убирать помещение. И может научиться тому, чему не следует. Например, как созданный Томом Мерфи бот для игры в Nintendo, который научился постоянно нажимать кнопку паузы, играя в «Тетрис». Что если робот научится сбивать вазы на пол, потому что так проще убираться? Как помешать машине делать глупые и опасные вещи, например, мыть мокрой тряпкой розетки? Как объяснить, что то, что можно делать дома, нельзя делать в офисе?

Ученые Google AI установили несколько конкретных принципов для исследователей ИИ: «избегать негативных побочных эффектов», например, или «безопасное исследование». Это практические советы, но теоретическое обоснование еще не определено. Поскольку ни у кого нет хороших ответов, Олах считает, что пора начать их искать. ИИ не будет нас ждать, пишет Wired.

Системы наподобие AlphaGo учатся анализировать огромный объем данных, но обучается на их основе компьютер самостоятельно. Он играет сам с собой в игры и приходит к решениям, которые человеку в голову не приходили. И ведет себя непредсказуемо.

Пока машины не могут принимать важные решения самостоятельно, потому что моральные вопросы для них непонятны. Но уже ведутся разработки и в этом направлении. Например, Кен Форбус из Северо-Западного университета создал механизм отображения структур, который позволяет компьютеру делать выводы на основе аналогий. «В теории можно научить его вести себя больше как человек», — говорит он.

Но до этого еще далеко, тем более что и люди не могут сойтись во мнении, что такое хорошо, а что — плохо. Тем временем, машины умнеют. И вопрос не в том, смогут ли они когда-нибудь выиграть в «Тетрис», не жульничая. А в том, смогут ли они понять, что жульничать нехорошо.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Система распознавания лиц помогла раскрыть 21 тысячу преступлений
Кейсы
Голландские аэропорты переходят на энергию ветра
Возобновляемая энергия
6 самых футуристических стартапов акселератора Y Combinator
Стартапы
В Китае разработан квантовый детектор субмарин
Квантовые технологии
Идеи
10 главных научных открытий 2017 года
Ученые из МТИ разработали метод создания роботов за 4 часа
Роботы
Lilium обещает вывести летающие такси на рынок в 2025 году
Летающие такси
Открыт новый тип электропроводности
Идеи
В России станции быстрой зарядки электромобилей появятся в этом году
Электрозаправки
Фотосинтез бактерий-«киборгов» в 40 раз эффективнее, чем у растений
Идеи
К 2022 году солнечные электростанции мира превзойдут по мощности АЭС
Тренды
Apple протестирует беспилотный автобус для сотрудников
Беспилотный транспорт
Криптовалюты
Эстония запустит эсткойн — национальную криптовалюту
К 2020 году вся линейка бытовых приборов Samsung получит ИИ-функции
Тренды
Человеческий мозг может предсказывать будущее
Нейротехнологии
ИИ предскажет деменцию до появления симптомов
Деменция
Мексика выпустит свой первый электромобиль
Тренды
Хакеры взламывают криптокошельки через номера мобильных телефонов
Криптовалюты
Электроавиация
Электросамолет Sun Flyer выгоднее бензиновых аналогов
Возрожден проект ядерного реактора на расплавах солей тория
Ядерная энергетика
Entocycle разводит съедобных личинок
Еда будущего
Медицинские технологии
Разработана вакцина, дающая иммунитет к героину
Дома-электростанции набирают популярность в США
Возобновляемая энергетика
Блокчейн-платформа TRON — это новый Alibaba
Криптовалюты
Марк Кьюбан инвестировал в венчурный криптовалютный фонд
Тренды
Проведена первая биткойн-транзакция со спутника
Кейсы
В Гарварде создают пробиотик, превращающий обычных людей в спортсменов
Спорт
В процессорах Intel Core 8-го поколения будет 6 ядер
Железо
Миллиардеры делают ставку на космический бизнес
Тренды
«Запрет роботов-убийц не имеет смысла»
Мнения
В Великобритании приравняли онлайн-преступления к обычным
Онлайн-преступления
Нанолазер уничтожает клетки рака
Борьба с раком
Новый 3D-принтер печатает пластиковые инструменты, крепкие как сталь
3D-печать
Хранение энергии
Cтартап использует поезда для хранения энергии
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
Тренды
В США криптовалюты хотят приравнять к доллару
Распознавание лиц избавит человечество от паролей и ключей
Распознавание лиц
«Ледяные батареи» сократят потребление энергии на 95%
Чистая энергия
Sky Hopper — грузовой конвертоплан на электротяге
Идеи
Uber предложили объединить с Tesla
Технологические компании
«Электронная кожа» соберет данные о состоянии здоровья
Идеи
Aspire откроет роботизированную ферму по выращиванию насекомых
Тренды
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Топ-5 функций Oreo — новой ОС Android
Мобильные технологии
«Формула-1» проведет киберспортивный чемпионат мира
Кейсы
Ford может полностью перейти на электромобили
Электромобили
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Искусственный интеллект
Научные открытия
Открыт новый класс химических реакций
«Роботы уничтожат средний класс»
Мнения
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
Транспорт будущего
«Дни двигателя внутреннего сгорания сочтены»
Wal-Mart запатентовала летающий склад-дирижабль
Идеи