Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователи из лаборатории компьютерных технологий и искусственного интеллекта (МТИ) научили нейронные сети рассказывать о том, что они делают, сообщает Digital Trends

Мы уже писали про то, что ученые научили нейросети самостоятельно усложнять механизмы защиты передаваемой друг между другом информации. Единственная проблема была в том, что исследователи, добившиеся этого результата, также заявили, что пока не могут объяснить механизм приведший к усложнению, то есть они сами не знают, что точно произошло в их алгоритмах.

Сегодня к ним на помощь пришли коллеги из Массачусетского технологического института. Они разработали механизм, с помощью которого нейросети могут рассказать, почему они приняли именно такое решение. В более широком смысле это значит, что алгоритмам можно будет доверять, так как они будут принимать решения понятным для человека образом. Сегодня сложные программы распознают голоса, идентифицируют людей, часть из них делает сложные прогнозы на бирже, но доверие к их результатам снижается за счет отсутствия прозрачности.

Команда из МТИ обучала нейросеть на текстах и пятизвездочных рейтингах с сайта, который собирает отзывы о пиве. Алгоритм анализировал текст на связность, изучал рейтинги. В результате стал действовать практически так же, как человек. Его оценки на основании текстов совпадали с человеческими, что вызывало доверие к решениям. Оценки вкуса и аромата он угадал в 96% случаев и в каждом из них можно было получить объяснение, на основе чего такая оценка получена.

В то время, когда ученые и известные предприниматели все чаще заявляют о том, что ИИ представляет угрозу, не очень комфортно иметь под боком черный ящик, о котором известны только входные и выходные данные. Перспективной задачей ученых МТИ является обретение контроля над внутренностями ИИ. Работа с нейросетями как и любой лабораторный эксперимент, должна стать полностью прозрачной и контролируемой.

В то же время гендиректор IBM Джинни Рометти, например, не верит в восстании машин. Стив Возняк солидарен с ней, утверждая, что перестал бояться ИИ. Илон Маск в свою очередь считает, что единственный способ для людей спастись от порабощения машинами — стать «коллективным разумом».

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Новая камера оснастит 3D-зрением смартфоны и робомобили
Виртуальная реальность
Эндрю Ын запускает ИИ-фонд на $150 млн
Искусственный интеллект
Изобретен материал, который охлаждает себя сам
Материалы будущего
Samsung запатентовал Galaxy Note со встроенным алкотестером
Тренды
Российская компания показала испытания беспилотного комбайна
Беспилотный транспорт
В Германии протестировали первую электростанцию-аккумулятор
Хранение энергии
Борьба с голодом
Создан метод управления фотосинтезом, который поможет накормить мир
Ученые распечатали лабораторию на чипе размером менее 100 мкм
Микроэлектроника
Нефтяные корпорации начали инвестировать в чистую энергетику
Энергетика
Аккумуляторы
На смену литий-ионным батареям придут цинково-воздушные
«Нейроинтерфейсы лишат людей когнитивной свободы»
Мнения
Китайская компартия создаст комитет для надзора за дата-центром Apple
Свобода интернета
Eva — самый доступный по цене промышленный робот
Робототехника
Победитель чемпионата по Call of Duty получил $1,5 млн
Кейсы
Разработана «заплатка» для сердца и других органов
Медицина будущего
Билл Гейтс пожертвовал на благотворительность рекордные $4,6 млрд
Кейсы
Китай учится уважать чужие патенты и защищать свои
Интеллектуальная собственность
Рост минимальной зарплаты повышает риск автоматизации
Тренды
Жидкая биопсия станет доступной уже в 2018 году
Идеи
Кейсы
Continental заново изобрела колесо
В США число роботов на заводах выросло на 20% за 5 лет
Автоматизация
Мнения
8 наций, которым грозит вымирание
ИИ автоматизирует сбор отпечатков пальцев на месте преступления
Идеи
Бот пишет новости за 2-3 секунды после завершения матча
Робо-журналистика
В роботакси Lyft будут работать люди, но не в качестве водителей
Идеи
ИИ избавит потоковое видео от подвисаний
Искусственный интеллект
Toyota и ИТ-компании создают экосистему умных автомобилей
Интернет вещей
Hyperloop появится в Азии через 3-4 года
Тренды
«Только кооперация ИИ с человеком предотвратит восстание машин»
Идеи
Тренды
«Вытеснение обычных денег криптовалютами неизбежно»
Французская компания выпускает уникальные модульные электромобили
Электромобили
Tesla представила передвижную модель дома будущего
Чистая энергия
Разработана летающая версия DeLorean из «Назад в будущее»
Летающие автомобили
Блокчейн-стартап за час заработал на ICO $187 млн
Кейсы
Google купила сервис диагностики болезней с помощью смартфона
Идеи
Илон Маск: «Искусственный интеллект опаснее Северной Кореи»
Искусственный интеллект
В Барселоне проведут эксперимент с БОДом
Тренды
Медицина будущего
IBM Watson составил план лечения рака за 10 минут
С начала года BMW продала 50 тысяч электромобилей
Кейсы
Waymo запатентовала мягкие беспилотные автомобили
Тренды
Супертонкие полупроводники продлят действие закона Мура
Полупроводники
Российские исследователи научили нейросеть распознавать запахи
Распознавание запахов
Тренды
Китайские хирурги заменили пациенту позвонки 3D-имплантами
ИИ от Илона Маска превзошел лучших игроков в Dota 2
Искусственный интеллект
Электромобиль приносит своему владельцу до $1530 в год
Электромобили
ИИ «Соколиный глаз» следит за сотрудниками
Идеи
CRISPR подготовит органы свиней к трансплантации людям
Идеи
«На криптовалютах легче потерять деньги, чем заработать»
Тренды
DARPA отобрало шесть команд для разработки «нейронного кружева»
Идеи
Эволюция смартфонов
Энди Рубин опубликовал фотографии сборочных линий «убийцы» iPhone
Новый чехол для смартфона помогает определять болезни
Медицина
Alexa будет управлять умными лампочками от IKEA
Тренды