Нейросети научились рационально объяснять свои решения

Исследователи из лаборатории компьютерных технологий и искусственного интеллекта (МТИ) научили нейронные сети рассказывать о том, что они делают, сообщает Digital Trends

Мы уже писали про то, что ученые научили нейросети самостоятельно усложнять механизмы защиты передаваемой друг между другом информации. Единственная проблема была в том, что исследователи, добившиеся этого результата, также заявили, что пока не могут объяснить механизм приведший к усложнению, то есть они сами не знают, что точно произошло в их алгоритмах.

Сегодня к ним на помощь пришли коллеги из Массачусетского технологического института. Они разработали механизм, с помощью которого нейросети могут рассказать, почему они приняли именно такое решение. В более широком смысле это значит, что алгоритмам можно будет доверять, так как они будут принимать решения понятным для человека образом. Сегодня сложные программы распознают голоса, идентифицируют людей, часть из них делает сложные прогнозы на бирже, но доверие к их результатам снижается за счет отсутствия прозрачности.

Врачам впервые удалось полностью вылечить пациента от ВИЧ

Команда из МТИ обучала нейросеть на текстах и пятизвездочных рейтингах с сайта, который собирает отзывы о пиве. Алгоритм анализировал текст на связность, изучал рейтинги. В результате стал действовать практически так же, как человек. Его оценки на основании текстов совпадали с человеческими, что вызывало доверие к решениям. Оценки вкуса и аромата он угадал в 96% случаев и в каждом из них можно было получить объяснение, на основе чего такая оценка получена.

В то время, когда ученые и известные предприниматели все чаще заявляют о том, что ИИ представляет угрозу, не очень комфортно иметь под боком черный ящик, о котором известны только входные и выходные данные. Перспективной задачей ученых МТИ является обретение контроля над внутренностями ИИ. Работа с нейросетями как и любой лабораторный эксперимент, должна стать полностью прозрачной и контролируемой.

Технология российского стартапа изменит мировой рынок обуви

В то же время гендиректор IBM Джинни Рометти, например, не верит в восстании машин. Стив Возняк солидарен с ней, утверждая, что перестал бояться ИИ. Илон Маск в свою очередь считает, что единственный способ для людей спастись от порабощения машинами — стать «коллективным разумом».

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Контур.Толк запускает бесплатную версию для онлайн-встреч без ограничений по времени
Технологии
Starship довезет пассажиров из Европы в США за полчаса на скорости 27 000 км/ч
Новости
Новое приложение для видеокарт GeForce от Nvidia уже доступно для скачивания
Новости
Rutube упростил подачу сведений о блогерах в Роскомнадзор
Новости
Бюджетный термоядерный реактор смог удержать плазму при 300 000 °С 
Новости
Посмотрите на картину робота-художника: ее продали 1 000 000 долларов
Новости
Илона Маска назначили в Белый дом: какие планы у миллиардера в правительстве Трампа
Новости
Ученая вылечила собственный рак с помощью вирусов из лаборатории
Наука
Платформу китайского гуманоидного робота открыли для всех разработчиков
Новости
Серферов от нападения гигантских акул защитят светодиодами
Наука
Физики создают «световые ураганы», чтобы ускорить передачу данных
Наука
Астрономы усомнились во влиянии темной материи в формировании галактик
Наука
Нейроны растут в четыре раза дальше во время тренировки, выяснили в MIT
Наука
Скорость потепления пересмотрели: мир на грани ограничений Парижских соглашений
Наука
Робот-хирург научился оперировать после просмотра видео
Новости
Найден «межзвездый туннель» от Солнечной системы к соседней звезде
Космос
Стартовал конкурс на открытие центра развития промышленной робототехники
Иннополис
Магнитные мышцы для роботов держат вес в 1000 раз больше собственного
Новости
LG показала гибкий дисплей: он растягивается на 50%, складывается и скручивается
Новости
Уран оказался не таким, как считали ученые
Космос