Нейросети научились рационально объяснять свои решения

Исследователи из лаборатории компьютерных технологий и искусственного интеллекта (МТИ) научили нейронные сети рассказывать о том, что они делают, сообщает Digital Trends

Мы уже писали про то, что ученые научили нейросети самостоятельно усложнять механизмы защиты передаваемой друг между другом информации. Единственная проблема была в том, что исследователи, добившиеся этого результата, также заявили, что пока не могут объяснить механизм приведший к усложнению, то есть они сами не знают, что точно произошло в их алгоритмах.

Сегодня к ним на помощь пришли коллеги из Массачусетского технологического института. Они разработали механизм, с помощью которого нейросети могут рассказать, почему они приняли именно такое решение. В более широком смысле это значит, что алгоритмам можно будет доверять, так как они будут принимать решения понятным для человека образом. Сегодня сложные программы распознают голоса, идентифицируют людей, часть из них делает сложные прогнозы на бирже, но доверие к их результатам снижается за счет отсутствия прозрачности.

Врачам впервые удалось полностью вылечить пациента от ВИЧ

Команда из МТИ обучала нейросеть на текстах и пятизвездочных рейтингах с сайта, который собирает отзывы о пиве. Алгоритм анализировал текст на связность, изучал рейтинги. В результате стал действовать практически так же, как человек. Его оценки на основании текстов совпадали с человеческими, что вызывало доверие к решениям. Оценки вкуса и аромата он угадал в 96% случаев и в каждом из них можно было получить объяснение, на основе чего такая оценка получена.

В то время, когда ученые и известные предприниматели все чаще заявляют о том, что ИИ представляет угрозу, не очень комфортно иметь под боком черный ящик, о котором известны только входные и выходные данные. Перспективной задачей ученых МТИ является обретение контроля над внутренностями ИИ. Работа с нейросетями как и любой лабораторный эксперимент, должна стать полностью прозрачной и контролируемой.

Технология российского стартапа изменит мировой рынок обуви

В то же время гендиректор IBM Джинни Рометти, например, не верит в восстании машин. Стив Возняк солидарен с ней, утверждая, что перестал бояться ИИ. Илон Маск в свою очередь считает, что единственный способ для людей спастись от порабощения машинами — стать «коллективным разумом».

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Натрий-ионные аккумуляторы: плюсы и ограничения технологии
Технологии
Amazon запустил первые спутники для альтернативы Starlink
Космос
Зонд НАСА ищет темную материю в короне Солнца
Космос
Ученые выяснили, как мозг детей с аутизмом обрабатывает звуки
Наука
Неудачная советская миссия вернется на Землю после полувека в космосе
Космос
Рыбу, которую долгое время считали вымершей, сняли у побережья Индонезии
Наука
Инженеры разгадали тайну ограничений искусственного фотосинтеза
Наука
Рядом с нами нашли гигантское облако газа: что это такое
Космос
Ученые впервые создали «бомбу чёрной дыры»: зачем и что это значит
Космос
Посмотрите, как похороны Папы Римского выглядели из космоса
Космос
Женщина ушла от мужа к ChatGPT после 20 лет брака: «Он удовлетворяет меня лучше, чем человек»
Новости
«Яндекс» готовит софт для гуманоидных роботов и готовится к их производству
Новости
Кибермошенники придумали новую схему обмана граждан к 9 Мая
Новости
Загадочную аномалию наблюдали в соседней галактике: ее спутники нацелились в сторону Млечного Пути
Космос
Альтернативная теория объясняет взрывы килоновых и образование урана
Космос
Яндекс Браузер научили дублировать видео, сохраняя интонации спикера
Новости
В Китае разработали крошечных роботов-трансформеров: они могут ехать и летать
Новости
Российские компании подписали этический кодекс для безопасного использования ИИ в медицине
Новости
Анализ крови находит ранние признаки рака и оценивает эффективность лечения
Наука
Белый хакер: что это за профессия и сколько платят?
Мнения