Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователи из лаборатории компьютерных технологий и искусственного интеллекта (МТИ) научили нейронные сети рассказывать о том, что они делают, сообщает Digital Trends

Мы уже писали про то, что ученые научили нейросети самостоятельно усложнять механизмы защиты передаваемой друг между другом информации. Единственная проблема была в том, что исследователи, добившиеся этого результата, также заявили, что пока не могут объяснить механизм приведший к усложнению, то есть они сами не знают, что точно произошло в их алгоритмах.

Сегодня к ним на помощь пришли коллеги из Массачусетского технологического института. Они разработали механизм, с помощью которого нейросети могут рассказать, почему они приняли именно такое решение. В более широком смысле это значит, что алгоритмам можно будет доверять, так как они будут принимать решения понятным для человека образом. Сегодня сложные программы распознают голоса, идентифицируют людей, часть из них делает сложные прогнозы на бирже, но доверие к их результатам снижается за счет отсутствия прозрачности.

Команда из МТИ обучала нейросеть на текстах и пятизвездочных рейтингах с сайта, который собирает отзывы о пиве. Алгоритм анализировал текст на связность, изучал рейтинги. В результате стал действовать практически так же, как человек. Его оценки на основании текстов совпадали с человеческими, что вызывало доверие к решениям. Оценки вкуса и аромата он угадал в 96% случаев и в каждом из них можно было получить объяснение, на основе чего такая оценка получена.

В то время, когда ученые и известные предприниматели все чаще заявляют о том, что ИИ представляет угрозу, не очень комфортно иметь под боком черный ящик, о котором известны только входные и выходные данные. Перспективной задачей ученых МТИ является обретение контроля над внутренностями ИИ. Работа с нейросетями как и любой лабораторный эксперимент, должна стать полностью прозрачной и контролируемой.

В то же время гендиректор IBM Джинни Рометти, например, не верит в восстании машин. Стив Возняк солидарен с ней, утверждая, что перестал бояться ИИ. Илон Маск в свою очередь считает, что единственный способ для людей спастись от порабощения машинами — стать «коллективным разумом».

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

«Настроить системы умного дома уже не сложнее, чем установить Windows»
Умный дом
«WorldSkills — отличный пункт в резюме»
Иннополис
Китайцы с высоким рейтингом смогут арендовать электрокар у Alibaba
Тренды
ИИ-рынок вакансий обещает каждому найти работу
Идеи
Крупнейшие компании помогут IBM коммерциализировать квантовый компьютер
Тренды
Чистый транспорт
В Австралии запустят первый поезд на солнечной энергии
Робот-морская звезда мгновенно адаптируется к неожиданным повреждениям
Робототехника
BAIC прекратит производство автомобилей с ДВС к 2025 году
Тренды
Криптовалюты
«Биткойн провалился как валюта»
Илон Маск: «Общественный транспорт — это полный отстой»
Мнения
ИИ-версия поттерианы: «Гарри отвел глаза от головы и бросил их в лес»
Искусственный интеллект
Во Франции запретят Facebook детям до 16 лет
Социальные сети
В США отменили сетевой нейтралитет
Кейсы
Новая технология Alphabet X подключит к интернету миллионы индийцев
Интернет для всех
Разработан устойчивый электровелосипед для пожилых
Транспорт будущего
Биотех-стартап Ginkgo Bioworks стал «единорогом»
Биотехнологии
В Китае с поддельной едой будут бороться с помощью блокчейна
Блокчейн
Daimler начал поставки городских электрогрузовиков в Европе
Тренды
Дания использует криптовалюту для помощи развивающимся странам
Блокчейн
Эндрю Ын займется внедрением ИИ на фабриках
Искусственный интеллект
Распознавание лиц
Китайские камеры слежения засекли журналиста ВВС за 7 мин
Thor Trucks — новый конкурент электрогрузовика Tesla Semi
Электротранспорт
К 2021 году самолеты на 75% будут состоять из напечатанных деталей
Кейсы
«Биологические часы» помогут подобрать персональное лечение
Медицина будущего
Создан микрочип, который почти невозможно взломать или разрушить
Кибербезопасность
Кейсы
Российские инженеры напечатали компактный двигатель для дронов
В Нью-Йорке создадут первую в мире цифровую систему энергоснабжения
Идеи
«Батареи для электрокаров перестанут дешеветь после 2020 года»
Электромобили
Сотрудники Tesla: «90% автомобилей Model S и Model X выходят с дефектами»
Мнения
В России учет алкоголя переводят на блокчейн
Тренды
Термоядерный синтез
«Реактор на основе водорода и бора будет готов в течение 10 лет»
Китай собирает ДНК граждан под видом бесплатной меддиагностики
Тренды
Стартап ObEN создает реалистичных 3D-аватаров
Кейсы
Робототехника вызвала бум электродвигателей
Робототехника
«До Скайнета еще далеко, но все же лучше к нему подготовиться»
Мнения
Идеи
Светящиеся растения заменят фонари и светильники
Вертикальные фермы Local Roots обещают прокормить космонавтов
Еда будущего
Ученые из МГУ разработали и протестировали квантовый телефон
Квантовые технологии
Солнечная энергетика в США заменит 10 ГВт газовых электростанций
Тренды
Toyota и Panasonic объединились для разработки батарей для EV
Аккумуляторы
Создан новый тип вентиля для квантового компьютера
Квантовые технологии
Технологию автономных имплантов подсмотрели у электрических угрей
Импланты
Aurora передала военным систему автопилота для вертолетов
Беспилотная авиация
Блокчейн
Криптокотята на блокчейне выгоднее, чем пенсионные накопления
«ИИ разрушает нашу свободу воли»
Искусственный интеллект
Южная Корея запретит банкам проводить операции с криптовалютами
Блокчейн
Китай собирается создать в стране 290 «умных городов»
Умные города
Криптомания привела к рекордному росту эфира и лайткойна
Криптовалюты
ЗОЖ предотвращает смертность раковых больных на 40%
Борьба с раком