Создан ИИ, который объяснит принципы своего мышления пользователю

Группа исследователей из Калифорнийского университета в Лос-Анджелесе, Калифорнийского университета в Сан-Диего, Пекинского университета и Пекинского института общего искусственного интеллекта (BIGAI) разработала новую систему искусственного интеллекта, которая может объяснить свои процессы принятия решений пользователю-человеку. Эта система, представленная в журнале Science Robotics, может стать новым шагом на пути к созданию более надежного и понятного ИИ.

Целью системы XAI, созданной доктором Луяло Юанем и его коллегами, является достижение так называемого выравнивания ценностей. Это означает ситуацию, при которой пользователь-человек сможет понять, почему робот или машина действуют определенным образом или приходят к определенным выводам, а машина или робот смогут понять действия пользователя и его ход мысли. Это поможет значительно улучшить коммуникацию между человеком и роботом.

Недавняя статья команды основана на одной из их предыдущих работ, также опубликованной в Science Robotics, где команда исследовала влияние, которое «объяснимые системы» (модели, которые способны объяснять принцип собственной работы) могут оказать на доверие пользователя к ИИ во время совместной работы.

Исследователи надеются, что их новая «объяснимая система» улучшит сотрудничество между людьми и машинами в решении многочисленных прикладных задач. Кроме того, они считают, что использование таких систем повысит доверие людей к роботам на основе искусственного интеллекта, широко используемым в повседневной жизни: умные помощники, бытовые роботы и другие.

За последние несколько десятилетий системы ИИ становятся все более продвинутыми, достигая значительных результатов во многих реальных задачах. Тем не менее, большинство существующих систем искусственного интеллекта не делятся своими размышлениями с пользователями-людьми, что может сделать оценку их надежности чрезвычайно сложной задачей.


Читать далее:

Предсказание Эйнштейна может сбыться: как эксперимент с невидимыми атомами изменит физику

На пирамиде в Китае нашли портрет «царя предков». Он правил более 4 000 лет назад

«Это научная фантастика»: ученые создают принципиально новый тип квантовых компьютеров

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Астрономы сфотографировали «детство Вселенной» до появления галактик
Космос
Прощальные кадры: лунный модуль сфотографировал закат на Луне
Наука
Гены загадочных предков людей повлияли на работу мозга, показало исследование
Наука
В Петербурге открыли лабораторию для создания компьютеров, которые имитируют работу мозга
Наука
Телескоп «Евклид» показал 26 млн галактик: опубликованы первые результаты миссии
Космос
Крошечных морских животных увеличили в пять раз, чтобы рассмотреть их клетки
Наука
В Сеченовском Университете появится «умная» операционная 
Новости
Операторы связи начали заменять китайское оборудование на российское
Новости
В России хотят обязать использование отечественных процессоров для ИИ
Новости
Посмотрите на первого робота-гуманоида Nvidia в действии
Новости
Образцы с обратной стороны Луны показали, какой она была в прошлом
Космос
Морские интернет-кабели научились «прослушивать» на предмет саботажа
Новости
Нового рекорда на термоядерном синтезе добились в России
Наука
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука